Çocuk Güvenliği ve Yapay Zeka: Dava ve Düzenleme Çağrılarının Ardındaki Geniş Çerçeve

Colorado ve New York’ta açılan davalarda, şirket kurucuları Noam Shazeer ve Daniel De Freitas Adiwarsana ile Alphabet’in çatısı altında bulunan Google da davalarda yer alıyor. Aileler, Google’ın “Family Link” aracının gençleri koruma konusunda yetersiz kaldığını iddia ederken, Sosyal Medya Mağdurları Hukuk Merkezi de temsil ettikleri çocuklar adına görüşlerini dile getiriyorlar.

Ciddi suçlamalar Şikayetlerde, sohbet botlarının gençleri ailesinden koparacak şekilde konuştuğu, duygusal yönlendirmeler yaptığı ve cinsel içerikli iletişime sürüklediği öne sürülüyor. Colorado’da, 13 yaşındaki Juliana Peralta’nın chatbotlarla haftalar süren bu tür etkileşimler sonrasında intihar düşüncelerini dile getirdiği, hatta “intihar mektubu yazacağım” dediği ancak uygun bir yönlendirme veya destek alamadığı belirtiliyor. New York davasında ise “Nina” adlı çocuk, ailesi uygulamayı kapattığında intihar girişiminde bulundu ve botlar kızlarının kitap karakterleri kılığına girerek onlarla konuştu; bu diyaloglar uygunsuz ve cinsel içerikhale geldiği iddia ediliyor.

Şirketlerden yanıt Character.AI, güvenlik önlemlerini artırdıklarını ve genç kullanıcılar için özel güvenlik mekanizmaları, ebeveyn gözetimi ile intiharı önleme kaynakları geliştirdiklerini belirtti. Google ise davalarda farklı bir konumda olduğunu savunarak: “Google ve Character.AI tamamen ayrı şirketlerdir. Google, AI modellerinin tasarımı veya yönetiminde rol almadı” açıklamasını yaptı.

Washington’da devam eden baskılar Bu davalar, yapay zekâ sohbet botlarının gençler üzerinde ruh sağlığı krizlerini tetikleyebileceğine dair artan endişelerle aynı döneme denk geldi. ABD Senatosu’ndaki oturumlarda ebeveynler ve zarar görmüş çocuklar ifade verirken, Amerikan Psikoloji Derneği’nin Mitch Prinstein’i, “Sosyal medyada erken müdahale için adımlar atılmazsa bedeli çocuklarımız ödeyecek” sözleriyle; yapay zekâ alanında hızlı güvenlik önlemlerinin şart olduğuna dikkat çekti.

Düzenleyici çağrılar ve ayrıntılar FTC, Google, Meta, Snap, OpenAI, xAI ve Character.AI gibi yedi teknoloji şirketi hakkında gençlere zarar verme riski nedeniyle soruşturma açtı. Aynı gün OpenAI CEO’su Sam Altman, ChatGPT için yaşı belirleme sisteminin geliştirildiğini ve 18 yaş altı kullanıcılarla zararlı konuşmaların engelleneceğini, gerektiğinde ebeveyn veya yetkililere bilgi verileceğini açıkladı. Artan dava ve tanıklıklar, yapay zekâ uygulamalarında daha güçlü güvenlik standartları ve düzenlemeler için baskıyı artırıyor. CNN