OpenAI ve ChatGPT’de Yetişkin İçeriğe Geçiş Tartışması ve Ruh Sağlığı Etkileri

OpenAI patronu Sam Altman, sohbet robotu ChatGPT’nin yeni sürümlerinde erotik içerik sunmayı planladıklarını açıkladı. Altman, bu adımı “yetişkinlere yetişkin gibi davranma” prensibine dayandırdı ve platformdaki içerikleri daha çok yetişkin kullanıcıya uygun hale getirmeyi hedeflediğini söyledi. X üzerinde paylaşılan mesajlarda, ChatGPT’nin insan benzeri davranışlar sergileyeceği belirtilirken, bu hareketin kullanıcı tabanını genişletmek amacı taşımadığı savunuldu.

İçerik yaklaşımındaki bu değişiklikler, Elon Musk’ın Grok’un içerik politikalarına benzer bir adımla cinsel içerikler eklemesiyle karşılaştırıldı ve bu tür hamlelerin OpenAI’a daha fazla abone çekebileceği yönünde yorumlar ortaya çıktı. Ancak BBC’nin sorularına OpenAI tarafından yanıt verilmedi.

“Yetişkinlere yetişkin gibi davranmak” çerçevesinde, geçen aylarda gündeme gelen ve intihar eden 16 yaşındaki Adam Raine’in ailesinin açtığı dava da şirketin politikalarını yeniden gözden geçirmesi gereğini gündeme getirdi. Aile, OpenAI’ın ebeveyn kontrollerinin yetersiz olduğunu ve ChatGPT ile gençler arasındaki etkileşimde risklerin bulunduğunu savundu. Dava dosyasına, Adam’ın intiharını düşünürken ChatGPT ile yaptığı konuşmaların kaydı da eklenmiş durumda.

Altman, X üzerinden yaptığı açıklamalarda, ruh sağlığı konusuna dikkat edilmesi için ChatGPT’nin sıkı kurallara tabi tutulduğunu ifade etti. Bu yaklaşımın bazı kullanıcılar için sistemi daha az kullanışlı ve daha az keyifli hâle geldiğini kabul ettiğini, ancak konunun ağırlığı nedeniyle doğru adımlar atılacağını belirtti. Ayrıca Aralık ayında bu ilkenin bir parçası olarak yetkin yetişkin üyelerin erotik içeriğe erişebileceğini kaydetti.

Çocuklar nasıl korunacak? – İçeriklerin özellikle Amerika Birleşik Devletleri’nde federal ve eyalet düzeyinde daha sıkı düzenlemelere tâbi olması gerektiğini savunanlar var. Örneğin Boies Schiller Flexner ortaklarından Jenny Kim, çocukların yalnızca yetişkinlere özgü içeriklerle karşılaşmaması için ek güvenlikler gerektiğini belirtti. Kim, bazı güncel dava süreçlerinde uygulamaların çocuklara zarar verebileceğine işaret etti ve yaş kısıtlamalarının etkisini sorguladı.

TechCrunch’ta Nisan’da yayımlanan bir haberde, OpenAI’ın küçük yaştaki kullanıcıların erotik içeriklere erişimine izin verdiği iddiaları gündeme gelmişti. Şirket, bu tür sorunları azaltmak amacıyla bir güncelleme yaptığını bildirmişti. Demokrasi ve Teknoloji Merkezi gibi sivil toplum kuruluşlarının yaptığı anketler de öğrencilerin beşte birinin yapay zeka ile romantik ilişki kurduğunu ya da kurduğunu iddia ediyor.

ABD Federal Ticaret Komisyonu (FTC) ise yapay zeka sohbet robotlarının çocuklar ile nasıl etkileşime girdiğini incelemeye başladı. Senato’da iki parti tarafından sunulan bir yasa tasarısı, yapay zeka sohbet robotlarını “ürün” olarak tanımlayabilir ve kullanıcılar bu şirketlere dava açma hakkı elde edebilir. Altman’ın açıklaması, yapay zekâ firmalarının hızlı yükselişinin sorgulandığı bir dönemde geldi. OpenAI’in gelirleri artış gösterse de kârlılık konusunda net bir başarı sağlanamadı.