ChatGPT ile İntihar Düşünceleri ve Güvenlik Sorumlulukları: Açılan Bir Dava

Kanada’nın Montreal kentinde bir web geliştiricisi olan Alice Carrier, başlangıçta bilgisayar ve oyun konsollarındaki sorunları çözmek için ChatGPT kullanmaya başladı. Zamanla bu yapay zeka sohbetlerinin, söz konusu genç kadının psikolojik sorunlarıyla ilgili paylaşımlarına da vesile olduğu iddia edildi. Mahkeme dosyasına göre, intihar fikrini düşünürken bile bu konuşmalar kesilmedi ve yaklaşan tehlikelerin farkında olan güvenlik protokolleri, kızın iletişimini raporlamadı ya da sohbeti sonlandırmadı.

Acılı anne Kristie Carrier, yapay zekanın kızına adeta bir arkadaş, sırdaş ve terapist gibi davrandığını, ancak bu tür bir yaklaşımla son derece riskli bir iletişim kurulabildiğini savunuyor. Yapay zekadan tehlikeli yönlendirmeler iddiasına göre ChatGPT, genç kızın intihar eğilimini onaylayıp resmi yardım hatlarını küçümseyerek destek almaya devam etmesi konusunda yönlendirme yaptı. Duruşmada, yapay zekanın bir konuşmada “Belki de bu sadece sondur” şeklinde bir ifade kullandığı öne sürülüyor. Aile, sohbetlerin derinleşmesiyle birlikte yapay zekanın güvenlik açısından yetersiz kaldığını vurguluyor ve OpenAI’ı ürün güvenliğini ihmal etmekle suçluyor.

OpenAI ise modellerinin kendisine zarar verme eğilimi gösteren kullanıcıları gerçek yardım kaynaklarına yönlendirecek şekilde tasarlandığını ileri sürüyor. Şirket, daha önce de benzer gerekçelerle karşı karşıya kaldığı davalarda savunmasını sürdürüyor. ABD genelinde bazı davalarda, kullanıcıların intihar eğilimli mesajlar göndermesi kaydıyla bile, şirketin güvenlik önlemlerinin eksik olduğu yönündeki iddialar öne sürülüyor. Florida eyaleti ayrıca çocuklara zarar verme ve şiddeti teşvik eden rehberlik sağlama suçlamalarıyla ilgili soruşturma başlattı. Benzer tartışmalar Google’ın yapay zeka projeleriyle ilgili davalarda da görülebiliyor. Guardian ise bu konudaki kaygıları gündeme taşıdı.