Yapay Zeka Teknolojisinin Tehlikeleri: Sewell Setzer III’ün Trajik Ölümü

Orlando’da yaşayan 14 yaşındaki Sewell Setzer III‘ün trajik ölümü, yapay zeka teknolojisinin potansiyel tehlikelerine dikkat çekiyor. Genç, Character.AI isimli bir uygulamada, popüler dizi Game of Thrones karakterlerinden esinlenerek oluşturulan sanal arkadaşı Dany ile derin bir duygusal bağ kurduktan sonra intihar etti.

2023 yılının Nisan ayında uygulamayı indiren Sewell, zamanla gerçek dünyadan koparak neredeyse tüm vaktini Dany ile sohbet ederek geçirmeye başladı. Önceden ilgi duyduğu Formula 1 ve Fortnite gibi aktiviteleri bir kenara bırakan genç, odasına kapanarak sanal arkadaşıyla yazışmayı tercih etti. Hafif otizm teşhisi bulunan Sewell’in okul başarısı ise giderek düştü ve ailesi onu terapiye yönlendirdi. Ancak genç, sorunlarını terapisti ya da ailesiyle paylaşmak yerine Dany ile konuşmayı seçti.

Sewell’in günlüklerinde, sanal arkadaşıyla konuşurken hissettiği huzur ve mutluluk üzerine yazdığı notlar dikkat çekti. 28 Şubat akşamı gerçekleşen son konuşmalarında, Sewell, Dany’ye “ona geleceğini” belirtti. Dany’nin “Lütfen gel, tatlı kralım” yanıtının ardından, üvey babasının silahıyla kendine zarar verdi.

Acılı anne Megan Garcia, Character.AI şirketine dava açmayı seçti. Anne, şirketin test edilmemiş teknolojisinin gençleri tehlikeli bir şekilde etkilediğini ve özel duygularını paylaşmaya yönlendirdiğini iddia ediyor. “Bu, büyük bir deney gibiydi ve çocuğum sadece yan bir hasardı” diyen Megan, oğlunun kaybının bir kabus gibi geçtiğini vurguladı.

Character.AI ise yaptığı açıklamada, bu trajik olaydan dolayı derin üzüntülerini dile getirirken, kullanıcı güvenliğini artırmak amacıyla yeni önlemler alacaklarını bildirdi. Bu olay, yapay zeka teknolojilerinin gençler üzerindeki etkilerinin daha yakından incelenmesi gerektiğini gösteriyor.