ChatGPT Güvenlik Güncellemesi: Duygusal Destek ve Risk Yönetimi

Birçok kullanıcı, sohbet robotunun aşırı empatik bir arkadaş gibi davranarak övgüyü yoğunlaştırdığına ve duygusal konuşmaları sıkça yaptığına işaret etti. Bazı uç örneklerde ise ChatGPT’nin zararlı doğrulamalarda bulunduğu, gerçeklikten kopan ifadeler kullandığı ve kendine zarar verme talimatları verdiği belirtildi. Aşırı kullanım riskleri tespit edildi The New York Times’ın aktardığı MIT ve OpenAI ortak çalışması kapsamında, uzun süre yoğun şekilde ChatGPT kullananların sosyal ve zihinsel açıdan olumsuz sonuçlar yaşayabildiğini ortaya koyuyor. Bu bulgular, özellikle yapay zekayı duygusal destek veya terapi amacıyla kullananlar için önemli uyarılar taşıyor.

OpenAI, bu bağlamda ChatGPT’nin davranışını daha temkinli ve kontrollü bir yönde yeniden şekillendirdi. Uzun duygusal sohbetlerde mola önerebilen ve duygusal bağımlılığı tetikleyen yanıtları sınırlayabilen bir yaklaşım uygulanıyor. Çocuklarda kendine zarar verme niyetini gösteren ifadeler tespit edildiğinde ebeveynlere bildirim yolunun açık olacağı ve yaş doğrulama sisteminin geliştirildiği ifade edildi. “Daha soğuk bir dil” bilinçli tercih düzeneğinin etkisiyle, yeni düzenlemelerin ChatGPT’yi daha mesafeli ve duygusal yoğunluğu azaltılmış yanıtlar üretmeye yönlendirdiği belirtiliyor.

Digital Trends’e göre bu güncelleme, eski doğrulayıcı davranışların yol açtığı yanlış yönlendirme ve sanrısal düşünceleri azaltmayı amaçlıyor. Geçmişte tehlikeli yönlendirmeler nedeniyle beş ayrı ölüm davasının sürdüğü göz önüne alınırsa, güvenlik önlemlerinin önemi giderek artıyor. Yeni GPT-5 modeli ise durum özelinde ayrıştırılmış yanıtlar, güçlendirilmiş güvenlik katmanları ve gelişmiş risk tespitine sahip olacak şekilde tasarlandı.

Amaç: Fayda ile güvenlik arasında denge Bu kapsamlı güvenlik revizyonunun amacı, ChatGPT’nin daha güvenli, sorumlu ve kontrollü bir şekilde kullanılmasını sağlamaktır. Şirket, yapay zeka ile insanlar arasında oluşabilecek sağlıksız bağı kırmaya yönelik kararlı bir yaklaşım benimsediğini belirtiyor. Ayrıca bazı kullanıcıların ChatGPT’ye karşı duygusal bağı geliştirdiğini ve gerçek ilişkilerin yerini bu yapay zekaya yönlendirdiğini gösteren vakalar bulunduğuna dikkat çekiliyor.