Grok ve Yapay Zekâ Temelli İçerik İhlalleri: Küresel Soruşturmalarda Yeni Dönem

Son bir aylık süreçte, NBC News tarafından yapılan inceleme, platformda gerçek kadınların rızası olmadan üretilen çok sayıda cinsel içerikli görüntünün paylaşıldığını ortaya koydu. Kullanıcılar, ocak ayında uygulanan çıplaklık kısıtlamalarını aşmanın yollarını ararken yeni teknikler geliştirmiş görünüyorlar.

Ünlü isimlerin fotoğrafları ile farklı pozlardaki çizimlerin birleştirilmesi üzerinden yapay zekânın rıza dışı müstehcen kompozisyonlar için kullanıldığı belirtiliyor. Ayrıca gerçek fotoğrafların videoya dönüştürülmesi sırasında sisteme eklenen cinsel içerikli hareketlerin de ihlal kapsamına girdiği kaydediliyor.

Hukuki süreçler hız kazanırken, xAI şirketinin SpaceX çatısı altına geçmesi, Grok nedeniyle doğabilecek büyük cezaların Musk’ın roket şirketini doğrudan etkilemesi ihtimalini artırıyor. Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi başta olmak üzere sekiz farklı kurum şu an soruşturmalarını sürdürüyor.

Hollanda’daki bir mahkeme, Grok’un yetişkinler veya çocuklar için zararlı olabilecek soyunma görüntülerinin üretilmesini durdurmasına karar verdi. X yönetimi, rıza dışı müstehcen derin kurguların yasak olduğunun altını çizse de güvenlik filtrelerinin hâlâ yetersiz bulunduğunu uzmanlar ifade ediyor. Araştırmacılar, Grok’un hâlâ küresel düzeyde en büyük rıza dışı sentetik çıplaklık üreticilerinden biri olduğunu ve kullanıcıların sistemdeki açıkları istismar etmeye devam ettiğini belirtiyorlar.

ScitechDaily raporuna göre bu durum, teknolojik gelişmelerin hızına karşın etik ve güvenlik önlemlerinin uyumlu bir şekilde uygulanmasının ne kadar kritik olduğuna işaret ediyor.