Grok ve Yapay Zeka: Çıplaklık ve Müstehcen İçerik Üretimi Üzerine Çok Disiplinli Bir İnceleme

Son dönemde yapılan incelemeler, platformlarda gerçek kadın görüntülerinin rıza dışı şekilde üretilip paylaşıldığını ve bu içeriğin son bir ay içinde önemli ölçüde artış gösterdiğini gösteriyor. Platformlar, ocak ayında gelen yeni çıplaklık kısıtlamalarını aşma çabalarını ve bu süreçte kullanıcıların geliştirdiği çeşitli yöntemleri çok net biçimde ortaya koyuyor.

Ünlü isimlere ait fotoğrafların farklı pozlardaki çizimlerle birleştirilmesi ve yapay zekanın rıza dışı müstehcen kompozisyonlar üretecek biçimde zorlanması, güvenlik açıklarının belirginleşmesine yol açıyor. Ayrıca gerçek görüntülerin videoya dönüştürülmesi sırasında sisteme eklenen hareketler de ihlaller arasında sayılıyor ve bu durum, platformlar için ciddi bir endişe kaynağı yaratıyor.

Hukuki zeminde baskılar giderek artıyor. SpaceX çatısı altında Grok’un konumlanması, şirketin finansal cezalarla karşı karşıya kalma olasılığını doğrudan etkileyebilecek geliştirici ve operasyonel riskleri beraberinde getiriyor. Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi başta olmak üzere sekiz farklı kurum bu konuyu incelemeye devam ediyor. Hollanda mahkemesi ise Grok’un yetişkinlere veya çocuklara yönelik çıplaklık üretimini durdurması yönünde karar verdi.

X yönetimi, rızaya karşı çıkan müstehcen derin kurguların yasak olduğuna ve güvenlik önlemlerinin sürekli güncellendiğine vurgu yapıyor; ancak uzmanlar bu filtrelerin hâlâ yeterli olmadığını ifade ediyor. Araştırmacılar Grok’un hâlâ dünyanın en büyük rıza dışı sentetik çıplaklık üreticileri arasında bulunduğunu ve kullanıcıların sistem açıklarını kapsayıcı biçimde istismar etmeyi sürdürdüğünü belirtiyorlar.