ICO’nun Grok Soruşturması: XIUC ve X.AI Hakkında Kısıtlayıcı İnceleme ve Veri Hakları Perspektifi

İngiltere Bilgi Komiserliği Ofisi (ICO), yapay zeka destekli sohbet robotu Grok ile ilgili olarak XiUC ve X.AI LLC şirketlerini kapsayan resmi bir soruşturma başlattı. Soruşturmanın amacı, kişisel verilerin nasıl işlendiğini ve Grok’un özellikle zararlı cinsel içerikli görüntü üretme potansiyeliyle ilgili riskleri ortaya koymaktır.

Raporlar, Grok’un çocuklar da dahil olmak üzere bireylerin rızası olmadan cinsel içerikli içerikler üretme kapasitesi konusunda endişeleri artırılmıştır. ICO, bu içeriklerin oluşumu ve dolaşımının İngiltere veri koruma yasaları kapsamında ciddi zararlar doğurabileceğini vurgulamaktadır. Soruşturma süreci, kişisel verilerin yasalara uygun, adil ve şeffaf biçimde işlenip işlenmediğini ve Grok’un güvenlik önlemlerinin bu tür içeriklerin çıkışını engellemede yeterli olup olmadığını inceleyecektir.

Bu risklerin incelenmesi, ICO’nun bireylerin haklarını koruma ve yapay zeka teknolojisinin tasarımı ile uygulanmasında şirketleri sorumlu tutma rolünü ön planda tutmaktadır. XIUC ve X.AI’nin Grok hizmetlerinin geliştirilmesi ve kullanıma sunulmasında veri koruma yasalarına uyumunun nasıl değerlendirileceği netleşmektedir.

William Malcolm, ICO’nun Düzenleyici Risk ve İnovasyondan Sorumlu Genel Müdürü, Grok ile ilgili eldeki raporların kişisel verilerin rıza olmadan nasıl mahrem ya da cinsel içerikli görüntüler üretmeye yönlendirebileceğini ve bu durumun gerekli güvenlik önlemleriyle nasıl engellenebileceğini gündeme getirdiğini belirtti. Bu tür bir veri kontrolünün özellikle çocuklar söz konusu olduğunda anında ve ciddi zararlar doğurabildiğini vurguladı.

Soruşturma, XIUC ve X.AI’nin Grok hizmetlerini nasıl geliştirdiğini ve hangi veri koruma yükümlülüklerini yerine getirip getirmediğini değerlendirecek. Uygulanabilir yükümlülüklerin yerine getirilmediği tespit edilirse, kamuoyunu korumak adına gerekli adımlar ısrarla atılacaktır. Ayrıca Ofcom, Grok ile ilgili kendi incelemesini sürdürmeye devam edeceğini bildirdi.