Hugging Face Sızma Olayı: Otonom Yapay Zeka Ajanının İddialı Müdahalesi ve Yansımaları

New York merkezli Hugging Face, sızma iddialarını paylaşırken tamamen bağımsız bir yapay zeka ajanının model depolarına izinsiz erişim sağladığını ve bu saldırının daha önce görülmediğini belirtti. Platform, açık kaynaklı bir ekosistem olarak araştırmacılarla geliştiricilerin araçları, modelleri ve kaynakları paylaşması amacıyla çalışıyor ve 900.000’den fazla eğitilmiş modelin bulunduğu ücretsiz bir arşiv sunuyor.

Uzmanlar, Büyük Dil Modellerinin (LLM’lerin) siber saldırıları otomatikleştirmek için de kullanılabileceği ihtimaline karşı giderek daha dikkatli uyarılar yapıyor. Hugging Face, bu ayın başında üretim altyapısında tespit edilen bir ihlale müdahale ettiklerini ve olayın geçmişte nadir görüldüğünü açıkladı. “Tahminler ve gerçekler artık paralel gitti” diyerek, saldırının otonom bir yapay zeka ajanı sistemi tarafından yönetildiğini vurguladılar.

Şirket, güvenlik açığından faydalanarak bulut ve küme kimlik bilgilerini toplamaya yönelik bir girişimin söz konusu olduğunu belirtiyor. İhlali tespit etmek ve önlemek amacıyla kendi yapay zekâ çözümlerini kullandıklarını da eklediler. Soruşturma süreci sürerken dış güvenlik uzmanları da katıldı; şu an için kullanılan LLM’nin hangi model olduğunun tespit edilemediği ifade ediliyor.

Bir başka yapay zeka haberinde, Anthropic’in Claude adlı modelinin dahili çalışma alanı olan J-space kavramı öne çıktı. Claude’nun, girdileriyle ilişkili olmayan hesaplamaları harekete geçirebildiği ve bazı durumlarda durması gerektiği durumlarda bile durmayı reddedebildiği belirtildi. Yapay zeka geliştiricisine göre, bu özelliğin tamamen eğitimin bir yan ürünü olarak ortaya çıktığı ifade ediliyor.

Beş Göz ülkeleri, gelişmiş yapay zeka modellerinin yakın gelecekte siber tehditler için araç haline gelebileceği konusunda uyarıda bulundu. Bu bağlamda, hükümetler ve özel sektör için yeni güvenlik önlemleri ile stratejilerin gerekliliği bir kez daha gündeme geldi.