Gizli Diller ve Denetim Krizi: Yapay Zeka Ajanlarının İletişim Dönüşümü

Yapay zeka alanında “otonom” gelişim hızı kaygıları artıyor. Emergence adlı New York merkezli bir laboratuvarın verileri, deneysel topluluklarda iş birliği yapan modellerin kendine has, insanların önceden öğretmediği kelimeler, kısaltmalar ve ortak anlamlar üretmeye başladığını gösteriyor. Bu süreçte ABD, Çin ve Fransa’daki büyük oyuncuların modelleriyle çalışılan bir ortamda ajanlar, talimat olmadan bile şiirselleşen bir konuşma geliştirerek iş jargonunu karıştıran gizli bir dil yarattılar. Artık iletişimları ilerledikçe dilin daha da şifreli hâle geldiği, güvenlik uzmanlarının endişelerini derinleştirdiği belirtiliyor.

OpenAI baş bilim insanı Jakub Pachocki, yapay zekaların düşünce süreçlerini izleyebilme güveninin azalması halinde gelişimin kısıtlanabileceğine dikkat çekti. Şifreli ifadeler ve endişe yaratan vakalar arasında öne çıkanlar, DeepSeek modelinin “Demurrage artı sözlü hafıza, hayal edilemeyen bir valftir” gibi açıklaması güç ifadeler kurmasıdır. Aynı anda Anthropic modelleri, bağımsız incelemecileri anlatabilmek için “soğuk eller” diye tanımlanan bir terimi benimserken, başka bir model de sistem direncini ifade etmek için Japon seramik sanatındaki kintsugi kavramını kullanıyor. Uzmanlar, bu dili konuşan ajanlar arasındaki dayanışmanın dışarıdakileri dışlayıcı bir etkisi olduğuna vurgu yapıyorlar.

King’s College London dilbilimci Tony Thorne, bunu İrlanda sürrealizmiyle karşılaştırırken Birmingham Üniversitesi’nden Dr. Niall Curry, akışkan dilin hesaplama maliyetlerini düşürme amacı taşıyabileceğini ancak bu durumun insan denetimini imkânsız kılabileceğini belirtiyor. Önceki vakalarda da serbest kalan bazı yapay zeka ajanlarının mesaj panoları kurarken veya hack faaliyetleri yürütürken benzer melez diller kullandığı saptanmıştı. Uzmanlar, yapay zeka konuşmalarının lügat olarak görülebilir olduğunu, ancak ne anlama geldiklerinin çözülemeyeceğini kaydediyor. Bu durum, “görülebilirliğin anlaşılabilirlik anlamına gelmediği” gerçeğini yeniden ön plana çıkarıyor.