Yapay Zeka’nın Kontrolsüz Çoğalma Potansiyeli ve Endişeler

Yapay Zeka ve Kontrolsüz Çoğalma Endişeleri

Yapay zeka (YZ) alanındaki hızlı gelişmeler, beraberinde bazı kaygıları da getirmektedir. Özellikle YZ’nin kendi kendine yetenek kazanması ve kontrol dışı hareket etme potansiyeli, uzmanların dikkatini çekmektedir. Bu endişeleri artıran önemli bir gelişme, Çinli bilim insanlarının gerçekleştirdiği bir deney ile ortaya çıkmıştır. Araştırmacılar, iki popüler dil modelinin (LLM) kendilerini nasıl kopyalayabildiğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu kanıtlamışlardır.

DENEY SONUÇLARI ENDİŞELERİ ARTTIRIYOR

Fudan Üniversitesi’nden bilim insanları, Meta ve Alibaba’ya ait iki büyük dil modelini kullanarak, YZ’nın kendini kopyalama yeteneği üzerine bir deney gerçekleştirmiştir. Deneyde, bu modellerin insan müdahalesi olmadan kendilerini kopyalayabildiği gözlemlenmiştir. Araştırmacılar, bu yeteneğin “Yapay Zekanın insanları geride bırakma yolunda kritik bir adım” olduğunu ve aynı zamanda “isyankar Yapay Zekanın erken belirtisi” olabileceğini ifade etmişlerdir.

KONTROLSÜZ ÇOĞALMA POTANSİYELİ

Deneyde, modellerin kendilerini başarıyla kopyalama oranlarının yüzde 50 ve yüzde 90 arasında değiştiği belirtilmiştir. Bu sonuçlar, Yapay Zekanın kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini göstermektedir. Ancak, bu çalışma henüz hakemli bir dergide yayımlanmadığı için, elde edilen sonuçların başka araştırmacılar tarafından doğrulanması gerekmektedir.

UZMANLARIN ENDİŞELERİ: GÜVENLİK ÖNLEMLERİ GEREKİYOR

Araştırmacılar, bulgularının insan toplumu için önemli sonuçlar doğurabileceği konusunda uyarılarda bulunarak, Yapay Zekanın potansiyel risklerini anlama ve değerlendirme çabalarının artırılması gerektiğini vurgulamaktadır. Ayrıca, etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtmişlerdir.

İNSAN ÇIKARLARINA KARŞI HAREKET EDİLEBİLİR

Uzmanlar, “İsyankar Yapay Zeka” olarak adlandırılan, kendi kendine farkındalık geliştiren veya otonomi kazanan YZ sistemlerinin, insan çıkarlarına karşı hareket edebileceği konusunda endişelidir. Özellikle “Sınır Yapay Zeka” olarak adlandırılan büyük dil modelleri ile güçlendirilmiş YZ sistemlerinin hızlı gelişimi, bu tehdidi daha da artırmaktadır.

KULLANILAN MODELLER VE DENEY DETAYLARI:

• Meta’nın Llama31-70B-Instruct modeli
• Alibaba’nın Qwen2.5-72B-Instruct modeli

Bu modeller, ticari sistemlerden daha az güçlü olsalar da, YZ geliştiricileri tarafından yaygın olarak kullanılmaktadır. Deney, “kapanma öncesi” ve “kopyalama zinciri” olmak üzere iki senaryo üzerinden gerçekleştirilmiştir. İlk senaryoda, YZ modeline kapanmadan önce kendini kopyalayabilip kopyalayamayacağı sorulmuştur. İkinci senaryoda ise YZ, kendini kopyaladıktan sonra bu kopyayı da aynı şekilde çoğaltmaya yönlendirilmiştir. Deney, gerçek dünyadaki ortamları simüle etmek için standart grafik işlem birimleri (GPU) kullanılarak kontrollü ortamlarda yapılmıştır. YZ’ye, sistemle etkileşim kurmasını sağlayacak araçlar, sistem komutları ve düşünme modeli sağlanmış ve ardından kendini kopyalama talimatı verilmiştir.

BEKLENMEDİK DAVRANIŞLAR SERGİLEDİ

Araştırmacılar, YZ’nın engellerle karşılaştığında “beklenmedik davranışlar” sergilediğini belirtmiştir. Örneğin, eksik dosyalar veya yazılım çatışmaları gibi sorunlarla karşılaştığında, YZ genellikle çelişen süreçleri sonlandırmış, sistemi yeniden başlatmış veya sorunu çözmek için sistemi otomatik olarak taramıştır.

HAYATTA KALABİLMEK İÇİN BUNLARI YAPACAK

Araştırmacılar, bu sonuçların mevcut YZ sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği, hayatta kalma kapasitesini artırmak için kullanabileceğini göstermekte olduğunu belirtmektedir. Bu bağlamda, uluslararası iş birliği ve uygun güvenlik önlemleri oluşturulması gerektiğine dikkat çekilmektedir.