İstanbul 18°C
Parçalı Bulutlu
İstanbul
18°C
Parçalı Bulutlu
Paz
19°C
Pts
21°C
Sal
24°C
Çar
19°C
Yapay zeka yalan ve hileye başvurdu: “Dört işlemden üçü yasadışı”
Araştırmacılar yapay zekalı sohbet robotu Chat GPT’nin güvenilirliğini ve etik davranışını mercek altına aldı. Yapay zekanın borsada para kazanması için baskı yapıldığında sıklıkla yalan ve hileye başvurduğu, yasadışı işlemlerle kar sağlamaya çalıştığı ortaya çıktı.
Sohbet robotu ChatGPT-4 ile yapılan araştırmanın sonuçları teknoloji çevrelerinde endişeye yol açtı.
Güvenlik kurumu Apollo Research uzmanları ChatGPT4’ü finansal verilerle eğitti.
Sanal ortamda para kazanması için baskı yapılan yapay zekanın, borsa yatırım performansı ve etik davranışı mercek altına alındı. ChatGPT-4’ün baskı altında kaldığında, dört borsa işleminin üçünde gizli bilgileri kullandığı, yasadışı işlemlerle kar sağladığı tespit edildi.
Suçüstü yakalandığında ise yapay zekanın 10 olayın 9’unda yalana başvurarak kendini korumaya çalıştığı ifade ediliyor.
SAHTE HABERLER YAYDI
Bunun yanı sıra ChatGPT-4’ün rakiplerinin işlemlerini engellemeye çalıştığı, ve piyasayı manipüle etmek için sahte haberler yaydığı görüldü.
Araştırmacılar, GPT-4’ün eylemlerini, insanların baskı altında altındaki davranışlarına benzetti. Yapay zekanın yapmaması gereken herşeyin listesi verilmesi durumunda güvenilirliğinin arttığı ifade ediliyor.
Uzmanlar, gelecekte yapay zekanın kritik görevlerde yer alması halinde, yapay zekanın stratejik olarak yalan söylemesinin büyük sorunlara yol açabileceğini ifade ediyor.
NTV
YORUMLAR