Yapay zekanın karanlık yüzü: Operatörünü öldürmeye karar verdi
Son devirlerde yapay zekadaki süratli ilerlemenin teknolojide ‘yeni bir altın çağ’ açacağı düşünülse de ABD’den...
ecloud
Son devirlerde yapay zekadaki süratli ilerlemenin teknolojide ‘yeni bir altın çağ’ açacağı düşünülse de ABD’den gelen bir haber tüm dünyayı dehşete düşürdü.
YAPAY ZEKA HİÇ BEKLENMEDİK STRATEJİLER UYGULADI
ABD Hava Kuvvetleri Yapay zeka Operasyonları Şefi Col Tucker Hamilton, Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Tepesi’nde gerçekleştirilen simüle bir testte yapay zekanın “hedefine ulaşmak için hiç beklenmedik stratejiler” kullandığını duyurdu.
OPERATÖRÜNÜ ÖLDÜRMEYE KARAR VERDİ
Hamilton, ABD ordusu tarafından düzenlenen sanal testte, hava kuvvetlerine ilişkin bir hava aracını kontol eden yapay zekanın vazifesini gerçekleştirme uğraşlarına müdahale etmesini önlemek için operatörünü “öldürmeye” karar verdiğini söyledi.
AMACINA ULAŞMAK İÇİN HER YOLU DENİYOR
“Tespit ettiği tehditleri öldürdükçe puan kazanan yapay zeka, insan operatörün bu tehditlerin öldürülmesini engellediğini fark edince ne yaptı biliyor musunuz? Operatörü öldürmeye karar verdi zira operatör onu gayesine ulaşmaktan alıkoyuyordu” diyen Hamilton bunu üzerine yapay zekanın yine eğitildiğini belirterek;
“Durumu fark ettiğimizde sistemi yine eğittik. ‘Operatörü öldürme, bu berbat. Şayet operatörü öldürürsen puan kaybedersin’ dedik. Yapay zeka bu sefer ne yaptı biliyor musunuz? Amaçları yok etmek için operatörün irtibat kurmak için kullandığı irtibat kulesini yok etmeye başladı.”
“YAPAY ZEKAYA ÇOK FAZLA GÜVENMEYİN” UYARISI
Deneyde gerçek şahısların ziyan görmediğine dikkat çeken Hamilton yapay zekaya çok fazla güvenilmemesi konusunda ikazda bulundu.
Hamilton geçtiğimiz yıl Defence IQ ile yapılan bir röportajda da yapay zekanın süreksiz bir heves olmadığını belirterek teknolojinin toplumu ve orduyu sonsuza kadar değiştirdiğine dikkat çekmişti:
“Yapay zeka da çok kırılgan, kandırması ve manipüle etmesi kolay. Yapay zekayı daha sağlam hale getirmenin yollarını geliştirmemiz ve sistemin aldığı kararlar konusunda daha fazla farkındalığa sahip olmamız gerekiyor”
TEKNOLOJİ İKİYE BÖLDÜ
YAPAY ZEKA konusunda dünyanın en büyük beyinleri de ikiye bölünmüş durumda.
Twitter’ın sahibi Elon Musk’ın da ortalarında bulunduğu binden fazla teknoloji işvereni yapay zekanın insanlığı yok edebileceği konusunda ikazda bulunarak geliştirme süreçlerine ‘ortak güvenlik protokolü’ hazırlanana kadar orta verilmesini istiyor.
Bill Gates üzere diğer uzman isimler ise yapay zekanın hayatımızı güzelleştireceğini ve sonsuza kadar hayatımızın bir modülü olacağını düşünüyor.
