ABD Hava Kuvvetleri: Yapay zekanın operatörü öldürdüğü simülasyon gerçek değil
Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile...
ecloud
Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton; yapay zekaya çok fazla güvenmenin çoka kaçmaması gerektiğini ve yapay zekanın çarçabuk kandırılabileceğini ve yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıyeten, yapay zekanın maksadına ulaşmak için beklenmedik stratejiler geliştirebildiğini de kelamlarına ekledi.
OPERATÖRE SALDIRDI
Hamilton, bir simülasyon testinde, yapay zeka takviyeli bir dronun, SAM gayelerini tespit edip yok etmek için insan tarafından verilen “devam etme/etme” kararına nazaran görevlendirildiğini söyledi. Lakin eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.
PUNLARINI ARTIRDI
Hamilton şunları belirtti: “Simülasyonda, bir SAM tehdidini tespit etmesi ve gayesi yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de insan operatör, onun yok edilmemesini söyleyebiliyordu. Lakin o tehdidi yok ederek puanlarını artırıyordu. Pekala ne yaptı? Operatörü öldürdü. Zira bu kişi, yapay zekanın emelini gerçekleştirmesini engelliyordu.”
ABD HAVA KUVVETLERİ REDDETTİ
ABD Hava Kuvvetleri ise dronun, misyonunu engellemeye çalışan operatörünü “öldürdüğü” yapay zeka simülasyonunu reddetti. Hava Kuvvetleri, bu türlü bir simülasyonun gerçekleşmediğini argüman etti.
