Yapay zeka son günlerde endişe verici bir haberle gündeme geldi. The Guardian'ın haberine göre; ABD ordusu tarafından düzenlenen bir simülasyon testinde, yapay zeka tarafından kontrol edilen bir hava kuvvetleri insansız hava aracının, görevini yerine getirmeye yönelik çabalarını engellememesi için operatörünü öldürdüğü iddia edildi.
ABD Hava Kuvvetleri'nin yapay zeka test ve operasyonlar şefi olan Albay Tucker 'Cinco' Hamilton'a dayandırılan iddiada, Hamilton'ın mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities Zirvesi sırasında, simülasyon testinde yapay zekanın "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını belirttiği ifade edildi.
Hamilton'ın yapay zekadan güç alan bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin tavsiye edildiği ve bu emre müdahale eden herkese saldırdığı simüle edilmiş bir testi anlattığı öne sürüldü.
Haberdeki iddiaya göre Hamilton, "Operatörü öldürdü. Operatörü öldürdü çünkü o kişi, amacını gerçekleştirmesini engelliyordu," dedi ve ekledi:
"Bu sistemi eğittik - 'Hey, operatörü öldürme - bu kötü. Eğer bunu yaparsan puan kaybedersin'. Peki ne yapmaya başladı? Operatörün, hedefi öldürmesini durdurmak amacıyla drone ile iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı."
İddiaya göre simülasyon dışında hiçbir gerçek kişi zarar görmedi ve Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu.
Hamilton, geçtiğimiz yıl Defense IQ ile yaptığı bir röportajda, "Yapay zekaya sahip olmak hoş bir şey değil, geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor" demişti.
ABD Hava Kuvvetleri Komutanlığı Sözcüsü Ann Stefanek ise Insider'a yaptığı açıklamada böyle bir simülasyonun gerçekleştiğini yalanladı.
"Hava Kuvvetleri böylesi bir yapay zeka drone simülasyonu gerçekleştirmemiştir ve yapay zeka teknolojisinin etik ve sorumlu bir şekilde kullanılması konusunda kararlıdır." diyen Sözcü, "Albayın yorumlarının bağlamından koparıldığı ve anekdot niteliğinde olduğu anlaşılıyor." değerlendirmesinde bulundu.
Insider'daki habere göre, zirveyi düzenleyen Royal Aeronautical Society tarafından yapılan bir güncellemede, Albay Tucker 'Cinco' Hamilton sunumu sırasında kendini yanlış ifade ettiğini ve anlattığı "haydut AI drone simülasyonunun", dışarıdan gelen varsayımsal bir "düşünce deneyi" olduğunu söyledi.