Aralarında fizikçi Stephen Hawking, Tesla Motors Şirketi yöneticisi Elon Musk ve Apple Şirketi kurucu ortağı Steve Wozniak gibi yapay zeka araştırmacılarının, uzmanların ve düşünürlerin bulunduğu bir grup “otonom silah sistemleri”nin, diğer bir deyişle, “Yapay Zekaya Sahip Silah Sistemleri”nin gelecekteki olası tehlikelerine dikkat çeken ve Birleşmiş Milletler’e hitaben yazılmış açık bir mektuba imza attı. Bu mektubu buradan okuyabilirsiniz.
Dışarıdan bir kişinin müdahalesine gerek duymayan ve önceden belirlenmiş kıstaslara haiz kişileri ya da hedefleri ‘kendi kendine’ belirleyip vurabilen, kısacası kendi kendini yönetebilen araçlara “otonom silahlar” deniyor.
Mayıs 2014’te BM’nin “Belirli Konvansiyonel Silahlar Sözleşmesi” çerçevesinde otonom silahlar üzerine yapılan tartışmaların ana ekseninde “ ‘anlamlı’ insan denetiminin olmayışı” yer alıyor. Bu da ister istemez “sorumluluk açığı”nı gündeme getiriyor. Örneğin, terörist bir grubun bir okula sinyal yayan bir radar sistemi yerleştirmiş olduğunu ve radar sinyalinin peşine düşen otonom bir füzenin bu okuldan gelen radar sinyalini saptadığını ve onu vurduğunu hayal edin. Bu durumda sorumluluk kime ait olacak? Eğer bu füzenin ‘anlamlı’ denetime sahip bir kullanıcısı olsaydı, bu kullanıcı okulu vurmanın insancıl olmayacağına ya da savaş mevzuatına aykırı olacağına karar verip bu eylemi gerçekleştirmezdi.
İkinci bir endişe, otonom silahların yasal olarak kullanımına izin verilirse herhangi büyük askeri bir gücün YZS silahları geliştirmede öne geçtiği takdirde, gelecekte küresel silahlanma yarışının tırmanacağı endişesi. Diğer bir kaygı ise, ucuz ve toplu üretime müsait oluşundan dolayı bu tür silahların bir süre sonra kara borsaya düşerek terörist grupların ya da diktatörlerin eline geçebileceği ve böyle olduğunda soykırım veya suikastlar gibi toplu ölümlerin yaşanabileceği korkusu. İşte bu sebeplerle mektupta, gelecekte ortaya çıkabilecek tüm bu olası tehlikelerden dolayı Yapay Zekaya Sahip Silah (YZSS) geliştirme yarışının daha başlamadan bitmek zorunda olduğunun altı çiziliyor.
YZ’nın gerçekten bir gün kendi kararlarını kendisinin verebilme potansiyeline kavuşacağına, bir bilince sahip olacağına ve insanlardan daha zeki hale geleceğine inanılıyor. Tüm bunların yanında YZ’nın duygulara da sahip olabileceğine inanan ünlü teorik fizikçi Lawrence Krauss, YZS robotların insanlık için bir tehdit unsuru olmayabileceğini, hatta YZ ve insanlar arasında bir “ortaklık” oluşabileceğini söyleyerek ortaya daha iyimser bir tablo koyuyor. “Karar verme” mekanizmasının insanlarda “sezgi”, “kişilerarası iletişim” ve “mantıklı düşünme” boyutunda ilerlediğini, makinelerin ise duygusal boyutta bizim kadar ileri olamayacaklarını düşünmeye eğilimli oluşumuzdan dolayı YZ’nın sağlıklı karar veremeyeceğine dair korkularımızın olduğunu söylüyor. Oysa Krauss’a göre her şeyi çok hızlı bir şekilde öğrenebilen YZ, “mutlu, üzgün ya da yardımsever” olmayı neden öğrenemesin? Niçin insanlarla “empati” kuramasın? Bu durumda, şiddetli düşmanlıklar söz konusu olduğunda bile, Krauss’un ifadesiyle, “bir makinenin vermiş olduğu bir karar, bir insanın vereceği karardan daha kötü olmayı gerektirmez.” Ve dolayısıyla, makine illa ki insanın aleyhinde karar vermek zorunda değil.
YZ teknolojisinin insanlık için zarardan çok fayda getirebileceği inancını taşıdığından Krauss, bu alandaki araştırmaların önünün kesilmemesi gerektiğini de şu sözlerle ifade ediyor:
“Düşünen/karar verebilen/öz-bilince sahip geleceğin makineleri konusundaki endişelerin çoğuna katılmıyorum. Hatta, hem insanoğlunun koşullarını iyileştirmede sunacağı fırsatlar hem de bilincin doğasına dair tutacağı ışık bakımından, düşünen makineleri deneyimleme ihtimali beni gerçekten çok heyecanlandırıyor.”
Burada görülmesi gereken en kritik nokta, Yapay Zeka'ya karşı olmak ile "Yapay Zeka ile Çalışan Otonom Silahlara" karşı olmanın aynı şey olmadığı. Tıpkı Genetiği Değiştirilmiş Organizmalar (GDO), aşılar veya evrimsel biyoloji konusundaki karşıtlığın çok büyük oranda cehaletten besleniyor olması gibi, Evrim Ağacı olarak Yapay Zeka karşıtlığı başlığı altında yükselmesinden endişe ettiğimiz kitle, muhtemelen yine cehaletten beslenen bir akım olacak. Bunun önüne daha başından geçilmesi gerektiği kanısındayız. Yapay Zeka'nın silahlara adapte edilmesinden endişe ederek Yapay Zeka'nın önüne geçmeye çalışmak, atom bombası da yapılır endişesiyle atomu parçalamaktan uzak durarak radyoloji ve radyografi gibi çok kritik bilimleri yok etmeye benzer. Düzeltilmesi gereken insanların zihinleri, devletlerin politikaları, savaş algısı, vb. fenalıklardır. Bilimsel araştırmanın sınırları değil!
*Daha fazlası için: evrimagaci.org
