Akıllara durgunluk veren olay! Yapay zeka kendi dilini icat etti: Araştırmacılar kesin nedenini bilmiyor

Yapay zeka artık hayatımızda yer almaya başladı. ABD'deki Texas Üniversitesi'nde bilgisayar bilimi alanında doktora öğrencisi olan Giannis Daras'ın dile getirdikleri ise akıllara durgunluk verdi. Çünkü Daras, OpenAI'nin DALL-E2 adlı metinden görüntüye yapay zeka sisteminin kendi dilini oluşturduğunu öne sürdü. Daras gördüklerini Twitter'dan bir tweet dizisi şeklinde paylaştı.

YAPAY ZEKADA ÜRKÜTÜCÜ KEŞİF! BUNLAR BİLİNMEYEN KELİMELER

Futurism'in haberine göre; Daras, yapay zekadan "sebzeler hakkında konuşan çiftçiler" görüntüsünü oluşturmasını istedi. Program bunu yaptı ve iki çiftçinin bir diyalog içinde olduğu, birinin elinde ise sebzelerin yer aldığı şu görüntüyü verdi;

Ancak görüntüde bir tuhaflık vardı. Çünkü üzerinde "vicootes" gibi anlamsız bir kelime bulunuyordu. Bunun rastgale olmadığını söyleyen Daras, daha sonra "vicootes" kelimesini algoritmaya geri yükledi. Şaşırtıcı bir şekilde, karşısına sebzeler çıktı.

Dahası, çiftçilerin görüntüsünün üzerinde "poploe vesrreaitars" adlı bir kelime daha bulunuyordu. Bunu da geri yükleyen Daras bir sürü kuş görüntüsü elde etti. Daras ise "Görünüşe göre çiftçiler kuşlardan bahsediyor, sebzeleriyle uğraşıyorlar!" ifadesini kullandı.

Başka bir örnekte ise iki balina yemek hakkında konuşuyor. Yapay zeka bu kez üzerinde "Wa ch zod rea" yazan bir görüntü veriyor. Görünüşe göre balinalar aslında yiyecekleri hakkında DALE-2 dilinde konuşuyorlar.

"DALLE-2'NİN GİZLİ BİR DİLİ VAR"

Daras, bir meslektaşıyla birlikte kaleme aldığı, henüz hakem onayı almamış yeni bir makalede bu durumu ortaya koydu. Daras, "DALLE-2'nin gizli bir dili var" dedi. Daha sonra DALLE-2 dilinin keşfinin birçok ilginç güvenlik ve yorumlanabilirlik sorunu yarattığını da sözlerine ekledi.

DALLE-2 has a secret language.
"Apoploe vesrreaitais" means birds.
"Contarra ccetnxniams luryca tanniounons" means bugs or pests.

The prompt: "Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons" gives images of birds eating bugs.

A thread (1/n)???? pic.twitter.com/VzWfsCFnZo

— Giannis Daras (@giannis_daras) May 31, 2022

Metinleri görüntülere dönüştürme konusundaki ürpertici yeteneğiyle bu yılın başlarında büyük ilgi gören bu gelişmiş yapay zeka, birincil işlevinin altında yatan veya onunla paralel çalışan bir "gizli sözcük dağarcığı" oluşturmuş gibi görünüyor. Ancak Daras'ın vardığı sonuçların hâlâ biraz belirsiz olduğunu belirtmekte fayda var. Üstelik Daras'ın teorisine de herkes ikna olmuş değil.