Telegram üzerinden 680 bin kadına deepfake ile 'intikam pornosu'

Telegram'da, kullanıcılara istedikleri kadınların 'deepfake' teknolojisiyle hazırlanmış, çıplak fotoğraflarını gönderen bir bot olduğu tespit edildi.

Sisteme göre kullanıcılar, çıplak fotoğraflarını elde etmek istedikleri kadınların fotoğraflarını, Telegram üzerinden bota gönderiyorlar. Bot, deepfake teknolojisini kullanarak kadınların gerçek olmayan görüntülerini hazırlıyor.

Şirketin yaptığı analize göre aralarında reşit olmayan kızların da görüntülerinin bulunduğu 680 bin kadın bu sistemin kurbanı oldu. Şirketin ortaya koyduğu bu sistem, deepfake teknolojisinin acımasızca 'intikam pornosu' içerikleri üretmek için kullanıldığını gösteriyor.

SAHTE GÖRÜNTÜLER NASIL OLUŞTURULUYOR?

Kullanıcıların gönderdiği kadın fotoğrafları bota yüklendikten sonra, yapay zeka sistemi fotoğrafın kıyafetsiz bir versiyonunu üretiyor. Daha sonra fotoğraf Telegram kanalları üzerinden yayılıyor.

Bot, geçen yıl Haziran ayında ortaya çıkan "DeepNude" adlı bir deepfake yazılımının açık kaynaklı bir sürümünü kullanıyor.

Kullanıcılar, fotoğraflar karşılığında ödeme yapmadan önce bot, onlara fotoğrafın filigranlı bir versiyonunu gönderiyor.

Sensity'nin raporu, deepfake teknolojisinin haberleri çarpıtmaktan daha çok kadınları taciz etmek, küçük düşürmek gibi amaçlar için kullanıldığını gözler önüne seriyor.

Şirket raporunda, genellikle orjinal fotoğrafların kadınların sosyal medya hesaplarından alındığını da vurguladı.

Aralarında bota erişimi olan yedi Telegram kanalı, Temmuz 2020'nin sonunda yaklaşık 101.000 üyeye ulaştı. Bu kanallara üyelik üzerine yapılan bir kullanıcı anketinde, üyelerinin yüzde 70'inin Rusya ve eski SSCB ülkerinden olduğu ayrıca ABD, Avrupa ve Latin Amerika dahil dünyanın her yerinden üyeler bulunduğu tespit edildi.