Telegram’da “deepfake çıplak fotoğraf oluşturucular” istilası

Raporda, bu yeni “çıplaklık AI botlarının” şimdiden ayda 4 milyondan fazla kullanıcıya ulaştığı ve sorunun muhtemelen daha da kötüleşeceği belirtiliyor. Bahsi geçen sohbet robotları, AI botlarının bu tıp berbat niyetli hedefler için kullanıldığını gördüğümüz birinci sefer değil. Ayrıyeten, kullanıcıların ChatGPT ve öbür tanınan sohbet robotlarını berbata kullanmasıyla ilgili meseleler da yaşandı. Fakat, OpenAI ve öteki şirketler bu problemleri sağlam bir formda düzelterek, içeriğin daha uygun kalmasına yardımcı olmak için güvenlik katmanları oluşturdu.

Yine de, kullanıcıların bir fotoğraf ve hatta bir komut yükleyerek neredeyse herkesin çıplak fotoğraflarını oluşturmasına müsaade veren bu deepfake botları bilhassa Telegram üzerinde süratle artıyor ve Wired’ın bildirdiğine nazaran bunlardan şu anda en az 50 tane bulunuyor. AI şu andaki kadar gelişmeden evvel bile deepfake’ler büyük sıkıntılar yaratıyordu. Örneğin Şubat ayında, bir AI dolandırıcısının bir konferans görüşmesinde 25 milyon dolar çalmak için deepfake kullandığı biliniyor.

Ne yazık ki, bu çıplaklık AI botlarını durdurmak neredeyse imkansız üzere gözüküyor. Biri bir formda engellendiğinde, süratli bir formda birkaç tanesi daha onun yerini alıyor. Bu kadar süratli bir formda tekrar ortaya çıkabilmeleri, ortadan kaldırılmalarını neredeyse imkansız hale getirmenin yanı sıra, muhtemelen durumun daha da kötüleşeceği manasına geliyor.