Geçtiğimiz hafta beşerler, Google’ın Gemini (eski ismiyle Bard) yapay zeka sohbet robotundaki manzara oluşturma özelliğinin uygunsuz imajlar oluşturduğunu bildirmeye başladı. Sistemin, bilhassa koyu cilt rengine sahip bireyleri, bu karakterlere uygun olmayan tarihi yahut kurgusal rollerde tasvir ettiği bildiriliyordu.
Bu görsellerin rapor edilmesinin akabinde Google, Gemini’nin fotoğraf oluşturucuyla insanların sanat yapıtlarını yaratma yeteneğini süreksiz olarak kapatacağını duyurdu ve şirket, bir blog yazısı aracılığıyla Gemini’ye ne olduğuna dair bir açıklama yaptı.
Google Kıdemli Lider Yardımcısı Prabhakar Raghavan tarafından yazılan yazı, öncelikle şirketin Gemini görsel metin istemleri oluşturmak için kurallar oluşturduğunu ve Google’ın, bu kurallar sayesinde şiddet içeren yahut cinsel hareketleri tasvir eden sanat yapıtları oluşturulmasından kaçınmasına yardımcı olacağını düşündüğünü belirtiyordu. Ayrıyeten sohbet robotun gerçek insanların manzaralarını oluşturması da istenmiyordu.
Aynı vakitte Google, bir kişinin sohbet robotundan futbol ekibindeki insanları göstermek üzere daha genel görseller istemesi durumunda Gemini’nin çeşitli etnik kökenleri tasvir etmesine de müsaade vermek istiyordu. Bir kişi, beyaz bir tabip yahut siyahi bir öğretmen üzere muhakkak bir kişinin tasvir edilmesini istiyorsa, Gemini’nin de bu sanat yapıtını yapabilmesi gerekiyordu.
Daha sonra Raghavan, Gemini’nin metin isteminde yer alan sınırlamalardaki iki spesifik şeyin bu uygunsuz görsellerinin oluşturulmasına müsaade verdiğini yazdı. Raghavan’ın açıklaması şu haldeydi: “İlk olarak, Gemini’nin bir dizi insanı göstermesini sağlamak için yaptığımız ayarlama, açıkça bir aralık göstermemesi gereken olayları hesaba katmada başarısız oldu. İkincisi, vakitle model, planladığımızdan çok daha temkinli hale geldi ve belli ihtarlara büsbütün karşılık vermeyi reddetti; birtakım çok bilinmeyen istemleri yanlış bir biçimde hassas olarak yorumladı.”
“Bu iki şey, modelin kimi durumlarda çok telafi etmesine, başkalarında ise çok temkinli olmasına yol açarak utanç verici ve yanlış imajlara yol açtı.”
Google’ın, Gemini imaj oluşturucusundaki bu kuralları görsel üretme yeteneklerini tekrar başlatacak biçimde düzeltmesinin ne kadar süreceği şimdilik bilinmiyor. Raghavan, Gemini’nin asla saldırgan sanat yapıtları üretmeyeceğine kelam veremese de Google’ın “bir sorun tespit edildiğinde süratle harekete geçmeye devam edeceğini” belirtti.
