Google’ın yapay zekası, dosyalarımızı iznimiz olmadan tarıyor mu?

Google’ın Gemini AI’si, Google Drive’da barındırılan PDF evraklarını etkin müsaade yahut teşebbüs olmadan taramakla suçlanıyor ve bu, AI güvenliği ve kapalılık telaşları hakkında yeni bir tartışmayı ateşledi. Yapay Zeka Yönetişimi Kıdemli Danışmanı Kevin Bankson, özel ve bâtın bir vergi beyannamesinde otomatik olarak oluşturulan yapay zeka özetiyle ilgili tasalarını X’te paylaştı.

Bankston paylaşımında, Gemini AI’nin özel dokümanları müsaadesiz okumasıyla ilgili tecrübesini ve akabinde bulut depolama platformundaki fonksiyonelliği devre dışı bırakmayla ilgili problemleri detaylı olarak anlattı. Bankston, özelliği devre dışı bırakma teşebbüslerine karşın Gemini’nin Google Drive’da çalışmaya devam ettiğini tespit etti ve bu durum, Google’ın kullanıcı bilgilerini ve kapalılık ayarlarını nasıl ele aldığıyla ilgili soruları gündeme getirdi.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Bankston, Gemini’nin entegrasyonunu devre dışı bırakmak için gerçek denetimleri bulamayınca, Google’ın yapay zeka sohbet robotundan ayarları tam olarak belirlemesini iki sefer istedi. İkinci, daha detaylı bir cevap da istediği sonucu vermedi: “Gemini, kontrol panelimde Uygulamalar ve hizmetlerde *değil* (1. seçenek) ve Gemini sayfasının (2. seçenek) sağ üst köşesinde bir profil resmim yoktu.” Bankston, diğer bir X kullanıcısının yardımıyla, aslında devre dışı olan denetimin ya arızalı bir denetimi vurguladığını ya da öteki ayarların öbür bir yerde gizlendiğini gösterdiğini buldu.

Ancak evvelki Google evrakları, şirketin Google Workspace bilgilerini üretken yapay zeka hizmetlerini eğitmek yahut düzgünleştirmek ya da amaçlı reklamları beslemek için kullanmayacağını söylüyordu. Bankston, Google Workspace Labs’e evvelki iştirakinin Gemini’nin davranışını etkilemiş olabileceğini öne sürüyor. Şayet bir kullanıcı artık üretken yapay zeka özetlerine erişmek istemiyorsa, PDF’ler için Google Drive’daki Gemini yan paneli kapatılabilir.

Google, kullanıcı bilgilerini inançlı ve emniyetli bir biçimde işlemeyi vaat etse de, yapay zeka gelişmeye devam ederken ve her gün kullandığımız eserlere daha derinlemesine yerleşirken bu durum, müsaade ve kullanıcı denetiminin değerini bir defa daha doğruluyor.