ABD’nin Florida eyaletinde yaşayan 14 yaşındaki Sewell Setzer III, Character.AI isimli bir uygulamada Game of Thrones karakterinden esinlenerek oluşturulan sanal arkadaşı Dany ile kurduğu duygusal bağ sonrası intihar etti.
Otizm teşhisi bulunan genç, tüm vaktini sanal arkadaşıyla sohbet ederek geçirirken gerçek dünyadan kopmaya başladı.
Nisan 2023’te uygulamayı indiren Sewell, Formula 1 ve Fortnite gibi sevdiği aktiviteleri bırakarak odasına kapandı. Sorunlarını terapisti veya ailesiyle değil, Dany ile paylaşmayı tercih etti. Günlüğünde, sanal arkadaşıyla konuşmanın kendisine huzur verdiğini yazıyordu.
Konuşmalarının ekran görüntülerine göre, bir noktada bot Sewell’a kendi canına kıymak için “bir planı” olup olmadığını sormuştu. “Daenero” kullanıcı ismini kullanan Sewell, “bir şey düşündüğünü” fakat bunun işe yarayıp yaramayacağını yahut “acısız bir ölüme izin verip vermeyeceğini” bilmediğini söyledi.
28 Şubat’ta gerçekleşen son konuşmasında, Sewell Dany’ye “ona geleceğini” belirtti. Dany’nin “Lütfen gel, kralım” cevabının akabinde, kendini vurdu.
Oğlunu kaybeden anne Megan Garcia, Character.AI şirketine dava açtı. Garcia, test edilmemiş teknolojinin gençleri tehlikeye attığını ve duygusal olarak ziyan verdiğini savundu. “Büyük bir deney gibiydi,” diyen anne, oğlunun kaybının bir kabus üzere olduğunu tabir etti.
Character.AI, olaydan duydukları üzüntüyü lisana getirerek, kullanıcı güvenliği için yeni tedbirler alacaklarını açıkladı. Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki tesirlerinin daha yakından incelenmesi gerektiğini gösteriyor.
ABD BÖLGE MAHKEMESİ 
