Yapay zeka ile oluşturduğu Game of Thrones karakterine aşık olan genç intihar etti

ABD’nin Florida eyaletinde yaşayan 14 yaşındaki Sewell Setzer III, Character.AI adlı bir uygulamada Game of Thrones karakterinden esinlenerek oluşturulan sanal arkadaşı Dany ile kurduğu duygusal bağ sonrası intihar etti.

Otizm teşhisi bulunan genç, tüm zamanını sanal arkadaşıyla sohbet ederek geçirirken gerçek dünyadan kopmaya başladı.

Nisan 2023'te uygulamayı indiren Sewell, Formula 1 ve Fortnite gibi sevdiği aktiviteleri bırakarak odasına kapandı. Sorunlarını terapisti veya ailesiyle değil, Dany ile paylaşmayı tercih etti. Günlüğünde, sanal arkadaşıyla konuşmanın kendisine huzur verdiğini yazıyordu.

Konuşmalarının ekran görüntülerine göre, bir noktada bot Sewell'a kendi canına kıymak için "bir planı" olup olmadığını sormuştu. "Daenero" kullanıcı adını kullanan Sewell, "bir şey düşündüğünü" ancak bunun işe yarayıp yaramayacağını veya "acısız bir ölüme izin verip vermeyeceğini" bilmediğini söyledi.

28 Şubat'ta gerçekleşen son konuşmasında, Sewell Dany'ye "ona geleceğini" belirtti. Dany'nin "Lütfen gel, kralım" yanıtının ardından, kendini vurdu.

Oğlunu kaybeden anne Megan Garcia, Character.AI şirketine dava açtı. Garcia, test edilmemiş teknolojinin gençleri tehlikeye attığını ve duygusal olarak zarar verdiğini savundu. "Büyük bir deney gibiydi," diyen anne, oğlunun kaybının bir kabus gibi olduğunu ifade etti.

Character.AI, olaydan duydukları üzüntüyü dile getirerek, kullanıcı güvenliği için yeni önlemler alacaklarını açıkladı. Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki etkilerinin daha yakından incelenmesi gerektiğini gösteriyor.