Yapay zeka ölü insanları taklit ediyor: "Psikolojik etkisi yıkıcı olabilir"

Araştırmacılar, ölü insanların yapay zeka simülasyonlarının insanlar üzerinde yaratabileceği psikolojik etki nedeniyle "yüksek riskli" olduğunu söylüyor.

VEFAT EDEN İNSANLARI TAKLİT EDEBİLİYOR

Cambridge Üniversitesi'ndeki etik uzmanları tarafından yapılan yeni bir çalışma, vefat etmiş kişilerin kişiliklerini taklit edebilen ve "ölübotlar" olarak bilinen yapay zeka sohbet robotlarının, hayatta kalan arkadaşlarını ve akrabalarını korumak için güvenlik protokolleri gerektirmesi gerektiğini ortaya koydu.

BAZI YAPAY ZEKA ŞİRKETLERİ BU ÖZELLİĞİ SUNUYOR

Bazı yapay zeka şirketleri şimdiden müşterilerine yapay zeka kullanarak vefat eden sevdikleri birinin dilini ve kişilik özelliklerini simüle etme seçeneği sunuyor.

"PSİKOLOJİK ETKİSİ YIKICI OLABİLİR"

Leverhulme Centre'dan ortak yazar Dr. Tomasz Hollanek, "Dijital ölümden sonra yaşam hizmetlerinin sadece yeniden yarattıkları kişilerin değil, simülasyonlarla etkileşime girmek zorunda kalacak kişilerin de haklarını ve rızasını dikkate alması hayati önem taşıyor Bu hizmetler, kaybettikleri kişilerin endişe verici derecede doğru yapay zeka rekreasyonlarından istenmeyen dijital musallatlara maruz kalmaları halinde insanlara büyük sıkıntı verme riski taşımaktadır. Özellikle de zaten zor bir zamanda ortaya çıkabilecek potansiyel psikolojik etki yıkıcı olabilir." dedi.

Bulgular Philosophy and Technology dergisinde 'Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry' başlıklı bir çalışmada yayımlandı.

Çalışma, ölüleri geri getirebildiklerini iddia eden yapay zekalı sohbet robotu şirketlerinin bu teknolojiyi, ölen kişinin dijital benzerliğini kullanarak aile ve arkadaşlarına mesaj ve reklamlarla spam göndermek için nasıl kullanabileceklerini detaylandırıyor.

Araştırmacılar, böyle bir sonucun ölüler tarafından takip edilmeye eşdeğer olacağı uyarısında bulundu.

"İNSANLAR VEDA HEDİYESİ OLARAK YAPAY ZEKA SİMÜLASYONU BIRAKABİLİR"

Çalışmanın yazarlarından Dr. Katarzyna Nowaczyk-Basinska, "Üretken yapay zekadaki hızlı ilerlemeler, internet erişimi ve bazı temel bilgilere sahip olan neredeyse herkesin ölen bir sevdiğini canlandırabileceği anlamına geliyor. Aynı zamanda, bir kişi, kederlerini bu şekilde işlemeye hazır olmayan sevdiklerine bir veda hediyesi olarak bir yapay zeka simülasyonu bırakabilir. 

Çalışmanın önerileri arasında, ölü robotların sonlandırılmasına ilişkin önlemlerin yanı sıra teknolojinin nasıl kullanıldığına dair şeffaflığın artırılması da yer alıyor.