ChatGPT'nin kullanıcıları kandırabileceği ortaya çıktı

ChatGPT'nin web tabanlı arama özelliğiyle ilgili yeni bir iddia ortaya atıldı. 

Guardian'ın haberine göre, ChatGPT'nin yapay zeka desteğiyle internet üzerinden arama özelliğinin tamamen yanıltıcı özetler üreterek kullanıcıları kandırdığı ortaya çıktı.

ChatGPT'nin arama özelliği, bir web sayfasının ürün yorumlarını özetlemek gibi şeyler yaparak gezinmeyi daha hızlı hale getirmeyi amaçlıyor.

OLUMSUZ YORUMLARI GÖRMEZDEN GELİYOR

Ancak, ChatGPT'nin oluşturduğu web sitelerine gizli metinler ekleyerek olumsuz yorumları görmezden gelmesini ve tamamen olumlu özetler oluşturmasını sağlayabildiğini keşfetti.

ChatGPT Search'ün (Arama) bu yöntemi kullanarak kötü amaçlı kodlar üretmesi de sağlanabiliyordu.

Bu tür gizli metin saldırıları büyük dil modelleri için iyi bilinen bir risktir, ancak bu ilk kez canlı bir yapay zeka destekli arama ürününde gösterilmiş gibi görünüyor.

Ayrıca arama motoru devi Google'ın benzer sorunlarla başa çıkma konusunda daha fazla deneyime sahip olduğu belirtildi.

OpenAI, kötü niyetli web sitelerini engellemek için çeşitli yöntemler kullandığını ve sürekli olarak geliştiğini söyledi.