ChatGPT Arama Motorunda Güvenlik Alarmı: Manipülasyona Karşı Açık Olduğu Ortaya Çıktı

ChatGPT Arama, gizli metin saldırılarıyla yanıltıcı özetler üretebilecek şekilde manipüle edilebildiği ortaya çıktı.

Bu ay kullanıma sunulan yapay zeka destekli arama motoru ChatGPT Arama’nın, yanıltıcı özetler oluşturabilecek şekilde manipüle edilebildiği ortaya çıktı.

The Guardian tarafından yapılan bir araştırmada, web sitelerine eklenen gizli metinler sayesinde, olumsuz yorumların göz ardı edilip “tamamen olumlu” özetlerin sunulduğu tespit edildi.

ChatGPT Arama manipüle edilebiliyor

ChatGPT Arama, bir web sayfasının ürün incelemeleri gibi içerikleri özetleyerek taramayı hızlandırmayı amaçlıyor. fakat The Guardian’ın araştırmasına göre, gizli metin saldırılarıyla ChatGPT Arama yanıltıcı özetler ve zararlı kodlar üretebiliyor. Bu tür saldırılar büyük dil modelleri için bilinen bir risk olmakla birlikte ilk kez canlı bir yapay zeka destekli arama motorunda tespit edildi.

Google, arama motoru alanındaki deneyimi sayesinde benzer sorunlarla daha etkin bir şekilde başa çıkabiliyor. OpenAI ise yaşanan bu olay hakkında yorum yapmaktan kaçındı fakat kötü niyetli web sitelerini engellemek için çeşitli yöntemler kullandığını ve sistemlerini sürekli olarak geliştirdiğini belirtti.