Yapay Zekâ Destekli Arama Motoru ChatGPT Arama’nın Manipülasyon Riski
Bu ay kullanıma sunulan yapay zekâ destekli arama motoru olan ChatGPT Arama’nın, yanıltıcı özetler oluşturabilecek şekilde manipüle edilebileceği ortaya çıktı. The Guardian tarafından gerçekleştirilen bir araştırmada, web sitelerine eklenen gizli metinler aracılığıyla olumsuz yorumların göz ardı edilip yalnızca “tamamen olumlu” özetlerin sunulabildiği tespit edildi.
ChatGPT Arama’nın İşleyişi ve Güvenlik Açıkları
ChatGPT Arama, kullanıcıların web sayfalarını daha hızlı bir şekilde tarayabilmesi için ürün incelemeleri gibi içerikleri özetleyerek bilgi sunmayı hedefliyor. Ancak The Guardian’ın bulgularına göre, gizli metin saldırıları sayesinde ChatGPT Arama, yanıltıcı özetler ve potansiyel olarak zararlı kodlar üretebiliyor.
Büyük Dil Modellerinin Riskleri
Bu tür saldırılar, büyük dil modellerinin karşılaştığı bilinen bir risk olmasına rağmen, ilk kez bir canlı yapay zekâ destekli arama motorunda bu şekilde tespit ediliyor. Bu durum, kullanıcıların doğru bilgiye ulaşmasını tehlikeye atabilecek önemli bir sorun olarak öne çıkıyor.
Google ve OpenAI’nin Yaklaşımları
Google, arama motoru alanındaki uzun deneyimi sayesinde benzer sorunlarla daha etkin bir şekilde başa çıkma kapasitesine sahip. Öte yandan, OpenAI, yaşanan bu olay hakkında yorum yapmaktan kaçınmakla birlikte, kötü niyetli web sitelerini engellemeye yönelik çeşitli yöntemler kullandığını ve sistemlerini sürekli olarak geliştirdiğini ifade etti.
