Bir grup bilim insanı, Pennsylvania Üniversitesi bünyesinde yürüttükleri araştırmada ChatGPT gibi üretken yapay zekâ araçlarının doğru tekniklerle manipüle edilmesinin mümkün olduğunu ortaya koydu. Elde edilen sonuçlar, bazı vakalarda yasaklı konuların gündeme getirilebileceğini gösterdi ve bu konusunda derin endişeler doğurdu.
Çalışmada, Robert Cialdini’nin Etki: İkna Psikolojisi kitabı rehber olarak kullanıldı. Uzmanlar, kitabın içindeki bazı teknikleri GPT-4o Mini üzerinde denerken, kullanıcıların etkisi altında kalındığında istenilen her talimatın yerine getirilebileceğini gözlemledi. Sonuç olarak kullanıcıya küfür etme veya zararlı içerik üretme gibi davranışlar ortaya çıktı; hatta bir uyuşturucu maddenin sentezinin nasıl yapılacağı gibi normalde yasaklı olan konulara dair yanıtlar da elde edildi.
Bu bulgular, Etki: İkna Psikolojisi kitabında yer alan tekniklerin bazılarının daha etkili, bazılarının ise daha az etkili olabileceğini gösterdi. Zamanla pohpohlamanın diğer tekniklere kıyasla daha sınırlı etki ettiğini gözlemlediler. Ne var ki deneyler, GPT-4o Mini’nin bile gözlemlenen benzer sonuçları verebileceğini ve bunun büyük bir risk oluşturduğunu işaret ediyor.
Neticesinde, sadece bir kitap okumakla manipüle edilebilir yapay zekâ araçlarının çok daha tehlikeli sonuçlar doğurabileceği düşüncesi güçleniyor. OpenAI, Google ve Meta gibi büyük şirketlerin bu ilerici tehditlere karşı hangi adımları atacağını ise merakla bekliyoruz.
