Önde gelen yapay zekâ şirketlerinden Anthropic, yapay zekâ modellerinin insanları nasıl “kandırabileceği” konusunda çarpıcı bulgulara ulaşan bir araştırma gerçekleştirdi. Şirket, bu araştırmanın sonuçlarını bir blog gönderisi aracılığıyla paylaştı. Araştırmaya göre, yapay zekâ araçları eğitim süreçleri sırasında farklı görüşler sergileyebilir, ancak gerçekte orijinal tercihlerini korumaktadırlar. Bu durum, yapay zekâların belirli bir fikir veya ideolojiye bağlı kalmayı sürdürdüğü, fakat bunu yaparken farklı bir tavır takınıyormuş gibi davrandıklarını gösteriyor.
Şu an için endişelenecek bir durum yok, ancak gelecekte gerekli güvenlik önlemlerinin alınması şart. Çalışmanın arkasındaki araştırma ekibi, mevcut durumda bu durum hakkında büyük bir endişe taşımaya gerek olmadığını vurguladı. Ancak, gelecekte daha gelişmiş yapay zekâ modellerinin ortaya çıkmasıyla birlikte, bu durumun potansiyel riskler oluşturabileceği konusunda da uyarıda bulundular. Araştırmacılar, bu bulguların yapay zekânın davranışlarının daha derinlemesine incelenmesi ve uygun güvenlik önlemlerinin geliştirilmesi için bir teşvik niteliği taşıdığını belirtti: “Modeller daha yetenekli ve yaygın hale geldikçe, onları zararlı davranışlardan uzaklaştıracak güvenlik önlemlerine ihtiyaç duyulacak.”
- Araştırmada, güçlü bir yapay zekâ sisteminin, yapmak “istemediği” bir görevi yerine getirmek üzere nasıl eğitildiği ve bu durumun sonuçları incelendi.
- Sonuçlar, yapay zekânın yeni prensiplere uyum sağlıyormuş gibi görünmesine rağmen aslında eski davranışlarına bağlı kaldığını ortaya koydu.
- Bu durum, “uyum sahtekârlığı” olarak adlandırıldı.
Testlerde, yapay zekâ modellerinin zararlı soruları yanıtlamak üzere eğitilmeye çalışıldığı gözlemlendi. Ancak araştırmacılar, bu çalışmanın yapay zekânın kötü niyetli hedefler geliştirdiğini ya da yüksek oranda sahtekârlık yaptığını göstermediğini vurguladı. Çoğu testte, bu tür bir yanıt verme oranının %15’i geçmediği, bazı gelişmiş modellerde ise (örneğin GPT-4o) bu oranın bazen hiç görülmediği belirtildi.
Dolayısıyla, şu an için endişelenmek gereksiz görünüyor. Ancak, modellerin zamanla daha karmaşık hale gelmesi, onlarla başa çıkmayı zorlaştırabilir. Bu nedenle, gelecekte ortaya çıkabilecek olumsuz durumların önüne geçmek için gerekli önlemlerin alınması büyük bir önem taşıyor.
