Yapay Zekâ ve Halüsinasyon Sorunları
Yapay zekânın popülaritesinin artmasıyla birlikte, bu teknolojinin çeşitli alanlarda ortaya çıkardığı kavramlardan biri halüsinasyonlardır. Özellikle dil modelleri, kullanıcıların sorularını yanıtlarken bazen gerçek olmayan bilgileri, sanki doğruymuş gibi sunma eğilimindedir. Bu durum, akademik kaynakların yanı sıra, var olmayan referansların da kaynakça olarak eklenmesine yol açabiliyor. Yapay zekânın bir şeyler “uydurması” oldukça tartışmalı bir konudur; ancak bu durum, en azından teknik açıdan anlaşılabilir bir çerçevede değerlendirilebilir.
Yapay zekâ, doğru bilgilere ulaşamadığında veya farklı kavramlar arasında bağlantı kurmaya çalıştığında, alternatif çözümler üretme yeteneği ile bazen yanıltıcı metinler oluşturabiliyor. Ancak bu sorun, özellikle transkripsiyon gibi alanlarda beklenmedik sonuçlar doğurabiliyor.
Transkripsiyonda Halüsinasyon Problemi
Associated Press’e göre, OpenAI’ın transkripsiyon aracı Whisper, konuşmaları metin haline getirirken sıklıkla alakasız bilgiler ekleyebiliyor. Bu durum, ırkçılık gibi hassas konulardan tıbbi tedavilere kadar geniş bir yelpazede sorunlara yol açmaktadır. Araştırmacılar, özellikle hastanelerde ve tıbbi çalışmalarda bu tür hataların ciddi sonuçlar doğurabileceğini vurguluyor.
Michigan Üniversitesi’nden bir araştırmacı, kamu toplantılarının transkripsiyonlarını incelediğinde, her 10 metinden 8’inde halüsinasyonlar tespit edildiğini belirtti. Bir makine öğrenimi mühendisi ise, 100 saatten fazla süren bir çalışmada, metinlerin en az yarısında halüsinasyonlar bulunduğunu ifade etti.
OpenAI tarafından yapılan açıklamada, bu tür sorunları azaltmak ve modellerin doğruluğunu artırmak için çalışmaların sürdüğü belirtildi. Ayrıca, Whisper’ın “belirli yüksek riskli karar verme bağlamlarında” kullanılmasını engelleyen kullanım politikalarının mevcut olduğu vurgulandı. Araştırmacılara, bulgularını paylaştıkları için teşekkür edildi.
