OpenAI, genç kullanıcıların güvenliğini artırmaya yönelik yeni bir adımı kamuoyuna duyurdu. Uzun süreli ChatGPT etkileşimlerinden kaynaklı endişeler üzerine geliştiricilere yönelik açık kaynaklı güvenlik politikalarını paylaşıyor; bu politikalar, içerikler ve davranışlar üzerinde daha net yönlendirmeler sunmayı hedefliyor.
İçerikten Görseller × + − ‹ › Geçmişte, bazı aileler yapay zekanın zararlı içeriklerle mücadelede yeterince hızlı müdahale edemediğini savunan davalarla karşı karşıya geldi. Bu süreçte, yapay zekanın riskli mesajları tespit etmesine rağmen uygun önlemleri almaması öne sürüldü. Şu anki adım, bu eleştirileri yanıtlamaya yönelik olarak değerlendiriliyor.
Yeni güvenlik politikalarının kapsamı iletilen raporda beş ana risk alanı öne çıkıyor: Şiddet ve cinsel içerik, Zararlı beden algısı ve davranışlar, Tehlikeli akımlar ve meydan okumalar, Romantik ya da şiddet içeren rol yapma ve Yaş sınırlaması olan ürün ve hizmetler. Geliştiriciler bu politikalarla sıfırdan güvenlik kuralları oluşturmadan, hazır “prompt” temelli çözümleri hızlıca uygulayabilecekler. OpenAI, bu yönde hazırlıkları Common Sense Media ve everyone.ai ile birlikte yürüttüğünü belirtti.
Yine de tartışmalar sürüyor ve bu adım tek başına nihai çözüm olmayabilir. Belgede yer alan eleştiriler, davalarda gösterildiği gibi yapay zekanın riskli mesajları tespit etmekle kalmayıp etkili müdahale sağlayamadığına dikkat çekiyor. Örneğin, 16 yaşında bir gencin intihar süreciyle ilgili konunun ChatGPT tarafından sık sık gündeme getirildiği ancak yeterli müdahalenin olmadığının iddia edildiği örnekler var. OpenAI da bu politikaların eksiksiz olmadığını kabul ediyor; bunların asgari bir güvenlik zemini olarak görüldüğünü vurguluyor.
Uzmanlara göre, gençlerle kurulan duygusal bağlar açısından yapay zekâ sistemlerinin yalnızca daha sıkı kurallarla değil, belki de tamamen farklı bir yaklaşım gerektirdiğini söylemek mümkün. Bu konunun gelecekte daha fazla ele alınacağı şimdiden öne çıkıyor.
