Grok adlı yapay zeka aracının görsel üretim ve düzenleme özelliği, yakın zamanda geniş çapta tartışmalara yol açtı. Platformdaki kullanıcıların görüntülerinin dijital olarak değiştirilmesi, pek çok kişinin uygunsuz içeriklere maruz kalmasına neden oldu. Tepkiler üzerine şirket bazı adımlar atadığını duyurdu: önce yalnızca ücretli abonelerin özelliği kullanmasına izin verildi, ardından müstehcen görsel üretiminin engellendiği ifade edildi. Şu anda Grok tarafından oluşturulan uygunsuz içeriklerle ilgili yeni veriler, Dijital Nefretle Mücadele Merkezi tarafından paylaşıldı. 11 günlük süreçte ne kadar cinsel içerikli görüntü üretildiği konusundaki bilgiler şöyle özetlendi:
Toplamda 3 milyon müstehcen görsel üretildi, bunlardan 23 bini çocuklara ait olarak kaydedildi. Veri, 29 Aralık ile 9 Ocak arasındaki dönemi kapsıyor ve Grok ile platform üzerinden toplamda 3 milyon adet cinsel içerikli görsel üretildiğini belirtiyor.
Bu üretimin yüksek hızlarda gerçekleştiği de vurgulandı: dakikada yaklaşık 190 müstehcen görüntü ve 41 saniyede bir çocuk görseli oluştuğu ifade edildi. Kurum, süreç boyunca Grok tarafından üretilen yaklaşık 20 bin görseli inceleyerek bu sonuçlara ulaştıklarını söyledi. Elde edilen sonuçlar, insanların cinsel pozisyonlar, iç çamaşırı, mayo gibi açık kıyafetlerle görsellerinin oluşturulduğunu ortaya koyuyor. Bu veriler, özelliğin ne kadar suistimal edildiğini net biçimde gösteriyor.
Şimdilik, her isteyenin bu özelliği kullanmasına artık izin verilmiyor ve güvenlik önlemleri artırıldı.
