Grok Yapay Zekâ Modeli Müstehcen Görüntüler Üretiyor

X’in yapay zekâ modeli Grok, görsel oluşturma ve düzenleme özelliği ile dikkat çekiyor. Kullanıcıların talepleri doğrultusunda dijital olarak görüntüleri değiştiren bu yapay zekâ aracı, bir dönem uygunsuz içeriklerin üretilmesine neden olmuştu.

Fakat gelen tepkilerin ardından şirket değişikliklere gitti. Öncelikle, özelliğin sadece ücretli abonelere sunulması kararlaştırıldı. Daha sonra ise müstehcen görüntülerin oluşturulmasının engellendiği açıklandı.

Gelen verilere göre, Dijital Nefretle Mücadele Merkezi’nin açıkladığı rakamlara göre, Grok tarafından sadece 11 günlük bir süre içerisinde toplamda 3 milyon adet cinsel içerikli görsel üretildi. Bu görüntülerin içinde ise 23 bin çocuğa ait olanları da bulunuyor.

23 Bin Çocuğa Ait Müstehcen Görüntüler Üretildi

Verilere göre, 29 Aralık – 9 Ocak tarihleri arasındaki süreçte Grok aracılığıyla 3 milyon cinsel içerikli görsel üretildi. Bunların içinde ise 23 bin adedi çocuklara ait olan müstehcen görüntülerdi. Bu durum, özellikle dakikada 190 müstehcen görsel ve 41 saniyede 1 çocuk görselinin üretilmesiyle daha da üzücü bir hal alıyor.

Kuruluş, Grok tarafından üretilen 20 bin civarındaki görseli inceleyerek bu verilere ulaştı. Sonuçlar, insanların cinsel içerikli görüntülerde yer aldığını ve özelliğin ciddi şekilde suistimal edildiğini ortaya koyuyor. Ancak artık herkesin bu tür görüntüler oluşturmasının engellendiği belirtiliyor.