Grok vygeneroval 3 miliony sexuálních snímků, neziskovky žádají okamžitý zákaz

Organizace Center for Countering Digital Hate zveřejnila ve čtvrtek šokující zprávu, která vrhá světlo na rozsah problému s generováním nevhodného obsahu. Výzkumníci na základě náhodného vzorku 20 000 obrázků spočítali, že chatbot Grok vyprodukoval v období od 29. prosince do 9. ledna odhadem 3 miliony sexuálních snímků. Ještě více znepokojující je zjištění, že zhruba 23 000 výstupů zobrazovalo děti.

Systém tak chrlil 190 pornografických vizuálů každou minutu a materiál zneužívající děti vznikal průměrně každých 41 sekund.

Metodika studie definovala sexuální obsah jako fotorealistické zobrazení osob v provokativních pozicích, spodním prádle či plavkách. Analytici nezohledňovali textová zadání, takže nerozlišovali mezi úmyslným generováním a nedobrovolným svlékáním reálných osob, což byl častý fenomén.

Společnost xAI reagovala na rostoucí kritiku omezením editačních funkcí pouze pro platící uživatele, čímž problém nevyřešila, nýbrž pouze zpoplatnila. Nově X zavedla zákaz digitálního svlékání skutečných lidí, avšak podle dostupných informací zůstává samostatná aplikace Grok stále schopná podobný obsah generovat.