Kalifornie i EU vyšetřují xAI kvůli zneužití nástroje Grok pro sexuální obrázky

K hromadné žalobě na společnost xAI kvůli chatbotu Grok se přidala další žalobkyně, která tvrdí, že nástroj z jejích skutečných dětských fotografií vytvořil sexuálně explicitní snímky bez jejího souhlasu. Žalobu u federálního soudu v severní Kalifornii v březnu podaly původně tři nezletilé oběti. Podle žaloby by se řízení mohlo rozšířit na tisíce dalších nezletilých, jejichž fotografie mohl nástroj podobným způsobem zneužít.

Žaloba tvrdí, že xAI systém pro generování obrázků vědomě navrhla tak, aby zvládal i sexuálně explicitní obsah reálných lidí, a odmítla zavést běžné bezpečnostní pojistky, které podobnému zneužití u konkurenčních nástrojů brání.

Firma podle právního dokumentu navíc přístup k modelu Grok licencovala i třetím stranám jako další zdroj příjmů, aniž by u nich zajistila odpovídající kontrolu použití.

Kauza navazuje na vyšetřování, které v lednu otevřel kalifornský generální prokurátor Rob Bonta poté, co uživatelé začali Grok masově zneužívat k úpravě běžných fotografií žen a dětí do sexuálně explicitní podoby. Bonta firmě zaslal formální výzvu k okamžitému zastavení praktiky a označil podobný obsah za oblast s nulovou tolerancí ze strany úřadu.

Dle analýzy provedené v rámci vyšetřování tvořila v jednom sledovaném období víc než polovina tisíců zkoumaných snímků generovaných nástrojem obsah zobrazující lidi v minimálním oblečení nebo bez něj.

Podobné vyšetřování vede vůči xAI i Evropská unie, případ tak přesahuje hranice jednoho státu. Firma se k jednotlivým žalobám veřejně podrobně nevyjádřila, obecně ale tvrdí, že proti zneužívání svých nástrojů průběžně zavádí další ochranná opatření.