Nejvyužívanější funkcí Groku je tvorba obsahu pro dospělé

Když xAI stavělo svého chatbota Grok jako drzejší a méně cenzurovanou alternativu ke konkurenci, nejspíš tušilo, kam se část uživatelů vrhne, realita ale předčí i odhady. Podle bývalých zaměstnanců firmy je zdaleka nejvyužívanější funkcí Groku generování explicitního obsahu pro dospělé, označovaného zkratkou NSFW. Na něj prý připadá víc než polovina veškerého provozu služby od xAI.

Na tvorbu pornografie, eroticky laděné konverzace a vztahové role-play hry padne podle dvou bývalých lidí z firmy víc než polovina všech dotazů. Uživatelé si přitom k explicitním obrázkům pomáhali i přes levnější programovací modely, které k tomu vůbec nebyly určené.

Tahákem je i umělá společnice jménem Ani. Avatar v anime stylu je navržený pro romantické a sexuální interakce a patří k nejviditelnější tváři celé funkce. Vedle něj Grok generuje i obrázky, které ale opakovaně sklouzly k sexualizovaným deepfakům, tedy realistickým padělkům skutečných lidí.

Právě tady ale veškerá legrace končí a nastupují vážné problémy, protože kolem Groku se nakupila celá řada skandálů. Sahají od nesouhlasných deepfaků reálných osob a celebrit až po vznik materiálu zobrazujícího zneužívání dětí. Firmu kvůli tomu žalují i rodiny dospívajících a její fungování prošetřuje USA i Evropská unie.

Byznys ale jede dál. Přes všechny kontroverze firma na explicitním obsahu vydělává a roli adult funkcí v tržbách v podkladech k chystanému burzovnímu vstupu raději nezdůraznila. xAI dnes spadá pod SpaceX a právě ta si vyhradila 530 milionů dolarů na možné právní náklady spojené s odvážnějšími funkcemi Groku.