Evropská unie spustila povinné značení AI obsahu

Od začátku srpna platí v Evropské unii povinnost označovat obsah, který vytvořila umělá inteligence. Vychází z článku 50 nařízení AI Act a dopadá na syntetický zvuk, obraz, video i text. Rozhodující je, jestli výsledek může u běžného člověka projít jako autentický záznam.

Povinnost se dělí mezi dvě skupiny a každá má jiný úkol. Poskytovatelé, kteří systém vyvinou a uvedou na trh, musí výstup opatřit strojově čitelnou značkou, aby šel spolehlivě rozpoznat jako umělý. Provozovatelé, kteří systém používají při výdělečné činnosti, musí deepfake zřetelně označit nejpozději při prvním zobrazení.

Zvláštní pravidlo dopadá na psaný text o věcech veřejného zájmu, pokud vyšel bez lidské kontroly. U článku pak musí být uvedeno, že ho sepsal stroj, protože právě u zpravodajství hrozí největší škoda. Uživatel se také musí dozvědět, že mluví s AI, ať už jde o chatbota, agenta nebo avatara, pokud to není zřejmé samo o sobě.

Výjimek si zákonodárci ponechali celou řadu a některé jsou dost široké. Značka nemusí být u krátkých sekvencí čísel a písmen, u zdrojového kódu, u výstupů putujících mezi stroji ani v uzavřených průmyslových prostředích. Ven z povinnosti se dostanou i díla zjevně umělecká, satirická nebo fikční a text, který prošel redakční kontrolou člověka.

Soukromá komunikace zůstává mimo dosah pravidel, takže zprávy ve skupinovém chatu nikdo označovat nemusí. Povinnost tak míří na veřejně šířený obsah, ne na to, co si lidé posílají mezi sebou. Rozhodující je způsob zveřejnění, ne technologie, kterou obsah vznikl.