Anthropic začal text od Claude neviditelně značkovat kvůli zákonu EU

Anthropic začal texty generované Claude opatřovat neviditelným vodoznakem, a to u všech modelů vydaných po 2. srpnu letošního roku a napříč všemi produkty firmy. Krok souvisí s pravidly EU AI Act, konkrétně s částí zákona, která od začátku srpna vyžaduje, aby systémy generující syntetický obsah svůj výstup nějakým strojově čitelným způsobem označily.

Firmám, které pravidlo nedodrží, hrozí pokuta až 15 milionů EUR nebo 3 % celosvětových ročních tržeb, podle toho, která částka je vyšší.

Vodoznak funguje na principu záměrného ovlivnění výběru slov, místo náhodného generátoru systém při psaní věty používá kryptografický klíč, který mezi vhodnými možnostmi upřednostní konkrétní slova. Vzniklý statistický vzor je pro běžného čtenáře zcela neviditelný, rozpoznat ho jde jen pomocí odpovídajícího dešifrovacího klíče. Metoda vychází z přístupu SynthID-Text, který v roce 2024 v časopise Nature popsal tým Google DeepMind.

Podle Anthropicu vodoznak nijak neovlivňuje kvalitu, kreativitu ani rychlost odpovědí a nepřidává do textu žádné navíc znaky ani tokeny. Systém zároveň neidentifikuje konkrétního uživatele ani organizaci, pozná se jen to, že text pravděpodobně napsal Claude, ne kdo přesně o odpověď požádal. Firma slibuje také samostatné rozhraní pro ověřování, přes které si kdokoliv bude moct nechat zkontrolovat, jestli daný text pochází od umělé inteligence.

Metoda má ale limity, u věcných textů s omezeným počtem přirozených formulací, třeba jednoduchých faktických vět, funguje vodoznak slaběji. U programového kódu se projevuje hlavně v komentářích, protože samotný funkční kód musí zůstat přesný a nedává tolik prostoru pro variace slov. Vodoznak navíc nedokáže rozlišit text, který Claude napsal celý sám, od textu, který člověk jen lehce upravil, a při silnějším přepsání nebo převodu do jiného formátu se dá zcela odstranit.

Společnost Anthropic ale pravidlo zavádí celosvětově, ne jen pro uživatele v Evropské unii, a v červenci se připojil i k evropskému kodexu chování pro transparentnost obsahu vytvořeného umělou inteligencí spolu s asi 190 dalšími signatáři.