Meta vytvořila nástroj na odhalování obsahu z umělé inteligence

Meta představila nový způsob, jak ověřit původ obrázků vytvořených její umělou inteligencí. Společnost zveřejnila náhled webového nástroje, který dokáže rozpoznat neviditelné vodoznaky vkládané do snímků generovaných modelem Muse Image.

Uživatelé tak získávají alespoň základní možnost zjistit, zda obrázek vznikl nebo prošel úpravami prostřednictvím Meta AI.

Základem celého systému je technologie Content Seal. Podle společnosti zůstává neviditelný vodoznak zachován i po oříznutí, kompresi, změně velikosti nebo pořízení screenshotu.

Pokud nástroj vodoznak rozpozná, znamená to, že obrázek byl vytvořen nebo upraven v aplikaci Meta AI či na webu meta.ai. Negativní výsledek naopak naznačuje, že snímek těmito službami s největší pravděpodobností neprošel.

Nový přístup se od předchozích řešení v několika směrech liší. Verze Content Seal integrovaná do modelu Muse Image je proprietární, přestože Meta v minulosti zveřejnila i open source varianty stejné technologie. Firma zároveň opouští viditelné vodoznaky, které starší modely přidávaly do pravého dolního rohu obrázků, a nahrazuje je neviditelným označením uloženým přímo v datech snímku.

Novinka má ale i svá omezení. Detekce zatím funguje pouze u obrázků vytvořených nebo upravených modelem Muse Image a nerozpozná obsah označený jinými systémy, například SynthID nebo C2PA Content Credentials. Meta zároveň potvrdila, že technologii Content Seal plánuje rozšířit také na videa společně s připravovaným modelem Muse Video.

První testy dopadly poměrně dobře. Nástroj si poradil nejen s původními AI obrázky, ale také s jejich upravenými verzemi a screenshoty. Zajímavostí ovšem je, že samotná aplikace Meta AI zatím stejnou funkci nenabízí. Asistent při dotazu na původ obrázku stále odpovídá, že nedokáže určit, jaký model snímek vytvořil, přestože samostatný webový detektor už takovou možnost poskytuje.