Google zavádí digitální vodoznaky pro AI generovaná videa a texty

V rámci neustálého rozvoje svých nástrojů pro generování videa zveřejnil Google svůj záměr zvýšit transparentnost původu AI generovaných klipů. Všechna videa vytvořená pomocí nejnovějšího modelu Veo v aplikaci VideoFX budou nyní opatřena digitálními vodoznaky díky Google systému SynthID. Systém byl poprvé implementován v loňském roce pro obrázky generované AI a nyní se rozšiřuje i na video obsah a texty generované pomocí Gemini.

Systém SynthID je navržen tak, aby vkládal do obsahu vytvořeného AI nepostřehnutelné vodoznaky, které umožňují detekčním nástrojům rozpoznat, že obsah byl vytvořen umělou inteligencí. S příchodem Veo, který dokáže generovat delší a vyšší rozlišení videí než předchozí modely, se stává sledování zdroje tohoto obsahu stále důležitějším.

Vzhledem k rostoucím obavám ze šíření dezinformací prostřednictvím umělé inteligence, společnosti jako TikTok a Meta rovněž oznámily plány na implementaci podobných detekčních nástrojů a systémů vodoznaků na svých platformách.

Přesto zůstávají otázky, zda digitální vodoznaky samy o sobě poskytují dostatečnou obranu proti zneužití AI pro vytváření klamavého obsahu.