Magazín · Novinky · v sobotu 18. 5. 2024 16:00
Google zavádí digitální vodoznaky pro AI generovaná videa a texty
V rámci neustálého rozvoje svých nástrojů pro generování videa zveřejnil Google svůj záměr zvýšit transparentnost původu AI generovaných klipů. Všechna videa vytvořená pomocí nejnovějšího modelu Veo v aplikaci VideoFX budou nyní opatřena digitálními vodoznaky díky Google systému SynthID. Systém byl poprvé implementován v loňském roce pro obrázky generované AI a nyní se rozšiřuje i na video obsah a texty generované pomocí Gemini.
Systém SynthID je navržen tak, aby vkládal do obsahu vytvořeného AI nepostřehnutelné vodoznaky, které umožňují detekčním nástrojům rozpoznat, že obsah byl vytvořen umělou inteligencí. S příchodem Veo, který dokáže generovat delší a vyšší rozlišení videí než předchozí modely, se stává sledování zdroje tohoto obsahu stále důležitějším.
Vzhledem k rostoucím obavám ze šíření dezinformací prostřednictvím umělé inteligence, společnosti jako TikTok a Meta rovněž oznámily plány na implementaci podobných detekčních nástrojů a systémů vodoznaků na svých platformách.
Přesto zůstávají otázky, zda digitální vodoznaky samy o sobě poskytují dostatečnou obranu proti zneužití AI pro vytváření klamavého obsahu.
Zdroj: Pixabay / geraltSundar Pichai: Umělá inteligence by měla být vnímána jako nástroj pro spolupráci, ne jako náhrada