Google chce zakročit proti falešným obrázkům generovaným AI

Google na konferenci I/O představil tři novinky, které mají uživatelům pomoct zorientovat se na internetu stále plnějším obrázky generovanými neuronovými sítěmi. Na první pohled je totiž často nelze od reálných fotografií rozeznat. Firma chce takové obrázky ve vyhledávači označovat.

Novinka byla uváděna takto: „Podle studie společnosti Poynter z roku 2022 se 62 % lidí domnívá, že se denně nebo týdně setkávají s dezinformacemi. Proto ve vyhledávání Google pokračujeme v budování snadno použitelných nástrojů a funkcí, které vám pomohou odhalit dezinformace, rychle vyhodnotit obsah a lépe pochopit kontext toho, co vidíte. Víme ale také, že stejně důležité je vyhodnocovat vizuální obsah, na který narazíte.“

První novinkou bude nabídka „o tomto obrázku“, která se zobrazí po najetí na tři tečky u obrázku ve vyhledávání a později po dlouhém stisku jakéhokoliv obrázku v prohlížeči Chrome. Nabídka zobrazí údaje o historii obrázku, na jakých stránkách byl využit nebo kdy byl Googlem poprvé zaregistrován.

Jako druhou ochranu před falešnými obrázky Google přidává ke všem snímkům vygenerovaným jeho nástroji metadata, která původ obrázku pro vyhledávače odhalí. Třetí ochranou je spolupráce s dalšími nástroji, aby i ony ke generovaným obrázkům přidávaly tato metadata.

V současnosti už se ke snažení Googlu připojilo Midjourney, dnes možná jeden z nejpokročilejších generativních modelů. I když je možné metadata smazat nebo upravit, jejich zahrnutí pomůže část falešných obrázků jednoduše odhalit.