Pentagonový podvod ukazuje nebezpečí AI a placené verifikace Twitteru

Ve světě sociálních médií se objevil příklad, který ukázal, jak snadno může být šířena dezinformace pomocí kombinace platby za ověřovací „modré štítky“ a generativní AI. V pondělí ráno se po internetu šířil AI generovaný obrázek exploze v americkém Pentagonu, ačkoliv se taková událost ve skutečnosti nestala.

Obrázek se během půl hodiny objevil na ověřeném Twitterovém účtu s názvem „Bloomberg Feed“, který mohl být snadno zaměněn za skutečný účet spojený s agenturou Bloomberg, zejména proto, že měl modrý štítek.

Falešný obrázek se rychle šířil a byl sdílen i jinými účty s velkým počtem sledujících, včetně ruské státní zpravodajské sítě RT. Dokonce i indická televizní síť nahlásila falešnou explozi Pentagonu. Není přesně jasné, odkud tento falešný obrázek a zpráva pocházejí. Někteří pozorovatelé uvedli, že šíření této falešné zprávy mohlo mít dočasný dopad na finanční trhy, ale tato hypotéza zůstává neověřená.

Přestože se uživatelé postupně učí, že modrý štítek již neznamená automatickou důvěryhodnost, stále existuje silný vizuální návyk, který je těžké překonat.