Magazín · Novinky · ve středu 24. 5. 2023 09:00
Pentagonový podvod ukazuje nebezpečí AI a placené verifikace Twitteru
Ve světě sociálních médií se objevil příklad, který ukázal, jak snadno může být šířena dezinformace pomocí kombinace platby za ověřovací „modré štítky“ a generativní AI. V pondělí ráno se po internetu šířil AI generovaný obrázek exploze v americkém Pentagonu, ačkoliv se taková událost ve skutečnosti nestala.
Obrázek se během půl hodiny objevil na ověřeném Twitterovém účtu s názvem „Bloomberg Feed“, který mohl být snadno zaměněn za skutečný účet spojený s agenturou Bloomberg, zejména proto, že měl modrý štítek.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
Falešný obrázek se rychle šířil a byl sdílen i jinými účty s velkým počtem sledujících, včetně ruské státní zpravodajské sítě RT. Dokonce i indická televizní síť nahlásila falešnou explozi Pentagonu. Není přesně jasné, odkud tento falešný obrázek a zpráva pocházejí. Někteří pozorovatelé uvedli, že šíření této falešné zprávy mohlo mít dočasný dopad na finanční trhy, ale tato hypotéza zůstává neověřená.
Přestože se uživatelé postupně učí, že modrý štítek již neznamená automatickou důvěryhodnost, stále existuje silný vizuální návyk, který je těžké překonat.
Zdroj: Alexander Shatov / UnsplashMeta ostře zasahuje proti sextortion podvodům