Společnost OpenAI zastavila pět tajných operací využívajících AI k dezinformacím

Společnost OpenAI, která stojí za populárním AI nástrojem ChatGPT, nedávno zveřejnila zprávu, ve které informovala o zastavení pěti tajných vlivových operací v období mezi lety 2023 a 2024. Operace měly původ v Rusku, Číně, Íránu a Izraeli a snažily se ovlivňovat politické dění a veřejné mínění na internetu, aniž by prozradily svou pravou identitu či záměry.

OpenAI ve spolupráci s technologickými firmami, občany a vládami pracovalo na odstřižení těchto škodlivých aktérů od svých služeb. Podle oficiální zprávy OpenAI tyto kampaně zatím nezaznamenaly značný nárůst zapojení nebo dosahu svého publikum díky použití služeb OpenAI.

Firma také zdůraznila významný dopad generativní AI na volby po celém světě plánované na tento rok, včetně těch ve Spojených státech amerických. Sítě lidí zapojených do vlivových operací používaly generativní AI k produkci textů a obrázků ve velkém měřítku a k vytváření falešných komentářů na sociálních sítích.

Například jedna z ruských operací využívala modely OpenAI ke generování titulků, převádění článků na příspěvky na Facebooku a vytváření komentářů v několika jazycích za účelem oslabení podpory pro Ukrajinu.