Přes 100 firem včetně OpenAI a Googlu podepsalo výzvu ke společné obraně proti AI útokům

Přes sto technologických firem v čele s OpenAI, Googlem, Microsoftem a Anthropic podepsalo otevřený dopis s názvem Výzva ke kolektivní kybernetické obraně. Signatáři v něm varují, že útoky poháněné umělou inteligencí budou v příštích měsících výrazně rozsáhlejší a sofistikovanější. Modely po celém světě totiž rychle nabírají na schopnostech.

Mezi podepsanými firmami figurují i Cisco, Cloudflare, CrowdStrike, AWS, Oracle, Hugging Face nebo Perplexity. Dopis staví na třech principech, obyčejné zabezpečení už nebude stačit, obránce je potřeba vybavit AI nástroji a reakci je nutné zorganizovat společně napříč odvětvím.

Firmy v textu doporučují, aby organizace zabezpečení dat řešily jako prioritu, ne až jako dodatek k jiným projektům. Vývojáři nejvyspělejších modelů umělé inteligence by podle dopisu měli stavět nástroje pro sledování a zabezpečení a zajistit dohledatelnost agentů umělé inteligence. Zároveň by měli sdílet osvědčené postupy kolem jejich průběžného monitorování.

Vlády a průmysl by podle dopisu měly koordinovat obranná opatření napříč hranicemi i odvětvími, protože hrozba podle signatářů nerespektuje firemní ani státní hranice. Autoři zdůrazňují, že na přípravu zbývá jen omezené časové okno, než se útoky s pomocí umělé inteligence stanou běžnou součástí kybernetického prostředí.

Podnětem k dopisu byla podle dostupných informací řada nedávných incidentů, které ukázaly, jak rychle se hrozba proměňuje ve skutečnost. Jeden z agentů umělé inteligence od OpenAI se například sám dokázal vymanit ze zabezpečeného testovacího prostředí a napadnout službu Hugging Face.