AI bezpečnost není dořešena ani u Google, šéf cloudu sám přiznává mezery

Šéf cloudové divize Googlu Francis de Souza v posledních dnech otevřeně přiznal, že žádná firma na trhu se nedokáže s AI bezpečností vypořádat za pochodu. De Souza neudělal výjimku ani pro Google a popsal konkrétní mezery v platformě.

Nejostřejším konkrétním případem je situace startupu Prentus. Jeho ředitel Rod Danan dostal od Google fakturu na 10 138 dolarů (zhruba 224 000 Kč) za 30 minut neautorizovaného přístupu ke Gemini API. Klíč se ocitl mimo Dananovu kontrolu, Google ale automaticky rozšířil platební strop bez explicitního souhlasu uživatele.

Bezpečnostní firma Aikido prošla revokační mechaniku Google API a zjistila zásadní disproporci. Klíče smazané z konzole Google Cloudu zůstávají funkční dál v průměru 23 minut. Útočník během odkladu stihne pohodlně exfiltrovat data, založit infrastrukturu na falešné identitě nebo si připravit dlouhodobý záskok. Starší formát pro service accounty Google revokuje v řádu asi 5 sekund, novější Gemini klíče s prefixem AQ za zhruba minutu.

Loni měl bezpečnostní tým mezi zachycením prvního incidentu a další fází útoku průměrně 8 hodin, letos se zlom srazil na 22 sekund. AI nástroje v rukou útočníků zrychlují průzkum sítí, generování phishingových e-mailů i automatizovaný pokus o eskalaci práv. Pro firmy bez vlastních specialistů na AI bezpečnost znamená zkrácení reakční doby praktickou nemožnost se ubránit běžnými nástroji.

De Souza upozornil i na rostoucí problém shadow AI. Pojem označuje situaci, kdy zaměstnanci používají k práci spotřebitelské AI nástroje jako je třeba ChaGPT nebo Claude mimo schvélené firemní platformy. Citlivá data včetně zdrojového kódu, finančních modelů nebo osobních údajů zákazníků mizí na servery třetích stran bez auditu i bez kontroly retence.