OpenAI přidává do ChatGPT režim lockdown, brání úniku dat při útoku přes skrytý příkaz

Umělá inteligence, která sama prohledává web a plní úkoly, naráží na jednu nepříjemnou slabinu. OpenAI na ni teď reaguje novým nouzovým režimem pro ChatGPT s názvem Lockdown Mode. Slibuje silnější ochranu proti takzvanému prompt injection, tedy útoku, při kterém někdo ukryje do běžného textu nebo webové stránky skrytý příkaz a přiměje AI, aby ho poslechla.

Lockdown sám útok nezastaví, skrytý příkaz se k modelu pořád dostane. Místo toho odřízne útočníkovi cestu ven, tedy zablokuje odchozí síťové požadavky, kterými by se z chatu daly propašovat ukradené údaje. Útok tak sice proběhne, ale nemá kudy odejít.

Za bezpečí se ovšem platí pohodlím. V zapnutém režimu ChatGPT nesmí na web a pracuje jen s uloženým obsahem, nedokáže stahovat ani zobrazovat obrázky z internetu a vypíná se i agentní režim a hloubkový průzkum, tedy funkce, kdy AI samostatně prochází zdroje a plní delší zadání. Ručně nahrané soubory a vlastní paměť ale zůstávají beze změny.

OpenAI zdůrazňuje, že míří na lidi a organizace, které pracují s citlivými daty, tedy na právní kanceláře, zdravotnictví, finance nebo státní správu. Běžný uživatel ho podle firmy nepotřebuje, zapnout si ho ale může kdokoli v nastavení zabezpečení.

Společnost OpenAI přesto přiznává, že ani zapnutý režim nezaručí stoprocentní bezpečí, protože riziko může zůstat skrz propojené aplikace nebo dosud neznámé triky. Spolu s ním firma proto spustila i správce přihlášení, který ukáže všechna zařízení připojená k účtu a umožní je odhlásit