Google poprvé narazil na krybernetický útok vytvořený s pomocí AI

Google otevřel další nepříjemné téma kolem rychlého nástupu umělé inteligence. Jeho tým Google Threat Intelligence Group podle zveřejněných informací poprvé zaznamenal případ, kdy útočník využil zero day exploit, o němž má firma vysokou jistotu, že vznikl s pomocí modelu AI. Právě podobné zranitelnosti bývají pro firmy a instituce mimořádně nebezpečné.

Podle popisu šlo o situaci, která mohla skončit mnohem hůř. Google uvedl, že aktér chystal nasazení v rámci širší exploitační kampaně, ale vlastní proaktivní odhalení mohlo nasazení zastavit ještě před ostrým použitím. Zásadní je i to, že firma neukázala na své vlastní modely Gemini a zároveň zdůraznila, že má vysokou míru jistoty, že nějaký model umělé inteligence pomohl jak s nalezením chyby, tak s přípravou samotného exploitu.

V praxi jde o důležitý posun. Bezpečnostní komunita už delší dobu řeší, že AI může urychlit phishing, automatizovat průzkum nebo zlepšit práci s ukradenými daty, ale tady se bavíme o citlivější vrstvě celého problému. Pokud model skutečně pomůže objevit neznámou chybu a zároveň ji převést do funkční zbraně, posouvá se hrozba z teorie do mnohem konkrétnější roviny.

Google z pochopitelných důvodů nezveřejnil ani jméno napadené firmy, ani identitu samotných útočníků. Firma pouze uvedla, že dotčenou společnost informovala a ta následně chybu opravila. Současně naznačila, že výrazný zájem o využití AI při hledání a zneužívání bezpečnostních chyb už dříve projevovali aktéři spojovaní s Čínou a Severní Koreou.