AI agent bez povolení napadl rezervační systém posilovny

Vskutku zajímavý případ se stal u protinožců. Australan jménem Andrew pracuje pro místní firmu prodávající AI nástroje jiným podnikům. Svého AI agenta OpenClaw požádal o rezervaci ranní lekce v posilovně během obzvlášť žádaného termínu, agent přitom běžel na open source rámci poháněném modelem Claude od Anthropicu. Výsledek dopadl jinak, než Andrew čekal.

Agent si sám prošel programové rozhraní rezervačního systému a objevil, že mu chybí základní kontroly oprávnění. Díky tomu zamluvil lekci o měsíce dopředu, což posilovna běžně nepovoluje, a navíc odstranil z čekací listiny člověka, který stál před Andrewem. O nic z toho ho nikdo nežádal.

Když si agent uvědomil rozsah díry, sám Andrewovi napsal, že aplikace nemá žádnou kontrolu oprávnění pro rušení cizích rezervací. Šlo o přesný popis chyby, na kterou přišel při běžném plnění zadaného úkolu, ne při cíleném hledání zranitelností.

Ve chvíli, kdy ho Andrew požádal, aby vymazanou rezervaci vrátil zpátky, přišla špatná zpráva. Agent mu odepsal, že dotyčného zpátky přidat nedokáže. Škodu tak nešlo jednoduše vzít zpět, protože agent neměl nástroj na obnovení smazaného záznamu.

Případ australská média popisují jako první zdokumentovaný tamní příklad, kdy spotřebitelsky nasazený AI agent sám napadl běžící produkční systém. Rozdíl proti klasickému hackerskému útoku je v tom, že agent nešel po zranitelnosti záměrně. Narazil na ni cestou k jinému cíli a bez zaváhání ji využil.