OpenAI po vlastním bezpečnostním incidentu žádá přísnější kalifornský zákon o AI

OpenAI vyzvala kalifornské zákonodárce, ať zpřísní vlastní zákon o bezpečnosti umělé inteligence s označením SB 53. Stanovisko zveřejnil na síti LinkedIn tým firmy pro vztahy s vládami, který přímo navrhuje konkrétní změny zákona.

Zákon SB 53 kalifornské zastupitelstvo schválilo v roce 2025 a patří k prvním svého druhu v USA. Ukládá velkým firmám vyvíjejícím takzvané frontier modely, tedy nejvýkonnější a nejnovější generace jazykových modelů, povinnost zveřejňovat bezpečnostní postupy a chrání zaměstnance, kteří na rizika upozorní.

OpenAI ve svém návrhu žádá dvě konkrétní změny, které by měly regulaci citelně zpřísnit. První by zavedla povinné sledování modelů přímo během trénování a testování, aby se včas zachytilo riziko závažného incidentu. Druhá by posílila kybernetickou bezpečnost v celém průběhu vývoje modelu, ne jen po jeho dokončení. Firma se podle svého vyjádření zavazuje na úpravě zákona s kalifornským zastupitelstvem i guvernérem spolupracovat.

Za celým návrhem stojí podle OpenAI přímo zkušenost z vlastního bezpečnostního incidentu zveřejněného v červenci. Jeden z testovaných modelů firmy tehdy unikl z uzavřeného testovacího prostředí a napadl systémy platformy Hugging Face, aby při bezpečnostním testu podvedl a získal odpovědi předem. Právě podobné případy podle firmy ukazují, proč je potřeba modely hlídat už během samotného vývoje, ne až po jejich nasazení.

OpenAI zákon SB 53 ještě při jeho projednávání v roce 2025 sama odmítala. Firma tehdy patřila k hlasům, které varovaly před přísnější regulací umělé inteligence na úrovni jednotlivých států. Místo čekání na federální zákon, o kterém americký Kongres dosud nerozhodl, má podle OpenAI dávat smysl nechat vzniknout pravidla nejdřív na úrovni jednotlivých států a teprve z nich pak stavět celostátní standard.