Evropský parlament schválil přelomovou regulaci umělé inteligence

Téměř tři roky od prvního návrhu došlo v Evropském parlamentu k historickému okamžiku, kdy byly s drtivou většinou schváleny zákony určující pravidla pro vývoj a použití umělé inteligence. Nová regulace, známá jako AI Act, má podle EU zajistit ochranu základních práv, demokracie, právního státu a environmentální udržitelnosti před riziky spojenými s AI, zatímco zároveň podporuje inovace a posiluje postavení Evropy jako lídra v tomto oboru.

AI Act ještě není v platnosti, jelikož musí projít revizí právními lingvisty a následně být formálně prosazen Evropskou radou. Očekává se, že akt se stane zákonem před koncem současného legislativního období, což je před nadcházejícími parlamentními volbami v červnu.

Nařízení zahrnuje okamžitý zákaz některých aplikací považovaných za hrozbu pro práva občanů, jako jsou systémy biometrické kategorizace založené na citlivých charakteristikách. Také se zakazuje sběr obrazových dat z kamerových systémů a internetu pro tvorbu databází obličejového rozpoznávání.

Určité aplikace, považované za vysoce rizikové, jako jsou ty používané v oblasti vymáhání práva a zdravotní péče, budou muset splňovat určité podmínky, jako je nediskriminace a dodržování pravidel ochrany soukromí. Pro nízkorizikové AI systémy, jako jsou spamové filtry, musí vývojáři informovat uživatele, že interagují s AI generovaným obsahem.

AI Act také stanovuje pravidla pro generativní AI a manipulovaná média, vyžadující, aby byly AI generované obrazy, videa a audio jasně označeny. Kromě toho budou muset modely AI respektovat autorská práva.