Přední čínské technologické společnosti usilují o tamní povolení pro použití deepfake modelů

Huawei a Alibaba patří mezi přední technologické společnosti, které se u Čínského úřadu pro kyberprostor (CAC) ucházejí o schválení pro využívání technologií pro tvorbu deepfake. Ty umožňují manipulaci s vizuálními a zvukovými daty a nacházejí uplatnění v široké škále odvětví.

Celkový počet podaných žádostí, který dosahuje čísla 110, signalizuje rostoucí zájem o tuto technologii na čínském trhu. Regulátor kyberprostoru v Číně bude muset provést důkladné zhodnocení, které modely a aplikace získají zelenou. Při tomto rozhodování půjde nejen o technické parametry, ale i o potenciální sociální dopady a dopady na individuální svobody.

Ačkoli schválení těchto technologií by mohlo odemknout nové možnosti v oblasti umělé inteligence, nese to s sebou i nová rizika. Tento trend vzbuzuje obavy z etického a bezpečnostního hlediska, neboť se deepfakes mohou snadno zneužít.

Při jejich tvorbě je využíváno strojového učení a umělé inteligence k manipulaci nebo generování vizuálního a zvukového obsahu, který může snadno klamat. Na základě vzorku lze kupříkladu jednoduše napodobit hlas umělce anebo vyměnit obličej figuranta za obličej politika. Rozeznat realitu od podvrhu je s rostoucí kvalitou AI modelů čím dál složitější.

V červnu jsme vás například informovali o tom, že Organizace spojených národů (OSN) označuje deepfakes za naléhavou hrozbu, kterou je nutné řešit.