Nástroj na sledování zaměstnanců v Metě vyklopil jejich data celé firmě

Meta musela narychlo zastavit jeden ze svých nejcitlivějších interních projektů. Program Model Capability Initiative (MCI) od letošního jara sledoval na pracovních počítačích zaměstnanců stisky kláves, kliknutí i pohyb v interních systémech. Nasbíraná data měla posloužit k tréninku pokročilých modelů umělé inteligence, které by dokázaly lépe napodobovat běžnou kancelářskou práci.

Myšlenka byla z pohledu firmy poměrně jednoduchá. Pokud má AI jednou zvládat administrativní úkoly podobně jako člověk, potřebuje nejprve pochopit, jak lidé při práci postupují. Program proto zaznamenával pracovní návyky zaměstnanců a vytvářel z nich rozsáhlý soubor dat pro další vývoj modelů. Účast byla podle dostupných informací pro většinu pracovníků povinná.

Problém ale nevznikl při samotném sběru dat, nýbrž při jejich zabezpečení. Interní dokumenty naznačují, že se část nasbíraných informací omylem zpřístupnila napříč společností.

Mezi dostupnými materiály se údajně objevily přepisy komunikace s AI, interní dokumenty, hodnocení zaměstnanců nebo podklady označené různými stupni citlivosti. Podle některých pracovníků mohlo jít o data, ke kterým se dostaly tisíce lidí.

Celou situaci odstartovalo jediné interní bezpečnostní hlášení nejvyšší priority. Projekt následně čelil silné kritice i ze strany zaměstnanců, z nichž více než 1 500 podepsalo petici proti rozsáhlému monitorování.

Meta se hájí tím, že program od začátku stavěla s ochranou soukromí a že nemá žádný signál o neoprávněném přístupu k datům. Jak dlouho pauza potrvá, říct odmítla.