Meta nasazuje AI, která odhalí falešný věk a přepne na dětský účet

Společnost Meta spouští testování nové a potenciálně kontroverzní metody. Ta má zajistit, aby co největší počet jejích mladších uživatelů skutečně používal speciální typ účtu navržený pro jejich věkovou kategorii. Jde o tzv. účty pro náctileté.

Tyto účty již firma dříve postupně zavedla na svých klíčových platformách, tedy na Instagramu, Facebooku a v komunikační aplikaci Messenger. Nově nyní Meta nasazuje technologii umělé inteligence. Jejím primárním úkolem je aktivně detekovat ty uživatelské účty, u nichž existuje vysoké podezření, že jejich majitel při registraci uvedl nepravdivé datum narození. Cílem je tedy identifikovat náctileté uživatele, kteří se záměrně vydávají za dospělé, aby obešli věková omezení a bezpečnostní opatření.

Klíčovou novinkou a zároveň potenciálně nejdiskutovanějším prvkem tohoto testování je způsob, jakým společnost Meta hodlá s takto identifikovanými "podezřelými" účty naložit. Pokud totiž systém AI na základě analýzy různých signálů (které firma blíže nespecifikovala) vyhodnotí, že daný uživatel je s vysokou pravděpodobností náctiletý, i když ve svém profilu tvrdí opak, systém jej automaticky a bez dalšího varování přesune právě na již zmíněný účet pro náctileté.

Meta sice uvádí, že podnikla kroky k zajištění co nejvyšší možné přesnosti a spolehlivosti této AI detekce. Zároveň však realisticky počítá s možností občasných chyb a nesprávného vyhodnocení. Proto uživatelé, které systém AI označí jako podezřelé a automaticky je přeřadí, budou mít možnost toto rozhodnutí rozporovat.