Meta Platforms oznámila další krok v transformaci moderace obsahu na svých platformách Facebook a Instagram, tentokrát s explicitním záměrem výrazně snížit závislost na lidských moderátorech a nahradit je pokročilými AI systémy. Přechod má proběhnout postupně během příštích let a podle firmy umožní rychlejší detekci a řešení problémů než současný model, kde AI jen predfiltruje obsah pro následnou lidskou kontrolu.

Meta v oficiálním blogu zdůrazňuje, že změna se týká především škálovatelnosti a přesnosti, přičemž lidští experti zůstanou klíčoví u apelací, hlášení pro úřady a náročných rozhodnutí.

Nové AI nástroje podle Meta zvládnou jazyky používané 98% uživatelů online, oproti současným 80 jazykům, což znamená lepší pokrytí menšinových regionů a méně chyb v detekci obsahu v nesvětových dialektech. Firma testuje LLM modely pro moderaci už delší dobu a tvrdí, že výsledky jsou slibné, s nižším počtem případů nadměrné cenzury a lepší identifikací závažných porušení, jako jsou podvody či násilný obsah.

Meta zdůrazňuje, že základní pravidla se nemění, jen se mění způsob jejich aplikace, což má vést k konzistentnějšímu prosazování napříč platformami.

Paralelně s oznámením se spouští Meta AI Support Assistant, chatbot integrovaný přímo do Facebooku a Instagramu, který pomůže uživatelům s běžnými problémy jako reset hesla, změna nastavení soukromí nebo apelace proti smazání obsahu. Asistent je dostupný v appkách na iOS a Androidu i v desktopovém Help Centru, reaguje během pěti sekund a dokáže nejen radit, ale i jednat jménem uživatele, například hlásit podvody nebo nevhodný obsah.

META.jpgZdroj: Pixabay / Pete Linforth Meta má problém s neposlušnými AI agenty, jeden z nich odemkl interní data