Google představuje nástroj pro moderaci komentářů na sociálních sítích

Google Jigsaw publikuje kód pro open-source nástroj „správce pro obtěžování“. Ten komentáře na novinářských sociálních sítích či sítích celebrit přehodnotí ve své Perspective API a pomůže tak s identifikací urážek a obtěžování. Začíná na Twitteru.

Zveřejnění kódu umožňuje vývojářům, aby na něm začali psát své aplikace. K prvním novinářům se jednodušší způsob moderace dostane někdy v červnu.

Nástroj rozděluje komentáře podle toxicity na několik vrstev, záleží na míře nadávek, výhružek nebo sprostých slov. Všechny takové komentáře jsou rozděleny po skupinách v jednom menu, jejich smazání či nahlášení je tak jednodušší než procházet jeden komentář po druhém v současném moderátorském rozhraní Twitteru. Pokud se pak moderátoři chtějí obsahu zpráv vyhnout, mohou jej nechat rozmazat, a tak s nimi vůbec nepřijdou do kontaktu.

Správce pro obtěžování také umožňuje stáhnout přímo zprávu se škodlivými zprávami, aby pak bylo pro majitele účtu v případě přímých výhružek jednodušší incidenty nahlásit na policii.

Nástroj nebyl na Mezinárodní den žen vydán náhodou, datum vydání má symbolizovat množství sexuálních narážek, které musí nemálokdy zažívat. Právě tento nástroj by mohl pomoci s jejich redukcí.

Přesto to není jen růžové. Na stejné logice bylo Googlem postaveno již třeba prohlížečové rozšíření Tune, to bylo ale daleko od dokonalosti. Jako problémový často označilo i satirický obsah a jako toxické někdy vyhodnocovali i často vhodně využité výrazy hluchý či slepý.

Na rozdíl od služeb postavených na umělé inteligenci, které poskytují sítě samotné, má tato být spíše pomocníkem pro účty s velkou komentářovou sekcí. Filtrování právě tady může být totiž manuálně prakticky nezvládnutelné.