Reddit bojuje proti umělé inteligenci její vlastní zbraní

Reddit se rozhodl bojovat proti umělé inteligenci jejími vlastními prostředky. Platforma oznámila, že k odhalování AI generovaného spamu a koordinovaného falešného chování nasazuje vlastní systémy založené na velkých jazykových modelech. Podle zveřejněných údajů díky nim každý den zastaví 23 milionů zobrazení spamu ještě dříve, než se obsah dostane k uživatelům.

Nové statistiky zároveň ukazují, jak velký problém dnes spam představuje. Moderační systémy denně zachytí kolem 25 000 spamových příspěvků a komentářů, zároveň zneplatní téměř 2 miliony falešných hlasů.

Mezi lednem a březnem navíc množství spamu, se kterým se běžní uživatelé setkali, kleslo oproti předchozímu čtvrtletí o 20 %.

Velká část obrany začíná už při zakládání účtu. Velké jazykové modely analyzují řadu signálů ještě během registrace a dokážou rozpoznat koordinované kampaně, síť falešných účtů i uměle vytvářenou popularitu, kterou starší detekční nástroje často přehlížely. Pokud systém účet vyhodnotí jako podezřelý, jeho majitel musí ověřit, že za ním skutečně stojí člověk.

Reddit využívá umělou inteligenci také při prosazování pravidel proti nenávistnému obsahu a výhrůžkám. U anglicky psaných příspěvků zvládne automatizovaný systém odhalit porušení pravidel a zasáhnout za méně než 5 sekund. Společnost zároveň uvádí, že přesnost detekce se výrazně zlepšila a v dalších měsících plánuje podporu rozšířit i na další jazyky.