Meta upozorní rodiče, když jejich dítě mluví s AI o sebepoškozování

Společnost Meta spustila funkci, která upozorní rodiče, pokud jejich dospívající dítě mluví s umělou inteligencí o sebepoškozování. Systém sleduje konverzace s asistentem Meta AI a hledá v nich známky sebevražedných myšlenek. Rodič pak dostane upozornění spolu s radami, jak k citlivému tématu přistoupit.

Vyhodnocení nestojí jen na automatu. Podezřelou konverzaci nejdřív označí zvláštní AI systém, pak ji ale ručně posoudí i lidský kontrolor. Teprve po jeho schválení míří upozornění rodiči.

Rodiče přitom neuvidí, co si jejich dítě s asistentem skutečně psalo. Upozornění pouze oznámí, že se v hovoru objevila citlivá témata, samotný obsah zůstává skrytý. Meta tím zkouší najít rovnováhu mezi bezpečím a soukromím dospívajících.

Novinka zatím funguje jen ve vybraných zemích. Funkce navazuje na dosavadní opatření kolem asistenta. Meta AI už dnes v citlivých chvílích odkazuje na krizové linky a nabízí odbornou pomoc. Když rodič zapne filtr omezeného obsahu, začne se asistent u choulostivých témat chovat zdrženlivěji.

Americký technologický gigant navíc pracuje na dalším kroku pro nejvážnější situace. Systém by měl umět kontaktovat záchranné složky, pokud hovor naznačuje bezprostřední riziko. Opatření se má týkat nezletilých i dospělých uživatelů.