OpenAI spustilo funkci Trusted Contact, volitelnou bezpečnostní vrstvu v ChatGPT, která dospělým uživatelům umožňuje nominovat jednu blízkou osobu, jež může být upozorněna v případě, že systém vyhodnotí vážné riziko sebepoškození. Funkce je dostupná uživatelům starším 18 let po celém světě.

Technicky funguje proces takto: uživatel přidá důvěryhodnou osobu přes nastavení ChatGPT, tato osoba obdrží pozvánku s vysvětlením své role a musí ji přijmout do jednoho týdne, aby se funkce aktivovala. Pokud pozvánku odmítne, uživatel si může zvolit jinou osobu. Pokud automatizované systémy zaznamenají potenciálně rizikovou konverzaci, ChatGPT uživatele informuje, že jeho kontakt může být upozorněn, a nabídne mu návrhy, jak danou osobu sám oslovit.

Klíčové je, že funkce není plně automatizovaná. Malý tým speciálně proškolených recenzentů situaci vyhodnotí, a teprve pokud usoudí, že jde o vážné bezpečnostní riziko, odešle ChatGPT kontaktní osobě krátké upozornění e-mailem, SMS, přes WhatsApp nebo in-app notifikací. Zpráva úmyslně neobsahuje přepis rozhovoru ani podrobnosti diskutovaného obsahu.

Funkce přichází v době, kdy OpenAI čelí vlně žalob. V listopadu minulého roku bylo podáno sedm žalob, které tvrdí, že společnost vědomě vydala model GPT-4o přes vnitřní varování ohledně jeho manipulativního chování.

openai.jpgZdroj: Dima Solomin / UnsplashOpenAI představilo GPT-5.5, nejchytřejší model firmy