OpenAI zavádí digitální občanku, umělá inteligence sama odhadne věk uživatele

Nová éra kontroly v digitálním prostoru začíná nenápadnou analýzou dat, kterou OpenAI nyní aplikuje na miliony uživatelských účtů. Prediktivní model nebude spoléhat pouze na datum narození zadané při registraci, ale zaměří se na behaviorální signály.

Systém sleduje, v jakou denní dobu je účet aktivní, jak dlouho existuje a jakým způsobem uživatel formuluje své dotazy. Pokud tato kombinace faktorů naznačí, že profil ovládá nezletilá osoba, ChatGPT okamžitě omezí přístup k tématům nevhodným pro mládež. Uživatelé, které algoritmus nesprávně označí za děti, budou muset podstoupit proces ověření přes službu Persona, kde nahrají selfie nebo doklad totožnosti, aby získali zpět plná práva.

Zavedení těchto opatření není náhodným krokem, ale přímou reakcí na tragické události a právní tlak, kterému společnost čelí. OpenAI se ocitla v centru žaloby pro zavinění smrti poté, co jeden z dospívajících uživatelů údajně využil chatbota k naplánování sebevraždy.

Paradoxně se zpřísňování pravidel děje v okamžiku, kdy se firma chystá otevřít Pandořinu skříňku v podobě takzvaného dospělého módu. Speciální režim má totiž umožnit dospělým uživatelům generovat a konzumovat obsah, který byl doposud zakázaný, včetně témat s označením NSFW. Vy víte, o čem je řeč.

Aby mohla OpenAI funkci bezpečně spustit, potřebuje robustní systém, který spolehlivě odfiltruje děti od dospělého obsahu.