OpenAI stále váhá s nástrojem pro rozpoznání textu generovaného ChatGPT

Společnost OpenAI, tvůrce populárního chatbota ChatGPT, pracuje na nástroji, který by měl být schopen s vysokou přesností rozpoznat, zda byl daný text napsán člověkem nebo umělou inteligencí.

OpenAI však také přiznává, že nástroj není dokonalý a může být obcházen různými způsoby, jako je použití překladových systémů nebo jiných generativních modelů.

Společnost se mimo jiné obává toho, že by takový nástroj mohl být zneužit k hanění uživatelů, například těch, kteří ji využívají jako pomocníka při psaní v cizím jazyce. Proto OpenAI zatím upřednostňuje vývoj a vydávání nástrojů pro ověřování audiovizuálního obsahu.

OpenAI zároveň zdůrazňuje, že zkoumá i další možnosti, jako jsou klasifikátory a metadata, které by mohly pomoci při identifikaci textů generovaných umělou inteligencí.