Anthropic našel v modelu Claude strukturu připomínající lidské vědomí

Společnost Anthropic zveřejnila výzkum, podle kterého se uvnitř jazykového modelu Claude samovolně vytvořila struktura označovaná jako J-space. Ta podle autorů funguje jako společný pracovní prostor, který sdílí informace napříč různými částmi modelu. Svým chováním přitom připomíná mechanismus, jenž podle některých teorií využívá i lidský mozek při zpracování vědomých myšlenek.

K objevu vedl nový analytický nástroj nazvaný J-lens. Výzkumníci ho postavili na matematice, díky čemuž dokážou podrobněji sledovat, co se uvnitř modelu během zpracování děje. Právě při těchto analýzách narazili na výrazné aktivační vzorce, které vznikly během trénování samy od sebe. Nešlo tedy o mechanismus, který by vývojáři do modelu záměrně přidali.

Další experimenty naznačují, že nejde jen o zajímavou anomálii. Claude podle studie dokáže informace uložené v prostoru J-space popsat a v určitých případech je také cíleně upravit. Když výzkumníci do této struktury přímo zasáhli, změnily se i odpovědi modelu a jeho výsledky v testovacích úlohách. Podle autorů to naznačuje, že J-space hraje v chování modelu skutečně důležitou roli.

Autoři studie zároveň upozorňují na podobnost s teorií globálního pracovního prostoru, kterou dlouhodobě využívá neurověda. Podle ní mozek zpřístupňuje důležité informace více částem najednou, aby s nimi mohly současně pracovat různé poznávací procesy. Právě podobný způsob sdílení informací nyní výzkumníci pozorují také uvnitř jazykového modelu.

Anthropic také výslovně uvádí, že výsledky nepředstavují důkaz vědomí ani subjektivních prožitků modelu. Výzkum se omezuje na popis způsobu, jakým jsou informace uvnitř systému organizovány a sdíleny. Spekulace o tom, že Claude získal vědomí nebo „duši“, pocházejí z komentářů na internetu, nikoliv ze samotné studie.