Vědci využívali Claude při výzkumu virů a toxinů. Anthropic zasáhl

Společnost Anthropic odhalila pět případů, kdy její modely Claude využívali vědci při biologickém výzkumu, jenž mohl mít vedle legitimního vědeckého využití také nebezpečný potenciál.

Firma případy zveřejnila v nové zprávě zaměřené na zneužívání umělé inteligence. Anthropic zároveň zdůrazňuje, že nemá důkaz o tom, že by samotní výzkumníci usilovali o vytvoření biologické zbraně. Právě v biologii je ale podle společnosti stále obtížnější poznat hranici mezi běžnou vědeckou prací a výzkumem, který by mohl být zneužit.

Jeden z nejvýraznějších případů se objevil v květnu 2026. Bezpečnostní systém Claude zachytil požadavek související s přípravou grantové žádosti na takzvaný gain of function výzkum viru chikungunya.

Projekt měl mimo jiné zkoumat změny spojené s přenositelností viru a schopností vyhnout se imunitní reakci. Podobná práce může mít legitimní význam například při vývoji léčby nebo přípravě na budoucí epidemie. Stejné poznatky však mohou zároveň pomoci při vytváření nebezpečnějších variant patogenů.

Anthropic zaznamenal také výzkum spojený s adaptací ptačí chřipky na savce. Jeden z vědců měl Claude během několika týdnů využívat při plánování experimentů, práci s daty a vyhodnocování dalších kroků.

Bezpečnostní mechanismy podle firmy zabránily přístupu k nejvýkonnějším modelům, takže výzkumník skončil u slabších verzí Claude. Anthropic proto hodnotí skutečný přínos AI v daném případě jako omezený. Situace ale zároveň ukázala, že lidé pracující na citlivém biologickém výzkumu mají zájem obcházet geografická i bezpečnostní omezení AI služeb.

Další případy se týkaly například počítačového návrhu toxinů a biologicky aktivních proteinů. Některé projekty byly prezentovány jako výzkum s terapeutickým nebo medicínským využitím, stejná technologie však může posloužit i k opačnému účelu.

Právě tzv. dual use povaha biologického výzkumu představuje pro provozovatele AI zásadní problém. Jednoduchý filtr totiž nemusí poznat, zda člověk zkoumá nebezpečný virus kvůli vývoji vakcíny, nebo zda chce stejné poznatky využít k jeho škodlivé úpravě.