Anthropic vyzývá svět ke zpomalení vývoje AI

Jen pár dní poté, co Anthropic požádal o vstup na burzu v hodnotě možná přes bilion dolarů, přišla firma s nečekanou výzvou. Tvůrce AI asistenta Claude veřejně vybídl celý obor, aby vývoj umělé inteligence společně zpomalil, nebo dokonce na čas zastavil. Z úst jednoho z nejrychleji rostoucích hráčů zní apel na zabrzdění přinejmenším překvapivě.

Návrh míří na takzvanou frontier AI, tedy na nejvýkonnější modely na samé špičce vývoje. Anthropic chce globálně sladěný mechanismus, který by tempo prací zpomalil natolik, aby společnost i bezpečnostní výzkum stačily držet krok. Jádrem obavy je, že technika dnes utíká rychleji než pravidla a instituce, které ji mají hlídat.

Nejvíc Anthropic znepokojuje představa, že se AI naučí vylepšovat sama sebe a nakonec navrhne vlastního nástupce bez zásahu člověka. Není to jen teorie. Firma sama přiznává, že letos v květnu napsal její asistent Claude přes 80 % kódu, který jí přibyl do vlastních systémů, zatímco před spuštěním nástroje Claude Code to byl jen nepatrný zlomek.

AI tedy už dnes z velké části staví techniku, na které sama běží, a právě tady vidí Anthropic hranici, za kterou by člověk mohl ztratit kontrolu.

Háček je v tom, jak by se podobná brzda vůbec dala zařídit. Sám Anthropic přiznává, že jednostranné zastavení nemá smysl, kdo zabrzdí jako jediný, jen přenechá náskok ostatním. Pauza by proto musela platit naráz pro všechny přední laboratoře ve více zemích, především v USA a Číně, a hlavně by se její dodržování muselo dát ověřit. Firma to přirovnává k mezinárodním smlouvám o jaderných zbraních, kde také nestačí slib, ale je potřeba kontrola.