Šéf Nvidie označil GPT-6 Astra za AGI

OpenAI minulý týden potvrdil, že model GPT-6 Astra trénoval na clusteru se 100 000 grafickými kartami. Podle odhadů založených na hodinových cenách výpočetního výkonu mohl celý trénink vyjít mezi 500 miliony a miliardou dolarů.

Propočet vychází z ceny 2,50 až 3,50 dolaru za hodinu provozu jedné karty. Při 90 až 120 dnech nepřetržitého tréninku na 100 000 kartách tak celková částka vychází mezi 540 miliony a 1,008 miliardy dolarů. Záleží na tom, jak dlouho trénink přesně trval.

Trénink podle všeho proběhl ve vlastním datacentru OpenAI v rámci projektu Stargate v texaském Abilene. Použití externí kapacity, třeba od CoreWeave, kde se cena pohybuje kolem 10,50 dolaru za hodinu a kartu, by vyšlo citelně dráž.

Šéf Nvidie Jensen Huang OpenAI k modelu pogratuloval. Napsal, že cesta od ChatGPT přes model o1 až po Astru trvala jen čtyři roky a že s Astrou dorazila umělá obecná inteligence. Zároveň oznámil, že Nvidia chystá ještě větší trénink na 400 000 grafických kartách.

Podobně velký trénink by si podle odhadů vyžádal zhruba 1,2 gigawattu elektrického příkonu. Tolik by spotřeboval při běhu na serverových racích Nvidia GB200 NVL72 se spotřebou kolem 140 kilowattů na rack. Šlo by tak pravděpodobně o trénink pokrývající celý areál projektu Stargate v Abilene.