Pro AI účely se už kupují i herní grafické karty. Způsobí to opět jejich nedostatek jako za dob krypto mánie?

Po obrovském boomu kolem ChatGPT a dalších generativních technologií se chce vývojem vlastní umělé inteligence zabývat každá druhá technologická společnost. Pro trénování vlastního modelu je ale nutná vysoká výpočetní kapacita, kterou obvykle poskytují grafické karty.

Nadšenci, kteří si s AI chtějí pohrát doma, mohou využít například RTX kartu s Tensor jádry, co mají v počítači, ale ti, kteří to myslí vážně, většinou investují do dražších a specializovaných řešení. Ty největší společnosti pak nakupují GPU jako Nvidia H100. Nicméně, menší technologické startupy už jeví zájem také o modely určené běžným hráčům PC her a tvůrcům obsahu.

Současná AI mánie totiž způsobila naprostý nedostatek oněch modelů určených přímo pro práci se strojovým učením. V květnu jsme vás například informovali o vysoké čekací době grafických superčipů Nvidia A100 a H100, jež jsou de facto nejoblíbenější na trhu. Tedy alespoň mezi zájemci, kteří na ně mají peníze. Vysoká poptávka totiž způsobila i masivní nárůst cen.

Startupům, které místo toho zainvestují do GPU pro hráče, se ani tolik divit nedá. Důkazem toho, že se to reálně děje, byl příspěvek George Hotze, který stojí za společností comma, zabývající se samořídícími technologiemi uvnitř automobilů. Ten zachycuje otevřenou krabici s kartami AMD Radeon RX 7900 XTX a dalších několik neotevřených.

Hotz okomentoval fotografii slovy, že je od AMD radost kupovat čipy, na rozdíl od Qualcommu. Také naznačil, že jeho nový nákup poskytne 7,38 PFLOPS výpočetního výkonu. Podle serveru Wccftech to znamená, že Hotz buď pořídil 60 karet, nebo 120. Počet je závislý na tom, zda je onen výpočetní výkon FP16 nebo FP32. Jelikož se ale pro AI věšinou používá FP16, přiklonit se lze spíše k první variantě. Vzhledem k současné maloobchodní ceně Radeonu RX 7900 XTX se může celková cena obsahu krabic vyšplhat až k 60 000 dolarů, což v přepočtu činí více než 1,3 milionu korun.

Grafické karty od AMD disponují vysokokapacitní pamětí, která je pro řadu výpočtů klíčová, a navíc se dají snadno sehnat, na rozdíl od jiných modelů (pro výše zmíněné důvody).

V současné době pravděpodobně nehrozí, že scéna spotřebitelských grafických karet skončí jako za Covidu během krypto mánie, ale pokud budou modely určené pro vývoj AI neustále zdražovat a čekat se na ně bude rok, pak se může stát snad úplně cokoliv. Třeba se opět setkáme s algoritmy typu light hashrate (LHR), ale speciálně vytvořenými proto, aby bránily využívání herních GPU pro AI účely.