Intel kombinuje své AI čipy Gaudi 3 s NVIDIÍ, vzniká hybridní superpočítač

Společnost Intel hledá nové cesty, jak uspět na trhu s umělou inteligencí, kterému dominuje NVIDIA. Na konferenci OCP Global Summit představila unikátní serverové řešení v rack provedení. Systém kombinuje vlastní AI akcelerátory Gaudi 3 s nejnovějšími grafickými procesory NVIDIA Blackwell B200.

Nejde o přímou konkurenci, ale o chytrou synergii. Architektura je navržena tak, aby využila silné stránky obou platforem pro inferenční úlohy. Výkonné čipy Blackwell B200, které excelují v rychlých výpočtech s velkými maticemi, se postarají o počáteční, výpočetně nejnáročnější fázi nazývanou prefill.

Akcelerátory Intel Gaudi 3 pak převezmou navazující decode fázi. Zde využijí svou optimalizaci pro velkou paměťovou propustnost a škálování pomocí ethernetových sítí. Intel tvrdí, že toto rozdělení práce vede k výrazně vyšší efektivitě. U malých a hustých modelů má hybridní systém dosahovat až 1,7krát vyššího výkonu ve fázi „prefill“ ve srovnání se systémem postaveným výhradně na B200.

Konfigurace samotného serveru je působivá. Každý výpočetní modul obsahuje dva procesory Xeon, čtyři akcelerátory Gaudi 3, čtyři síťové karty NVIDIA ConnectX-7 400 GbE a jednu DPU jednotku NVIDIA BlueField-3. Celý rack pak obsahuje šestnáct takových modulů, propojených přepínači Broadcom Tomahawk 5.

Pro Intel je to způsob, jak monetizovat platformu Gaudi v prostředí, kde NVIDIA udává tón. Nabízí ji jako cenově efektivní doplněk pro specifickou část AI výpočtů.