AMD posílá proti NVIDII rack se 72 čipy, Microsoft si ho bere do Azure

Microsoft oznámil, že ve své cloudové platformě Azure nasadí nové rackové řešení Helios od AMD. Pro výrobce čipů jde o výrazně důležitější zprávu než samotné představení hardwaru. Poprvé totiž získal závazek od jednoho z největších světových provozovatelů cloudových služeb, který plánuje platformu využít pro provoz velkých AI modelů.

Helios spojuje 72 akcelerátorů Instinct MI455X a 18 procesorů EPYC Venice do jednoho výpočetního celku. Celá sestava se skládá z 18 modulů, přičemž každý obsahuje 4 akcelerátory a 1 procesor. Rack zabírá dvojnásobnou šířku oproti běžnému serverovému řešení a jeho hmotnost dosahuje přibližně 3,2 tuny.

Každý akcelerátor Instinct MI455X je vybaven 432 GB paměti HBM4, která má být jednou z hlavních předností celé platformy. AMD uvádí výkon až 40 petaflopů ve formátu FP4, jenž se používá především při provozu již natrénovaných modelů umělé inteligence.

V součtu nabídne jeden rack 31 TB paměti HBM4 a výkon až 2,9 exaflopu ve formátu FP4. Při výpočtech ve formátu FP8, který se využívá například při trénování modelů, dosahuje výkon 1,4 exaflopu. Komunikaci mezi akcelerátory zajišťuje vysokorychlostní propojení s propustností až 260 TB/s.

AMD se přitom snaží odlišit od konkurence jinou filozofií. Vedle samotného výkonu klade velký důraz na kapacitu paměti, která je při provozu největších jazykových modelů často důležitější než hrubý výpočetní výkon.

Podle firmy nabídne Helios přibližně o 50 % větší paměťovou kapacitu než konkurenční platforma NVIDIA Vera Rubin NVL72.