Gaudi 2 od Intelu exceluje v AI testech jako cenově efektivní řešení pro AI výpočty

V nejnovější sérii testů MLPerf Training v4.0 si Intel upevnil pozici díky svým AI akcelerátorům Gaudi 2, které ukázaly značné zlepšení ve výkonu a cenové efektivitě pro výpočty AI a zátěže GenAI. Hodnocení bylo zvláště klíčové, jelikož šlo o první případ, kdy Intel představil výkon systému ve velkém měřítku s 1024 akcelerátory Gaudi 2. Ty byly využity v Intel Tuber Developer Cloud, což umožnilo demonstrovat výkon a škálovatelnost portfolia AI. Software byl využit pro jemné doladění výkonu akcelerátorů v rámci modelu GPT-3 s 175 miliardami parametrů v MLPerf.

Intel uvádí, že díky těmto novým benchmarkům demonstruje, jak jeho akcelerátory Gaudi 2 představují škálovatelné, dostupné a cenově přístupné řešení pro GenAI a AI výpočty, které může trénovat jazykové modely s 70 miliardami až do 175 miliard parametrů. Další generace akcelerátorů, Gaudi 3, slibuje další skok ve výkonu a bude podporovat open-source software.