Odhad ukazuje, jak nákladná by byla infrastruktura pro AI agenta Muse od Mety

Meta spustila 8. září osobního AI agenta Muse, který za uživatele samostatně zvládá vícekrokové úkoly, například rezervaci vstupenek, nákupy nebo plánování schůzek. Agent běží každému uživateli ve vlastním izolovaném virtuálním stroji s vlastním prohlížečem, oddělenému od osobních účtů, a k jednotlivým službám přistupuje jen v mezích oprávnění, která mu uživatel sám udělí.

Právě proto, že jde o trvale běžící virtuální stroj dostupný nepřetržitě, si server X (dřív Twitter) spočítal, jaké nároky by podobný provoz kladl na hardware Mety při širokém nasazení. Výpočet vychází přímo z vlastní specifikace Mety, podle které každý uživatel Muse dostane virtuální stroj se dvěma virtuálními procesorovými jádry, 8 GB paměti RAM a 100 GB místa, a to bez ohledu na to, jestli agenta zrovna aktivně používá.

Při 100 milionech uživatelů a za ideálních podmínek s minimálním sdílením procesorových jader vychází potřeba na 1,58 milionu procesorů AMD Ryzen EPYC, každý se 126 jádry. K tomu by podle stejného výpočtu bylo potřeba zhruba 800 petabajtů paměti RAM a 10 000 petabajtů úložiště SSD.

Číslo výrazně klesá, pokud by najednou úkoly skutečně zpracovávala jen část uživatelů. Při polovičním vytížení, tedy když by agenta v danou chvíli aktivně používalo jen 50 % lidí, by podle stejné metodiky stačilo přibližně 790 000 procesorů, tedy zhruba polovina původního odhadu.

Jde přitom o neoficiální odhad jednoho uživatele sítě X, ne o čísla, která by Meta sama potvrdila. Autor vychází výhradně z veřejně zveřejněné technické specifikace jednoho virtuálního stroje a z ní odvozuje hrubý odhad celkové infrastruktury, skutečné nasazení uvnitř datových center Mety se od podobného zjednodušeného výpočtu může výrazně lišit, mimo jiné díky sdílení zdrojů mezi neaktivními uživateli nebo odlišnému hardwarovému řešení.