Chytré telefony čeká skok v paměti, nová DRAM má utáhnout AI bez připojení k cloudu

Umělá inteligence se postupně přesouvá z obřích datacenter přímo do našich kapes. S rostoucími ambicemi mobilních asistentů ale výrobci narážejí na překvapivě zásadní problém, nedostatečnou paměťovou propustnost. Velké jazykové modely totiž potřebují každou sekundu zpracovávat a přesouvat obrovské objemy dat, na což současné mobilní paměti nebyly navržené. Právě proto začínají výrobci čipů pracovat na technologii, které se neoficiálně přezdívá mobilní HBM.

Dnešní smartphony spoléhají především na paměť LPDDR, tedy úspornou variantu operační paměti optimalizovanou pro nízkou spotřebu. Akcelerátory určené pro umělou inteligenci v datacentrech ale využívají výrazně výkonnější paměť HBM.

U ní jsou jednotlivé paměťové čipy naskládané na sebe a propojené tisíci datových spojů, což umožňuje přenášet mnohonásobně více dat současně. Právě princip stohování a extrémně širokého propojení se nyní výrobci snaží přenést i do zařízení, která nosíme v kapse.

Společnost Samsung například svou připravovanou technologii označuje jako LLW neboli Low-Latency Wide I/O Memory. Ve srovnání se současnou pamětí LPDDR5X má nabídnout až o 166 % vyšší přenosové rychlosti a propustnost přesahující 200 GB/s. Zároveň slibuje přibližně o 54 % nižší spotřebu energie. Jde o kombinaci, která zní téměř příliš dobře na to, aby byla skutečná. Vyšší výkon totiž obvykle znamená vyšší energetické nároky, zatímco delší výdrž baterie bývá vykoupena nižší rychlostí.

Cíl celé snahy je přitom poměrně jasný. Výrobci chtějí dostat stále schopnější modely umělé inteligence přímo do telefonu. Pokud zařízení zvládne náročné výpočty samo, odpadá nutnost odesílat citlivá data na vzdálené servery. Výsledkem může být rychlejší odezva, nižší nároky na připojení a lepší ochrana soukromí. Hlasoví asistenti, překladače, generativní úpravy fotografií nebo pokročilé vyhledávání tak budou fungovat i bez přístupu k internetu.

O budoucnosti telefonů tak už nemusí rozhodovat pouze výkon procesoru nebo kvalita fotoaparátu, ale také schopnost pracovat s umělou inteligencí přímo v zařízení, rychle, úsporně a bez závislosti na cloudu. A za mě je to dost fajn.