Děkujete umělé inteligenci? Slušnost stojí ChatGPT miliony dolarů

Zajímavou a pro mnohé možná nečekanou diskuzi o efektivitě a nákladech na provoz systémů umělé inteligence nedávno odstartoval svým komentářem Sam Altman. Ten je generálním ředitelem společnosti OpenAI, která stojí za populárním AI chatbotem ChatGPT.

Jeden z uživatelů se ho totiž na sociální síti X poměrně neformálně zeptal. Zajímalo ho, zda používání běžných zdvořilostních frází, jako jsou slova "prosím" a "děkuji", při komunikaci s ChatGPT není vlastně zbytečným plýtváním výpočetními zdroji. Altmanova následná odpověď byla sice hravá a zjevně nadsazená, ale zároveň velmi podnětná. Napsal totiž: "Dobře vynaložené desítky milionů dolarů, člověk nikdy neví." Ačkoliv konkrétní částka byla téměř jistě myšlena s nadsázkou, jeho slova velmi trefně upozornila na jeden reálný a měřitelný aspekt fungování současných velkých AI modelů.

Každá jednotlivá interakce s velkým jazykovým modelem, jakým ChatGPT bezpochyby je, totiž firmu OpenAI něco stojí. Tyto modely zpracovávají zadaný text tak, že jej nejprve rozdělí na menší jednotky, tzv. tokeny. Těmi mohou být celá slova nebo i jen jejich části. Každé slovo navíc v dotazu , včetně zdánlivě bezvýznamných zdvořilostních obratů jako "prosím" nebo "děkuji", tak znamená více tokenů, které musí systém zpracovat.

To následně vyžaduje více výpočetního výkonu na serverech a tím pádem i vyšší spotřebu drahé elektrické energie. I když se tedy dopad jednoho přidaného slova "prosím" v jednom dotazu zdá naprosto zanedbatelný, při miliardách interakcí, které ChatGPT denně zpracovává po celém světě, se tyto drobné náklady sčítají do nezanedbatelných částek. Altmanova narážka na "desítky milionů dolarů" tak, i přes svou zjevnou nadsázku, velmi trefně poukazuje na reálnou energetickou a finanční náročnost.