Známý výzkumník Geoffrey Hinton odchází z Google a varuje před nebezpečím AI

Geoffrey Hinton ohlásil, že odchází od Google. Výzkumník je spojen s pokroky v prostoru umělé inteligence, které byly základem třeba pro ChatGPT. Ve vyjádření pro New York Times zmínil, že své práce zpětně lituje. Bojí se totiž rizik, které jsou s dalším vývojem umělé inteligence spojena.

„Pokud vím, nejsou teď inteligentnější než my. Ale myslím, že brzy budou,“ řekl Hinton pro BBC. „Právě teď vidíme, že věci jako GPT-4 zastiňují člověka v množství obecných znalostí, které mají, a to s velkým odstupem. Pokud jde o uvažování, není tak dobrý, ale jednoduché uvažování už zvládá. A vzhledem k rychlosti pokroku se dá očekávat, že se to bude poměrně rychle zlepšovat. Takže se o to musíme starat.“

Hinton tak mluví o tom, že by umělá inteligence brzy mohla člověka překonat úplně, a bojí se tedy jejího zneužití. „Tohle je jen nejhorší scénář, něco jako noční můra. Můžete si například představit, že by se někdo se špatnými úmysly, jako je Putin, rozhodl dát robotům možnost vytvářet si vlastní dílčí cíle.“

To by podle vědce mohlo vést k vytváření dílčích cílů, například „potřebuji získat větší moc.“

Hinton také pro BBC řekl, že umělá inteligence je od té lidské velmi vzdálená. K tomu dodal: „Jsme biologické systémy a toto jsou digitální systémy. A velký rozdíl je v tom, že u digitálních systémů máte mnoho kopií stejné sady vah, stejného modelu.“

Výzkumník také dodal, že k jeho opuštění společnosti bylo více důvodů. Jedním z nich je věk. Je mu už 75 let, což je na odchod do důchodu více než dostatečné. Dalším bylo ale údajně i to, že chce o Googlu mluvit pozitivně, a tato chvála bude více důvěryhodná, když tam nebude pracovat.

Společnost se podle něj v rámci vývoje AI chovala velmi zodpovědně.