Společnost OpenAI zřizuje nový bezpečnostní výbor

Společnost OpenAI, známá svým populárním AI nástrojem ChatGPT, nedávno založila nový výbor pro bezpečnost. Jejich snaha přichází krátce po rozpuštění jejich předchozího týmu, který měl za úkol chránit lidstvo před potenciálně katastrofálními dopady AI. Nový bezpečnostní výbor vede čtveřice významných osobností – Bret Taylor, Nicole Seligman, Adam D'Angelo a generální ředitel Sam Altman.

Rezignace spoluzakladatelů Ilyi Sutskevera a Jana Leikeho, kteří opustili společnost po rozpuštění jejich Superalignment Teamu, vyvolala řadu otázek. Tým byl totiž zřízen teprve v minulém roce a měl zajistit, aby se rozvoj AI ubíral směrem, který je bezpečný a v souladu s etickými standardy. Leike ve svém nedávném příspěvku na X vyjádřil obavy, že společnost není na správné trajektorii k řešení bezpečnostních výzev, které přináší stále inteligentnější AI.

Situace nastolila otázku, zda je nově vytvořený výbor opravdu efektivním krokem k zajištění bezpečnosti, nebo jen reakcí na rostoucí tlak a kritiku. Někteří kritici naznačují, že vedení nového týmu těmi samými lídry, kteří se soustředí na rychlý vývoj a inovace, může vést k opětovnému podřízení bezpečnostních opatření obchodním cílům.