Nával hlášení od jazykových modelů donutil Apple zavést kvóty

Apple zavedl na svém bezpečnostním portálu strop na počet hlášení, která smí jeden výzkumník otevřít najednou. Po vyčerpání kvóty následuje 30denní pauza, během níž nejde poslat nic dalšího. Omezení firma zavedla už v červnu a potvrdila ho až po dotazech novinářů.

Důvodem je záplava hlášení sepsaných s pomocí jazykových modelů, která zaplavila lidi kontrolující jednotlivé podněty. Nástroje umožňují i člověku s mělkou technickou průpravou vyprodukovat desítky zpráv, jež na první pohled vypadají věrohodně. Značná část z nich přitom popisuje chyby, které ve skutečnosti neexistují.

Firma svůj krok vysvětlila rostoucím objemem podnětů generovaných AI napříč oborem a upřesnila, že upravila počet současně otevřených hlášení. Kdo strop vyčerpá a potřebuje víc, může Apple požádat o zvýšení kvóty individuálně. Rozdíl proti dřívějšku je tedy hlavně v tom, že se objem nově musí obhájit dopředu.

Konkrétní dopad ukazuje případ milánské firmy Bynario, která má sedm zaměstnanců. S pomocí ChatGPT našla za tři týdny přes 50 možných chyb v systému macOS, mezi nimi kritické zvýšení oprávnění. Právě kritický nález ale kvůli stropu nestihla poslat a nakonec s ním vyšla na veřejnost.

Stejné nástroje, které chrlí nesmysly, dokážou v rukou schopného člověka odhalit skutečné a závažné díry. Filtr postavený na množství tak zasáhne obě skupiny stejně, protože nerozlišuje podle kvality.