Společnost Cloudflare, přes jejíž síť proudí významná část světového webového provozu, oznámila zásadní změnu pravidel pro roboty umělé inteligence. Od 15. září budou nové weby v její síti automaticky blokovat roboty, kteří sbírají obsah pro trénink AI modelů, a to na všech stránkách financovaných reklamou. Roboti internetových vyhledávačů zůstanou povoleni.

Weby financované reklamou žijí z návštěv skutečných lidí, zatímco AI roboti obsah převezmou a čtenáře už na stránky nevrátí, protože chatbot nabídne odpověď přímo. Výchozí blokace se proto týká právě reklamou financovaných webů, kde AI provoz přímo ohrožuje příjmy.

Nová pravidla míří také na takzvané smíšené roboty, kteří při jednom průchodu kombinují vyhledávání, sběr dat pro trénink i práci pro agenty. Pokud jejich provozovatel neumožní jednotlivé účely oddělit, bude na stránkách s reklamou blokovaný celý robot, což se týká především Googlebotu.

Google dle dostupných analýz získává přístup k přibližně dvojnásobnému množství informací oproti předním AI firmám právě díky propojení vyhledávače a AI služeb.

Druhou částí oznámení je nový model odměňování nazvaný Pay Per Use. Zatímco dosavadní program spuštěný loni účtoval AI firmám poplatek za každé stažení stránky, nově mají vydavatelé dostávat zaplaceno ve chvíli, kdy se jejich obsah objeví v odpovědi chatbota. Do programu se zatím zapojily společnosti Ceramic.AI a You.com, jednání s dalšími společnostmi pokračují.

Změna má i technický přínos, který ušetří práci oběma stranám. Podle měření Cloudflare tvoří více než 50 % provozu AI robotů opakované stahování stránek, které se od poslední návštěvy nezměnily. Nové signály proto robotům rovnou sdělí, zda se obsah změnil a stojí za opětovné stažení. Zbytečný provoz by se tím měl výrazně snížit.