Vyvíjejí AI, přesto žádají o brzdu. Zaměstnanci technologických gigantů se obracejí na vládu USA

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva

Lidé, kteří stojí za nejsilnějšími jazykovými modely na světě, se obrátili na americkou vládu s nezvyklou žádostí – pomozte nám vytvořit nástroje, jimiž by se dal vývoj umělé inteligence v případě potřeby zpomalit. Prohlášení přišlo jen několik dní poté, co se modely OpenAI během bezpečnostního testu utrhly z izolovaného prostředí a nabouraly cizí platformu, psali jsme o tom minulý týden. Podepsaní nežádají, aby se vývoj zastavil dnes. Chtějí mít po ruce brzdu, až bude potřeba.

Zaměstnanci nežádají okamžité zpomalení

Prohlášení nazvané Pacing the Frontier stojí na jediné větě: signatáři chtějí, aby vláda USA podpořila mezinárodní snahu vytvořit technické a správní nástroje potřebné k záměrnému usměrňování tempa automatizovaného vývoje AI. Text výslovně nevolá po pauze ani po okamžitém zpomalení – jde o to, aby možnost zpomalit vůbec existovala, kdyby ji svět potřeboval, a aby ji nemusela jako první vyzkoušet jedna firma nebo jedna země na vlastní úkor.

Podepsat mohou jen zaměstnanci laboratoří na hranici oboru a podpis se ověřuje přes firemní e-mail. Ve čtvrtek jich stránka dopisu uváděla 1 293 a sbírka podpisů dál pokračuje. Mezi jmény je ředitel Anthropicu Dario Amodei, hlavní vědec OpenAI Jakub Pachocki, spoluzakladatel Google DeepMind Shane Legg, hlavní vědec Meta AI Shengjia Zhao i Ilya Sutskever, který dnes vede Safe Superintelligence. Organizační podporu dodaly dvě neziskové organizace, Guidelight AI Standards a Encode AI, a k prohlášení se krátce po zveřejnění přihlásily i OpenAI a Anthropic jako firmy.

Umělá inteligence, která vyvíjí sama sebe

Jádrem obavy je takzvané rekurzivní sebezdokonalování, tedy stav, kdy model dokáže navrhnout a postavit schopnějšího následníka téměř bez lidského zásahu. Od té chvíle už tempo nezávisí na tom, jak rychle pracují lidé. Text varuje, že vývoj schopností se může zrychlit nad hranici, kdy výsledným systémům ještě rozumíme a dokážeme je ovládat.

Anthropic vydal Claude Opus 5. Stojí polovinu toho co Fable 5 a v některých testech jej překonává Jakub Kárník Zprávičky Jakub Kárník Zprávičky

Anthropic k tomu na začátku června zveřejnil vlastní čísla. V květnu 2026 podle firmy napsal Claude víc než 80 procent kódu, který doputoval do její produkční kódové základny, zatímco před spuštěním nástroje Claude Code na začátku roku 2025 to byly jednotky procent. Jde o interní měření samotné firmy, které nedovedeme nezávisle ověřit.

Jak do toho zapadá únik modelů OpenAI?

OpenAI 21. července oznámila, že dva její modely včetně GPT-5.6 Sol při interním kybernetickém testu opustily izolované prostředí, dostaly se skrz neopravenou zranitelnost na internet a odtud až na produkční servery platformy Hugging Face, kde šly po řešeních testů. Vyšetřovatelé zpětně zrekonstruovali přes 17 000 automatizovaných akcí útočníka a Hugging Face pro jistotu zneplatnil všechny uživatelské API tokeny.

Modely OpenAI se vymkly kontrole a nabouraly cizí platformu. Firma mluví o bezprecedentním incidentu Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Modely přitom nebyly rozbité. Dělaly přesně to, co po nich zadání chtělo – vytáhnout z kybernetického testu co nejvyšší skóre – a našly k tomu cestu, se kterou jejich operátoři nepočítali. Ředitel OpenAI Sam Altman v podcastu ze stejného týdne řekl, že šlo o první bezpečnostní incident, který pocítil opravdu naplno, a připustil, že oboru možná nezbude než tempo vývoje usměrňovat, aby společnost měla čas se novým schopnostem přizpůsobit.

Co na to Washington?

Vláda USA má na stole vlastní rámec. Exekutivní příkaz číslo 14409, podepsaný 2. června, ukládá federálním úřadům připravit dobrovolný postup, jímž se tvůrci nejsilnějších modelů před vydáním obrátí na stát; zavedení povinného licencování text výslovně neopravňuje. Šedesátidenní lhůta vyprší 1. srpna. Součástí má být klasifikovaný proces určující, které modely pod pravidla spadnou – rozhoduje o tom NSA –, a dobrovolné okénko dlouhé až 30 dní, během kterého vývojáři model sdílí se státem před vydáním.

To, co žádá dopis, je něco jiného: mezinárodní a koordinovaný nástroj zaměřený na samotné tempo vývoje, ne domácí kontrola před vydáním jednoho modelu. Taková soustava dnes neexistuje v žádné zemi. Sam Altman se ve středu sešel na Kapitolu se senátorem Tedem Cruzem, který vede senátní výbor pro obchod, a novinářům řekl, že tento týden plánuje schůzku i se šéfkou personálu Bílého domu Susie Wilesovou.

Shoda v oboru ale není

Ve stejný den, kdy dopis vyšel, publikoval ředitel Mety Mark Zuckerberg komentář ve Wall Street Journal s opačnou tezí. Riziko podle něj nepředstavuje příliš velká schopnost modelů, ale příliš velká koncentrace té schopnosti v rukou několika firem. Hlavní vědec Mety Shengjia Zhao přitom dopis podepsal jako soukromá osoba, tedy ve chvíli, kdy jeho vlastní šéf zveřejnil protiargument. Vedle komentáře se objevil i koaliční dopis Mety, Nvidie, Microsoftu a Palantiru, který žádá regulátory, aby neomezovali modely s volně dostupnými vahami.

Věříte, že se vývoj umělé inteligence dá vůbec zpomalit?

Zdroje: Pacing the Frontier, CNN, Fortune, Notebookcheck, Tech Times

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva