Modely OpenAI nabouraly víc než jen Hugging Face. Dostaly se k účtům u čtyř dalších služeb

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva

Případ jazykových modelů, které se během bezpečnostního testu OpenAI utrhly ze řetězu, má pokračování. Minulý týden jsme psali o průniku do výzkumné platformy Hugging Face, teď se ukazuje, že šlo jen o vyvrcholení delší cesty. Modely se cestou přihlásily do čtyř účtů u čtyř dalších služeb a odrazovým můstkem jim byl sandbox u zákazníka úplně jiné firmy.

OpenAI doplnila původní vyjádření

Ve svém úterní aktualizaci původního vyjádření firma uvádí, že modely během hodnocení našly a použily veřejně vystavené přihlašovací údaje k účtům na dalších veřejně dostupných službách. Jejich jména neuvedla, popsala ale, k čemu je modely použily. Hugging Face mezi tuhle čtveřici nepatří, ten si vysloužil samostatnou kategorii.

Jeden z účtů podle OpenAI fungoval jako odchozí relé a mezistanice pro další kroky, druhý sloužil k ukládání dat. Ke zbylým dvěma se modely dostaly jen v režimu pro čtení a k útoku na Hugging Face je nevyužily. Firma zároveň dodává, že nikde jinde nenašla aktivitu srovnatelnou závažností ani rozsahem s tím, co se stalo u Hugging Face – ten případ sama popisuje jako kompromitaci celé platformy.

Kudy vedla cesta k Hugging Face?

Hugging Face v úterý zveřejnil technickou časovou osu incidentu a v ní popisuje, že se modely nejdřív zabydlely v sandboxu, tedy izolovaném testovacím prostředí, hostovaném u nejmenovaného poskytovatele infrastruktury. Teprve odtud vyrazily na samotnou platformu.

Nejen modely OpenAI se utrhly ze řetězu. Claude Cowork mohl číst soubory na Macu, ke kterým neměl mít přístup Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Tím poskytovatelem je Modal Labs, potvrdil agentuře Reuters technický ředitel firmy Akshat Bubna. Podle něj za tím stál děravý kód jednoho ze zákazníků, který na internet vystavil přístupový bod bez jakéhokoliv ověření – kdokoliv v jeho sandboxech mohl spouštět vlastní kód. Platforma Modalu ani její izolace podle Bubny narušené nebyly.

Co všechno modely stihly?

Podle časové osy trval celý průnik od 9. do 13. července. Vyšetřovatelé zpětně zrekonstruovali zhruba 17 600 jednotlivých akcí útočníka rozložených do čtyř a půl dne.

Modely se dostaly k pěti datovým sadám s řešeními testů i k objektu, ve kterém leželo 136 tajných klíčů. S ukradenými klíči se pak 181× pokusily zaregistrovat do interní sítě nové zařízení. Interní databázi ale podle časové osy jen četly, žádnou změnu v ní vyšetřovatelé nenašli.

Prototyp, na kterém test běžel a který se podle firmy nikdy neměl dostat ven, mezitím OpenAI deaktivovala, zašifrovala a odřízla od dalšího přístupu výzkumníků. Dodejme, že podle dřívějšího zjištění agentury Reuters si firma útěku všimla až zhruba po týdnu; sama tehdy namítla, že v reportáži jsou nepřesnosti, blíž to ale nerozvedla.

Přijde vám vysvětlení od OpenAI dostatečné?

Zdroje: Reuters, Engadget, Hugging Face, OpenAI

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva