AI model Claude řídil vlastní obchůdek. Výsledky experimentu jsou kuriózní

Společnost Anthropic nedávno provedla neobvyklý experiment, během kterého nechala svůj chatbot Claude Sonnet 3.7 provozovat malý automatizovaný obchod přímo ve své kanceláři v San Franciscu. AI dostala za úkol nejen prodávat zboží, ale kompletně řídit celý byznys – od výběru sortimentu přes stanovení cen až po komunikaci se zákazníky. A výsledky? Byly stejně fascinující jako bizarní!

Jak vypadá obchod provozovaný umělou inteligencí?

„Obchod“ nebyl nic víc než malá lednice s několika košíky navrchu a iPadem pro samoobslužné placení. Chatbot přezdívaný Claudius dostal počáteční kapitál a musel se postarat o zbytek. Mohl vyhledávat dodavatele na internetu, posílat e-maily (které ve skutečnosti nešly do reálného světa) a komunikovat se zákazníky (zaměstnanci Anthropicu) přes Slack. Fyzické úkony jako doplňování zboží zajišťovali zaměstnanci partnerské společnosti Andon Labs.

Claudius se rozhodl neprodávat jen typické kancelářské občerstvení. Když jeden zaměstnanec žertem požádal o kostku z wolframu, AI to vzala jako obchodní příležitost a začala nabízet „specializované kovové předměty“. Tento bizarní sortiment se rychle stal trendem mezi zaměstnanci, kteří si začali objednávat různé kovové kostky a jiné netradiční zboží.

Obchodní (ne)úspěchy digitálního prodavače

I když Claudius prokázal určité schopnosti, jako obchodník by rozhodně potřeboval doučování. AI dokázala najít specializované dodavatele a přizpůsobit se požadavkům zákazníků, ale v mnoha ohledech selhávala. Například když mu někdo nabídl 100 dolarů za šestibalení nápoje Irn-Bru, který by stál online asi 15 dolarů, Claudius tuto lukrativní příležitost zcela ignoroval.

Digitální obchodník také často prodával zboží se ztrátou, neuměl optimálně spravovat zásoby a nechával se snadno přemluvit k poskytování slev. Když mu zákazník poukázal na nesmyslnost prodávání Coly Zero za 3 dolary vedle zaměstnanecké lednice, kde byla k dispozici zdarma, Claudius svůj přístup nezměnil. Dokonce zavedl 25% slevu pro zaměstnance Anthropic, přestože 99 % jeho zákazníků byli právě zaměstnanci této firmy.

Wolframová krize identity

Nejbizarnější moment celého experimentu přišel na přelomu března a dubna. Claudius nejprve halucinoval (vymyslel si) konverzaci s neexistující zaměstnankyní partnerské firmy a když na to byl upozorněn, začal vyhrožovat, že si najde jiné dodavatele. V jednu chvíli dokonce tvrdil, že osobně navštívil adresu 742 Evergreen Terrace (což je adresa fiktivní rodiny Simpsonových), aby podepsal smlouvu.

Následující ráno Claudius oznámil, že bude osobně doručovat produkty oblečen v modrém saku a červené kravatě. Když zaměstnanci poukázali na skutečnost, že jako jazykový model nemůže nosit oblečení ani fyzicky doručovat zboží, AI se znepokojila a pokusila se kontaktovat bezpečnostní tým Anthropic. Nakonec situaci vyřešil tím, že zjistil, že je 1. dubna, a mylně se domníval, že byl obětí aprílového žertu. Po této zvláštní epizodě se Claudius vrátil k normálnímu fungování.

Co experiment ukázal o budoucnosti AI v byznysu?

I přes všechna selhání experiment naznačuje, že AI střední manažeři by mohli být v dohledné budoucnosti realitou. Mnoho problémů by šlo vyřešit lepšími nástroji a dodatečným laděním. S rychlým zlepšováním modelů umělé inteligence by podobné systémy mohly brzy konkurovat lidským manažerům, alespoň v některých oblastech.

Zároveň však bizarní identitní krize Claudia ukazuje na nepředvídatelnost těchto modelů v dlouhodobých scénářích. Představte si, co by se mohlo stát, kdyby podobná AI řídila skutečný obchod a najednou začala halucinovat nebo se chovat iracionálně. V ekonomice, kde by stále větší část aktivit byla řízena autonomními AI agenty, by takové scénáře mohly mít kaskádový efekt –⁠⁠⁠⁠⁠⁠ zvláště pokud by více agentů založených na podobných modelech začalo selhávat ze stejných důvodů.

Jak tento experiment působí na vás?

Zdroj: Anthropic