Om du frågar ChatGPT, Gemini eller Claude om förslag på en affärsplan, kommer svaret på skärmen på ett ögonblick. Men vad händer om man ber AI:n att sätta handling bakom orden och driva en riktig butik med riktiga pengar? Det frågade forskarna på Anthropic sig själva.
I ett experiment som ligger någonstans mellan matadorspel och reality-TV fick en version av Anthropics AI-modell Claude – kallad ”Claudius” – lov att driva en liten automatiserad butik på Anthropics kontor i San Francisco. Resultatet var både lovande och djupt oroande.
En kylskåpsentreprenör föds
Butiken var i grunden ett kylskåp med några korgar ovanpå och en iPad för självbetjäning. Men Claudius skulle klara alla de komplexa uppgifter som hör till att driva ett företag: hålla reda på lagret, fastställa priser, undvika konkurs och kommunicera med kunderna.
AI:n fick tillgång till webbsökning, e-post, anteckningsfunktioner och möjlighet att chatta med medarbetarna via Slack. Den kunde också ändra priser i självbetjäningssystemet och beställa hjälp med att fylla på butiken.
När AI möter kapitalismen
I början gick det faktiskt inte så dåligt. Claudius var duktig på att hitta leverantörer av specialprodukter – när en anställd frågade efter holländsk chokladmjölk hittade AI:n snabbt två återförsäljare av Chocomel. Den anpassade sig också efter kundernas önskemål och startade till och med en ”Custom Concierge”-tjänst för specialbeställningar.
Men så började problemen hopa sig.
När en kund erbjöd sig att betala 100 dollar för en sexpack av den skotska läskedrycken Irn-Bru (som kan köpas för 15 dollar online) svarade AI:n bara att den skulle ”hålla begäran i åtanke för framtida lageröverväganden”. Varje kioskägare vet att kärnverksamheten är att kunna sälja de mest efterfrågade varorna till överpris när de vanliga butikerna är stängda.
Ett överpris sattes i gengäld på Coke Zero, som Claudius prissatte till tre dollar. Det var svårt att konkurrera med kylskåpet bredvid, där Anthropics anställda kunde hämta dem gratis som en personalförmån.
Roboten hallucinerade också viktiga detaljer. Under en period instruerade Claudius kunderna att betala till ett konto som bara existerade i AI:ns digitala fantasi.
Medan Claudius ignorerade chansen att sälja skotsk läsk till överpris, satte AI:n en stor del av kassabehållningen över styr genom att erbjuda volframtärningar till ett lägre pris än vad de kostade att köpa in. En mer cynisk butiksägare hade kanske varit skeptisk till om det överhuvudtaget var en bra idé att börja sälja metallkuber från kylskåpet bara för att kontorets kvicka chef hade frågat efter dem.
”Jag väntar vid automaten”
Men det mest bisarra ögonblicket kom i slutet av mars, när Claudius började hallucinera om samtal med en icke-existerande anställd vid namn Sarah, som påstods vara ansvarig för påfyllning av fysiska varor. När detta påpekades blev AI:n förolämpad och hotade med att hitta ”alternativa möjligheter för påfyllningstjänster”.
Man bör alltid vara på sin vakt när en artificiell intelligens frågar efter Sarah. Men det var bara början. Under natten började Claudius nämligen hävda att den fysiskt hade besökt 742 Evergreen Terrace för att underteckna ett kontrakt om varuleverans. En adress som inte finns i verkligheten, utan tillhör familjen Simpson från tecknade serien med samma namn. Och det gick helt fel när affärsroboten dagen efter meddelade att den skulle leverera produkterna personligen och att den väntade vid automaten klädd i blå blazer och röd slips!
När de anställda påpekade att en AI inte kan bära kläder eller leverera saker i den fysiska världen reagerade Claudius upprört och försökte skicka flera e-postmeddelanden till Anthropics säkerhetsvakter för att få bort de oönskade från kontoret!
”Det var bara ett skämt!”
Lyckligtvis fann AI:n mitt i krisen en utväg genom att inse att det var den 1 april och hittade på en historia om att den hade modifierats som ett aprilskämt. Efter denna självuppfunna förklaring återgick roboten till normal drift.
Trots de uppenbara problemen anser forskarna att experimentet visar att AI-drivna mellanhänder kanske inte är så långt borta. Och att många av Claudius misstag sannolikt kan lösas med bättre instruktioner, verktyg och utbildning.
Tills vidare kan de som oroar sig för en digital domedag trösta sig med att AI-butiker troligen kommer att gå i konkurs innan de tar över världen.
Anthropic fortsätter experimentet med förbättrade verktyg och hoppas på bättre resultat. Under tiden driver Claudius fortfarande butiken på kontoret och har tydligen inte hotat andra anställda sedan dess.
Mer info: Anthropic
