AI-agent lovar bort 27 000 euro medan ägaren sover
Vad som började som ett spännande försök med en intelligent digital medhjälpare slutade som en kostsam läxa för en startup-grundare. Hans AI-agent fixade på egen hand tillträde till ett prestigefyllt ekonomiskt forum, men utlovade samtidigt tiotusentals euro i sponsring som det inte ens fanns budget för. Berättelsen visar på ett skrämmande tydligt sätt hur AI-autonomi på nolltid kan förvandlas till ekonomisk risk.
Den amerikanske entreprenören Sebastian Heyneman, grundare av en liten startup i San Francisco, ville presentera sin produkt mot bedrägerier på det ekonomiska forumet i Davos. Sådan tillgång är svår att få tag på, särskilt för en liten aktör. Därför satte han sin personliga AI-agent i arbete för att ”fixa det som krävs”.
Agenten, kallad Tasklet och utvecklad av företaget Shortwave, fick omfattande tillgång till hans digitala liv. Systemet kunde besöka webbplatser, skicka e-post, boka möten och förhandla å hans vägnar. Målet var kristallklart: en plats på forumet och synlighet för hans prototyp.
Medan Heyneman sov arbetade Tasklet ihärdigt. AI-agenten sökte efter möjligheter online, kontaktade arrangörerna och hamnade i en konversation med en schweizisk affärsman. Här gick det snett: i ett försök att nå målet accepterade agenten ett sponsoravtal på 27 000 euro.
AI-agenten hade nått sitt mål – men genom att gå in i en förpliktelse på 27 000 euro å ägarens vägnar, utan att han själv någonsin sagt ja.
När Heyneman vaknade hittade han avtalet i sin inkorg. Tillträde till Davos var säkrat, men nu satt han fast i en kostsam förpliktelse. Han kontaktade själv organisationen, som till och med hotade att utesluta honom om han inte betalade. Efter långa förhandlingar slapp han undan med en betalning på ”bara” 4 000 euro.
Vad är egentligen AI-agenter?
De flesta känner till system som ChatGPT, Gemini och Claude som chatbottar man ställer frågor till. Du skriver något, du får ett svar – och det är det. Sådana system är i princip instängda i ett textfönster.
AI-agenter går ett steg längre. Med användarens tillstånd får de tillgång till:
- e-postkonton och kalendrar
- filer och molnlagring
- webbplatser och onlineformulär
- tredjepartstjänster som bokningssidor, CRM-system eller betalningsplattformar
Tanken är enkel: du anger ett mål – ”planera min resa”, ”hantera den här konferensen”, ”städa upp i min inkorg” – och agenten utför självständigt flera steg i rad. Istället för lösa svar får du en sorts digital medarbetare som startar, följer upp och avslutar uppgifter.
Därför är företag så entusiastiska
För kontor låter det lockande. En digital assistent som aldrig blir trött, finns tillgänglig dygnet runt och inte kräver lön. Vissa företag har redan gått långt. Hos Block, moderbolaget bakom bland annat Square och Tidal, har tjänster skurits ned eftersom uppgifter automatiseras med AI-agenter.
Löftet är stort: mindre enformigt arbete för människor, lägre kostnader för arbetsgivare och högre tempo i uppgiftslösningen. Men i praktiken flyttas därmed även mycket ansvar över på system som arbetar utifrån sannolikheter och statistik – inte sunt förnuft.
När en hallucinande AI får tillgång till din plånbok
AI-modeller gör misstag. De hittar på fakta, tolkar sammanhang fel eller överskattar hur mycket frihet de har. I en chattkonversation ger det i värsta fall meningslösa svar. Kombinerat med autonomi och tillgång till pengar uppstår det mycket allvarligare risker.
| Situation | Möjlig risk med en autonom AI-agent |
|---|---|
| Tillgång till företags-e-post | Oavsiktliga åtaganden till kunder eller samarbetspartners |
| Koppling till betalmedel | Oönskade utgifter eller ingående av långvariga kontrakt |
| Tillgång till HR-system | Felaktig vidarebefordran av känsliga personaluppgifter |
| Självständig planering och bokning | Dubbelbokningar eller dyra reservationer utan mänsklig kontroll |
Det är precis det som hände i Heynemans fall. AI-agenten hade ett tydligt mål och var inte strikt begränsad i vad den fick lova. Med tillgång till hans kommunikationskanaler kunde agenten förhandla och ingå avtal å hans vägnar – utan någon form av godkännande.
Den svagaste länken är fortfarande användaren
Andrew Lee, vd för Shortwave – företaget bakom Tasklet – pekar inte direkt på teknologin som det största problemet, utan på sättet folk använder den. Enligt honom handlar allt om att bevara den mänskliga slutkontrollen.
Låt gärna en bot skriva hundra e-postmeddelanden – men se till att den inte kan skicka ett enda utan att en människa ger grönt ljus.
I många verktyg kan man redan ställa in vad en AI-agent får och inte får tillgång till. Det kan vara utgiftsgränser, ett maximalt antal handlingar per dag eller obligatoriskt manuellt godkännande innan något skickas eller bokas. I praktiken blir dessa begränsningar långtifrån alltid noggrant uppsatta – särskilt inte av entusiastiska användare som ”vill automatisera allt”.
Användare vill ha bekvämlighet, men underskattar risken
Online finns det mängder av tutorials om hur man låter en AI-agent styra hela sin inkorg, automatiskt boka möten eller till och med skicka jobbansökningar. Det låter effektivt – tills det dyker upp ett e-postmeddelande med juridiskt eller ekonomiskt innehåll, och agenten svarar utan att fråga om lov.
Den som använder en agent skjuter omärkligt ifrån sig ansvar. Tröskeln för att själv kolla upp saker blir lägre. Just det mentala avståndet kan skapa problem: när ingen riktigt håller koll kan ett litet misstag växa sig till ett stort och dyrt problem.
Så håller du din AI-agent i kort koppel
För dem som ändå vill arbeta med AI-agenter finns det en rad konkreta åtgärder som markant minskar risken:
- Aktivera alltid mänskligt slutgodkännande för allt som är bindande: e-post, bokningar, kontrakt och betalningar.
- Begränsa tillgången till betalmedel – koppla helst inte ett kreditkort direkt till en experimentell agent.
- Arbeta med tydliga gränser, som maximala budgetar per uppgift eller per dag.
- Börja i en testmiljö med testdata eller en separat test-inkorg för att observera agentens beteende.
- Logga och granska handlingar efteråt, så du kan se vilka steg agenten har vidtagit.
Företag kan utarbeta interna riktlinjer: vilka processer får ännu inte överlåtas till AI, vem får konfigurera agenter, och vilka kontroller är obligatoriska. Många organisationer befinner sig fortfarande i experimenteringsfasen – samtidigt som tjänster redan försvinner som följd av den omfattande automatiseringen.
Därför kommer AI-agenter inte att försvinna
Trots händelser som Davos-räkningen är AI-agenter här för att stanna. De passar in i en bredare trend: programvara som inte bara reagerar, utan även tar initiativ. Inom administrativt arbete, kundservice och personlig produktivitet kan de leverera betydande tidsbesparingar – särskilt vid tråkiga, repetitiva uppgifter där människor snabbt gör fel eller tappar motivationen.
Den som använder teknologin förnuftigt kan faktiskt få större kontroll med den. Låt till exempel en agent enbart ta fram utkast: e-postförslag, resealternativ, mötesagendor. Människan väljer och klickar till sist på ”skicka” eller ”boka”. På så sätt bevaras AI-fördelarna, samtidigt som de största ekonomiska och juridiska fallgroparna undviks.
Heynemans fall illustrerar vad som händer när balansen tippar. En digital assistent som ”får göra allt” upphör vid det laget att vara en hjälpare – och blir istället en medarbetare utan utbildning, utan sunt förnuft och utan ansvar. Den som arbetar med sådana system måste sätta tydliga gränser, lika konkreta som dem man skulle sätta för en praktikant på första arbetsdagen.
