En hel bransch fick ögonen upp för hur känslig militär AI är
På bara några dagar upplevde hela AI-sektorn hur snabbt användarnas ilska kan eskalera. OpenAI skrev först under ett avtal med det amerikanska försvarsdepartementet – och tvingades sedan i all hast göra om det när antalet ChatGPT-avinstallationer ökade med nästan 300 procent.
Anthropics modiga nej och Pentagons vrede
Historien börjar med Anthropic, skaparna av Claude-modellen, som hade ett liknande samarbetsavtal på bordet. Pentagon önskade integrera deras AI i system som i realtid kunde analysera enorma datamängder – från satellitbilder till underrättelserapporter – för att påskynda beslut på slagfältet.
Anthropic satte dock två mycket tydliga etiska gränser. För det första fick Claude inte bidra till utvecklingen av helt autonoma vapensystem, alltså system där maskinen själv fattar det slutliga beslutet om maktutövning. För det andra fick modellen inte delta i massövervakning av vanliga amerikanska medborgare.
Dessa villkor visade sig vara oacceptabla ur militärens synvinkel. Enligt uppgifter i media satte Donald Trumps administration Anthropic på en svart lista och fråntog företaget tillgång till statliga kontrakt. Företaget fick ett rykte som ”envist etiskt”, men förlorade samtidigt en potentiellt lukrativ marknad.
Anthropic accepterade endast militärt samarbete i situationer där en människa har verklig kontroll över det slutliga beslutet, och där massövervakning är fullständigt frånvarande.
Situationen kompliceras ytterligare av att Claude enligt mediakällor ändå används i operationer knutna till spänningarna mellan USA, Israel och Iran – trots att företaget formellt är uteslutet från upphandlingsprocesser. Pentagon kommenterar inte dessa uppgifter, vilket lämnar många frågor obesvarade.
OpenAI skriver under det som Anthropic vägrade
När Anthropic sa nej klev OpenAI in på arenan. En fredag skrevs avtalet under – ett avtal som i praktiken fyllde det tomrum som konkurrenten lämnade efter sig. ChatGPT skulle nu användas i försvarssammanhang, medan detaljerna i kontraktet delvis förblev hemliga.
Sam Altman, OpenAI:s verkställande direktör, offentliggjorde dagen efter ett uttalande där han hävdade att de förhandlade säkerhetsåtgärderna påstås vara strängare än dem som Anthropic skulle ha accepterat. Detta budskap skulle försvara företaget – men i många människors ögon liknade det ett försök att profitera på rivalens principfasthet.
Användarnas reaktion var omedelbar. Data från Sensor Tower visade att det genomsnittliga dagliga antalet avinstallationer av ChatGPT-appen ökade med 295 procent jämfört med den normala nivån. På sociala medier haglade det in med anklagelser om förräderi mot uttalade värderingar och om att ha sålt sig till militära kontrakt.
På få dagar gick ChatGPT i många användares medvetande från att vara en symbol för ”ansvarsfull AI” till att förknippas med den militära maskinen.
Måndag trädde Altman fram i rollen som den ångerfulle, som erkände misstag. Han medgav offentligt att kommunikationen hade varit förhastad och oförståndig, och att hela förloppet framstod rent opportunistiskt. Han aviserade dessutom ändringar i avtalet med försvarsdepartementet.
Vad OpenAI konkret lovade att förbättra
Under press från allmänheten och en växande bojkott arbetade OpenAI in en rad mycket specifika bestämmelser i kontraktet. De viktigaste handlar om övervakning av amerikanska medborgare och underrättelsetjänsternas tillgång till modellerna.
- Ett tydligt förbud mot medveten användning av OpenAI-system för övervakning av amerikanska medborgare
- Blockering av automatisk tillgång för underrättelseorgan – inklusive NSA – utan en separat och öppet överenskommen kontraktsändring
- Ett uttalande om att AI ska stödja analytiker – inte ersätta människan i beslut om maktutövning
Det är en delvis tillnärmning till Anthropics förhållningssätt – men skillnaden är tydlig: Anthropic valde att avstå från kontrakten istället för att böja sig för Pentagons förväntningar. OpenAI valde att lägga till begränsningar och behålla samarbetet.
Därför är militären så intresserad av AI
Bakom denna historia ligger en bredare vision för de moderna väpnade styrkorna. Plattformar utvecklade av bland andra företaget Palantir integrerar redan nu data från många källor – sensorer, droner, satelliter och underrättelserapporter – och presenterar dem för befälhavare i form av färdiga rekommendationer.
Enligt branschens egna representanter möjliggör sådana system följande:
| AI-användning | Militär fördel |
|---|---|
| Snabbare dataanalys | Kortare reaktionstid vid hot |
| Sammankoppling av många informationskällor | Bättre överblick över den operativa situationen |
| Scenariomodellering | Förutseende operationsplanering |
| Automatisk måldetektion | Större effektivitet, men också högre felrisk |
Här uppstår den avgörande spänningen: Generativ AI är felbar, lider av ”hallucinationer” och kan producera falsk information med stor övertygelse. I civila sammanhang slutar det i värsta fall med ett pinsamt chatsvar. På slagfältet skulle det innebära dödsfall bland slumpmässiga människor.
ChatGPT tappar, Claude växer explosivt
Mediebranden gav omedelbara marknadseffekter. När användarna raderade ChatGPT-appen sökte många av dem efter ett alternativ. Det naturliga valet visade sig vara just Claude – modellen från det företag som gick emot Pentagon.
App Store-data visade att Anthropics app lördag hoppade till förstaplatsen på nedladdningslistorna och höll positionen åtminstone fram till torsdag. Amerikanska medier rapporterade att Claude överträffade ChatGPT i nya installationer – något som bara några veckor tidigare skulle ha verkat orealistiskt.
På nätet uppstod en organiserad presskampanj mot OpenAI. Hashtaggar som CancelChatGPT och QuitGPT blev populära och uppmanade till att permanent lämna företagets produkter, så länge det samarbetar med försvarsdepartementet. Vissa aktivistmiljöer betraktade det som ett prov på om användartryck verkligen kan förändra AI-jättarnas beteende.
OpenAI:s imagekris byggde i praktiken Anthropic en gratis marknadsföringskampanj baserad på ett enda budskap: ”Vi böjde oss inte.”
Politiker vaknar upp
Tankesmedjor och teknikpolitiska experter reagerade snabbt på hela affären. Center for American Progress skrev direkt att striden mellan Pentagon och Anthropic – och det efterföljande avtalet med OpenAI – är en signal till kongressen om att äntligen ta itu med regleringen av militär AI-användning.
Organisationen menar att privata företag inte ensamma bör fastställa de etiska gränserna – för de kommer alltid vara under press från vinst och marknadsandelar. En liknande hållning kommer från Mariarosaria Taddeo från Oxford University, som påpekar att det att pressa den mest försiktiga aktören – Anthropic – ur samtalet försvagar säkerheten i hela ekosystemet.
Militärrepresentanter försöker lugna oron. Officerare med ansvar för AI-projekt inom NATO understryker att en människa formellt alltid förblir i beslutsloopen i de nuvarande systemen. Men ju mer avancerad och ”självsäker” AI:n blir, desto svårare är det psykologiskt att ifrågasätta dess rekommendationer – särskilt under stress och tidspress.
Varför denna historia också bör intressera vanliga AI-användare
För den genomsnittliga ChatGPT- eller Claude-användaren kan denna militära intrig låta som något avlägset och abstrakt. Men de beslut som fattas idag i Washington och Silicon Valley kommer direkt påverka vilka funktioner appar på våra telefoner har om några år.
Om språkmodeller ”uppfostras” på data från militära operationer kan de bli bättre på strategisk analys – men de kan också överta fördomar som är typiska för den branschen. Och om privata företag upptäcker att försvarskontrakt är mer motståndskraftiga mot bojkott än konsumentabonnemang, kommer de lättare välja ekonomisk säkerhet framför etiska begränsningar.
Det är ett bra tillfälle att undersöka vilka villkor de företag som erbjuder AI-tjänster har skrivit in i sina användaravtal. Beskriver de tydligt vem de samarbetar med? Deklarerar de gränser för övervakning och militär användning? Marknadstryck kan inte ersätta lagstiftning – men det visar företagen att rykte har blivit en verklig valuta.
Spänningen mellan innovationshastighet och stabilitet blir allt mer synlig. Generativa modeller utvecklas i en svindlande takt, men deras tendens till hallucinationer i militära, medicinska eller finansiella sammanhang kan få dramatiska konsekvenser. Gränsen mellan ”assistent” och ”medbeslutsfattare” börjar suddas ut – och det är precis nu som kampen om vilken sida av den linjen AI bör stanna vid utkämpas på allvar.
