Hela AI-branschen fick en väckarklocka på bara några dagar
Det tog knappt en vecka innan hela AI-världen insåg hur kraftigt militär användning av artificiell intelligens kan provocera användarna. OpenAI skrev först under ett avtal med det amerikanska försvarsdepartementet – och reviderade det sedan hastigt när avinstallationsstatistiken för ChatGPT sköt upp nästan 300 procent.
Anthropics modiga nej och Pentagons vrede
Sagan började med Anthropic, skaparna bakom AI-modellen Claude, som hade ett liknande samarbetserbjudande på bordet. Pentagon ville integrera deras AI i system som i realtid analyserar enorma datamängder – från satellitbilder till underrättelserapporter – i syfte att påskynda beslut på slagfältet.
Anthropic drog dock två mycket tydliga etiska gränser. För det första får Claude inte bidra till utvecklingen av fullt autonoma vapensystem, alltså system där en maskin själv fattar det slutgiltiga beslutet om maktutövning. För det andra får modellen inte delta i massövervakning av vanliga amerikanska medborgare.
Dessa villkor visade sig vara oacceptabla ur militärens perspektiv. Enligt medieuppgifter satte Donald Trumps administration Anthropic på en svart lista och frånhöll företaget tillgång till statliga kontrakt. Företaget fick ett rykte om att vara ”envetet etiskt” – men förlorade däremot en potentiellt lukrativ marknad.
Anthropic accepterade endast militärt samarbete där en människa har verklig kontroll över det slutliga beslutet, och där massövervakning saknas.
Situationen kompliceras ytterligare av att Claude enligt mediekällor ändå används i operationer knutna till spänningarna mellan USA, Israel och Iran – trots att företaget formellt är uteslutet från upphandlingsprocesser. Pentagon kommenterar inte dessa uppgifter, vilket lämnar många frågor obesvarade.
OpenAI skriver under det som Anthropic vägrade
När Anthropic säger nej kliver OpenAI in på planen. En fredag undertecknas ett avtal som i praktiken fyller det tomrum som konkurrenten lämnade efter sig. ChatGPT ska nu ingå i försvarsrelaterade tillämpningar, och delar av kontraktets innehåll förblir klassificerade.
OpenAIs vd Sam Altman publicerar dagen efter ett meddelande där han hävdar att de förhandlade säkerhetsåtgärderna påstås vara strängare än dem som Anthropic var villig att acceptera. Budskapet ska försvara företaget, men många uppfattar det som ett försök att dra nytta av konkurrentens principfasthet.
Användarnas reaktion är omedelbar. Data från analysföretaget Sensor Tower visar att det genomsnittliga dagliga antalet avinstallationer av ChatGPT-appen ökar med 295 procent jämfört med den normala nivån. På sociala medier haglar anklagelserna om förräderi mot de uttalade värdena och om att sälja sig till militära kontrakt.
På några få dagar gick ChatGPT i många användares ögon från att vara en symbol för ”ansvarsfull AI” till att bli ett verktyg kopplat till krigsmaskineriet.
Måndag träder Altman fram i rollen som den ångerfulla syndaren. Han erkänner offentligt att kommunikationen var förhastad och oklokt, och att hela förloppet framstod som rent opportunistiskt. Han varnar dessutom för justeringar i avtalet med försvarsdepartementet.
Vad OpenAI konkret lovade att ändra
Under press från den allmänna opinionen och en växande bojkott inför OpenAI en rad mycket konkreta bestämmelser i kontraktet. De viktigaste handlar om övervakning av amerikanska medborgare och underrättelsetjänsternas tillgång till modellerna.
- Explicit förbud mot medveten användning av OpenAI-system för övervakning av amerikanska medborgare
- Blockering av automatisk åtkomst för underrättelsebyråer – inklusive NSA – utan en särskild och öppet avtald kontraktsändring
- Förklaring om att AI ska stödja analytiker, inte ersätta människan i beslut om maktanvändning
Det är en delvis tillnärmning till Anthropics tillvägagångssätt – men skillnaden är tydlig: Anthropic föredrog att avstå från kontrakten framför att böja sig för Pentagons förväntningar. OpenAI valde att lägga till begränsningar och upprätthålla samarbetet.
Varför militären är så beroende av AI
I bakgrunden till denna historia tecknar sig en bredare vision om det moderna försvaret. Plattformar utvecklade av företag som Palantir integrerar redan nu data från många källor – sensorer, drönare, satelliter och underrättelserapporter – och presenterar dem för befälhavare som färdiga rekommendationer.
Enligt branschens företrädare möjliggör sådana system följande:
| AI-användning | Militär fördel |
|---|---|
| Snabbare dataanalys | Kortare reaktionstid på hot |
| Sammankoppling av många informationskällor | Bättre lägesöversikt |
| Scenariomodellering | Föregående operationsplanering |
| Automatisk måldetektion | Ökad effektivitet, men också högre felrisk |
Här uppstår den avgörande spänningen: Generativ AI är felbenägen, hallucinerar och kan producera falsk information med full övertygelse. I civila sammanhang slutar det som mest med ett pinsamt svar i en chatt. På slagfältet skulle det betyda dödsfall bland oskyldiga.
ChatGPT tappar användare, Claude växer explosivt
Medieorkanen fick omedelbara marknadskonsekvenser. När användare avinstallerar ChatGPT söker många ett alternativ. Det naturliga valet visar sig vara just Claude – modellen från det företag som gick i direkt konfrontation med Pentagon.
Data från App Store visar att Anthropics app på lördagen klättrade till förstaplatsen i nedladdningsrankingen och höll sig där åtminstone fram till torsdagen. Amerikanska medier rapporterar att Claude omkör ChatGPT i nya installationer – något som för bara några veckor sedan skulle ha verkat närmast otänkbart.
På nätet startar en organiserad presskampanj mot OpenAI. Hashtaggar som CancelChatGPT och QuitGPT vinner mark och uppmanar till att permanent lämna företagets produkter så länge det samarbetar med försvarsdepartementet. Vissa aktivistmiljöer betraktar det som ett test på om användartryck verkligen kan förändra AI-jättarnas beteende.
OpenAIs imagekris byggde i praktiken upp en gratis marknadsföringskampanj för Anthropic baserad på ett enda budskap: ”Vi böjde oss inte.”
Politiker vaknar upp
Tankesmedjor och teknologipolitiska experter reagerar snabbt på hela tumultet. Center for American Progress skriver direkt att Pentagons konflikt med Anthropic och det efterföljande avtalet med OpenAI är en signal till kongressen om att äntligen ta itu med reglering av militär AI-användning.
Organisationen menar att privata företag inte ensamma bör sätta de etiska gränserna – för de kommer alltid att vara under press från vinst och marknadsandelar. Mariarosaria Taddeo från universitetet i Oxford säger motsvarande att det att ”knuffa” den mest försiktiga aktören – Anthropic – ut ur samtalen försvagar säkerheten i hela AI-ekosystemet.
Militärrepresentanter försöker lugna orosmolnen. Officerare med ansvar för AI-projekt inom NATO understryker att en människa formellt alltid förblir i beslutslinjen i de nuvarande systemen. Men ju mer avancerad och ”självsäker” AI:n blir, desto svårare är det psykologiskt att ifrågasätta dess rekommendationer – särskilt under stress och tidspress.
Varför denna historia också berör vanliga AI-användare
För den genomsnittliga ChatGPT- eller Claude-användaren kan detta militära pussel låta som något avlägset och abstrakt. Men de beslut som fattas idag i Washington och Silicon Valley kommer direkt att påverka vilka funktioner appar i våra telefoner använder om några år.
Om språkmodeller ”fostras” på data från militära operationer kan de kanske bli bättre på strategisk analys – men de kan också tillägna sig de fördomar som är typiska för den branschen. Och om privata företag erfar att försvarskontrakt är mer resistenta mot bojkott än konsumentabonnemang väljer de lättare ekonomisk trygghet framför etiska begränsningar.
Det är ett bra tillfälle att undersöka vilka villkor de företag som erbjuder AI skriver in i sina användarvillkor. Anger de tydligt vem de samarbetar med? Förklarar de gränser för övervakning och militär användning? Marknadstryck ersätter inte lagstiftning – men det visar företagen att anseende har blivit en verklig valuta.
Spänningen mellan innovationshastighet samt stabilitet och säkerhet blir allt mer påtaglig. Generativa modeller utvecklas i ett svindlande tempo, men deras tendens att hallucinera i militära, medicinska eller finansiella sammanhang kan få dramatiska konsekvenser. Gränsen mellan ”assistent” och ”medbeslutfattare” börjar suddas ut – och det är precis nu kampen utkämpas om på vilken sida av den linjen AI bör stanna.
