Hela AI-branschen fick nyligen en påminnelse om hur explosivt ämnet militär användning kan vara. Efter ett kontroversiellt avtal med det amerikanska försvarsdepartementet sköt avinstallationerna av ChatGPT i höjden med nästan 300 procent. Bakgrunden är att företaget bakom Claude, Anthropic, tackade nej till ett samarbete för att värna sina egna etiska principer. Även om det kan låta som en rent amerikansk angelägenhet för vanliga användare i Sverige, kommer beslut som fattas i Washington och Silicon Valley idag att forma morgondagens teknik över hela världen. Experter varnar nämligen för risken när privata teknikjättar ensidigt drar gränsen för global etik.

Så avvisade Anthropic Pentagon och hamnade på en svart lista

Historien började med ett erbjudande från militären till företaget Anthropic. Önskan var att integrera deras avancerade språkmodell i system för blixtsnabb analys av allt från satellitbilder till komplex data från stridsfältet. Målet var att skära bort värdefulla sekunder från befälhavares beslutsprocesser under pressade operationer.

Men teknikföretaget ställde sig fast med två oförhandlingsbara krav. För det första vägrade de att låta systemet ingå i fullautomatiska vapensystem som självständigt kunde fatta beslut om dödligt våld. För det andra förbjöd de massövervakning av den breda befolkningen i USA.

Dessa villkor föll inte i god jord hos försvarsledningen, och enligt uppgifter placerade Donald Trumps administration därefter företaget på en svart lista som blockerade lukrativa offentliga upphandlingar. Företaget höll fast vid sina principer, men betalade ett högt pris.

Situationen kompliceras ytterligare av att anonyma källor pekar på att Claude ändå används indirekt i känsliga operationer som involverar USA, Israel och Iran. Försvarsdepartementet vägrar kommentera dessa rykten, vilket lämnar ett stort tomrum av obesvarade frågor.

Vad OpenAI skrev under och varför det gjorde användarna rasande

När konkurrenten drog sig tillbaka såg OpenAI omedelbart en gyllene möjlighet att fylla det uppkomna vakuumet. En fredag skrevs papperen under, vilket i praktiken skickade ChatGPT rakt in i försvarsindustrin, även om många av detaljerna i kontraktet förblev hemliga.

Redan dagen efter försökte Sam Altman dämpa upprördheten genom att hävda att deras säkerhetsprotokoll var ännu strängare än de som rivalen hade krävt. Det uppfattades dock snabbt som ett billigt försök att dra nytta av andras moraliska kompass snarare än ett genuint skydd för konsumenterna.

Reaktionen kom prompte. Siffror från analysföretaget Sensor Tower avslöjade en astronomisk ökning av den dagliga avinstallationsfrekvensen på hela 295 procent. Utvecklare och akademiker rasade över vad de uppfattade som ett grovt svek mot grundläggande värderingar och anklagade plattformen för att sälja ut till militären.

När måndagen kom var toppchef tvungen att äta upp sina ord. Han medgav offentligt att förfarandet framstod som förhastat och starkt opportunistiskt, varefter han lovade att revidera avtalet. På bara några dagar hade plattformen gått från att vara en symbol för ansvarsfull innovation till att bli förknippad med krigsmaskineriet.

De konkreta ändringar OpenAI lovade att genomföra i avtalet

Det enorma trycket från allmänheten och hotet om en massiv bojkott tvingade företaget att införa markanta juridiska förändringar. Dessa modifieringar fokuserade främst på övervakning och underrättelsetjänsternas direkta tillgång till tekniken.

Här är de viktigaste förändringarna:

Ett direkt förbud mot att medvetet använda systemen för att övervaka befolkningen i USA.
Blockering av automatisk tillgång för byråer som NSA, såvida inte ett helt nytt tilläggsavtal förhandlas fram.
En understrykande att tekniken uteslutande ska assistera analytiker och aldrig ersätta människor i beslut om vapenanvändning.
Krav på full transparens och rapportering om tekniken försöks missbrukas.
Tydlig rätt att dra ur stickkontakten till tjänsten om riktlinjerna överträds av staten.
Genomförande av en oberoende revision var sjätte månad.
Strikta begränsningar på tillgång till de allra nyaste modellerna i samband med potentiellt dödliga uppdrag.

Denna strategi visade en fundamental skillnad mellan de två rivalerna. Medan Anthropic valde att avvisa ordern fullständigt, försökte konkurrenten ingå en diplomatisk kompromiss. Analytiker från Center for American Progress bedömer dock att dessa åtgärder lätt kan falla samman om det inte etableras en stark och oberoende kontrollinstans.

Varför försvaret jagar artificiell intelligens så intensivt

Orsaken till detta starka intresse grundar sig i en massiv vision för framtidens krigföring. Företag som Palantir har redan skapat plattformar som samlar allt från drönarmaterial till underrättelserapporter och serverar dem som färdiga rekommendationer direkt till kommandocentralen.

Militära ledare ser ett system som blixtsnabbt kan dra fram mönster ur komplexa data – långt snabbare än dussintals mänskliga analytiker någonsin skulle kunna. Den högt uppsatte generalen Roger Cloutier jämförde nyligen implementeringen av tekniken inom försvaret med den revolution som ångmaskinen förde med sig till industrin under den industriella revolutionen.

Spänningsfältet uppstår dock vid modellernas inbyggda felbarhet. Medan uppdiktade fakta i en vardaglig chatt bara skapar ett pinsamt ögonblick för användaren, kan dessa ”hallucinationer” på ett slagfält kosta oskyldiga liv. Forskare från Massachusetts Institute of Technology har slagit larm om det psykologiska tryck som kommer att ligga på militära ledare att blint lita på maskinens rekommendationer under extremt tidstryck.

Så gav krisen för ChatGPT en oväntad fördel till Claude

Den våldsamma mediastormen resulterade i omedelbara skakningar på marknaden för artificiell intelligens. När tusentals valde att radera sin vana assistent började jakten på ett mer försvarbart alternativ. Här framstod Claude som den uppenbara vinnaren, just för att skaparna hade tagit kampen mot militären.

Färska siffror från App Store vittnar om att applikationen rusade direkt till toppen redan lördagen och behöll sin ledarposition åtminstone fram till torsdagen. Marknadsanalytiker uppskattar rent av att företaget på en enda vecka skaffade en mängd nya användare som normalt skulle kräva flera månaders intensiv och dyr marknadsföring.

Parallellt exploderade en välorganiserad motståndskampanj på nätet. Under fanorna CancelChatGPT och QuitGPT uppmanades folk att lämna plattformen permanent tills varje omstritt samarbete avbrutits. Flera aktivister ser förloppet som det ultimata testet på om gräsrötter verkligen kan diktera teknikjättarnas göranden och låtanden.

Hela fadäsen förvandlades i praktiken till en gratis reklamkampanj för Anthropic under det starka, outtalade slagordet: ”vi gav inte efter”. På tongivande forum som Reddit och Hacker News debatterar utvecklare nu passionerat kring etik, medan en stor andel officiellt meddelar sitt skifte bort från den tidigare marknadsledaren.

Bör vanliga användare oroa sig för militära kontrakt?

För den genomsnittliga konsumenten kan dessa komplexa militäravtal verka oerhört avlägsna från vardagen. Sanningen är dock att de principer som fastställs idag i knutpunkter som Washington och Silicon Valley direkt dikterar kvaliteten och inriktningen på de funktioner vi alla har i fickan om några år.

Om språkmodeller primärt matas och tränas upp med strategisk försvarsdata kommer de oundvikligen att ärva den specifika branschens skarpa kanter och kognitiva snedvridningar. Visar det sig dessutom att regeringskontrakt är fullständigt immuna mot konsumentbojkotter kommer företagen framöver sannolikt att välja den säkra vinsten framför etiska begränsningar. Forskaren Mariarosaria Taddeo understryker att hela ekosystemets grundläggande säkerhet försvagas allvarligt när de mest ansvarstagande aktörerna pressas ut.

Detta är ett utmärkt tillfälle att noggrant läsa igenom de villkor som teknikföretagen dikterar. Vågar de definiera tydligt vem de delar sina kärnkapaciteter med? Även om missnöjda kunder aldrig kan ersätta formell lagstiftning skickar det en dånande signal om att trovärdighet idag är en hårdvaluta. Folket hos Center for American Progress pekar direkt på att dramat är en avgörande vink till Kongressen om att snarast ingripa mot militärens AI-användning.

Det blir allt svårare att navigera mellan önskan om snabb innovation och behovet av absolut säkerhet. Generativa algoritmer utvecklas i dödande takt, men bristen på tillförlitlighet i livskritiska situationer lurar som en mörk skugga. Skiljelinjen mellan en oskyldig digital assistent och en verklig medbeslutsfattare suddas ut minut för minut – och just nu utkämpas slaget om huruvida maskinen någonsin ska få sista ordet.