Algoritmer fattar i allt högre grad våra tunga politiska och militära beslut. Forskare från Stanford University slår nu larm om att denna växande automatisering potentiellt kan eskalera fullständigt utom kontroll. I värsta fall kan det resultera i mycket mer än bara lokala konflikter och sluta i ett helt förgörande kärnvapenkrig.

Även om artificiell intelligens oftast förknippas med smarta chatbottar, roliga fotofilter eller riktad reklam, tar teknologin sig nu med rasande fart in på långt mer kritiska områden. Inom både sjukvården och försvaret handlar det plötsligt om människoliv. Just den militära tillämpningen får nu alarmklockor att ringa högt hos ledande säkerhetsspecialister i USA.

Forskaren Jacquelyn Schneiderová, som är knuten till Hoover Wargaming and Crisis Simulation vid Stanford University, har under en följd av år genomfört omfattande tester av algoritmers beteende under globala kriser. Experimenten bestod av simulerade konflikter med atommakter, däribland högspända scenarier mellan Ryssland och Ukraina samt Kina och Taiwan. Testresultaten var djupt oroande: Datorn valde oftast bort diplomatin till förmån för militär upptrappning, vilket i flera grenar av simuleringarna slutade med direkta kärnvapenattacker.

Under dessa kristester använde forskarteamet samma stora språkmodeller som allmänheten känner från vardagen, bland annat ChatGPT, Claude och Llama. Programmen fick i uppgift att rådge fiktiva regeringar, bedöma olika handlingsalternativ och utfärda strategiska riktlinjer. Här observerade Jacquelyn Schneiderová ett skrämmande och återkommande handlingsmönster som kastar en mörk skugga över jordens framtida säkerhet.

När algoritmen leker hårdkokt general

Istället för att söka fredliga kompromisser och prioritera civilbefolkningens överlevnad, visade maskinerna en markant tendens att välja nådelös maktanvändning. Detta inkluderade även en beredskap att trycka på den röda knappen. Forskarnas analyser drog direkta paralleller till den ökända amerikanska generalen Curtis LeMay, som vid upprepade tillfällen försökte framtvinga en kärnvapenattack på Sovjetunionen under kalla kriget, särskilt medan Kubakrisen rasade.

Att införliva en så aggressiv form av automatiserad diplomati i kommandocentraler utgör ett ofattbart hot mot världsfreden. En kodrad känner varken fruktan, sorg eller fasa, och den har ingen familj att förlora i en eventuell motattack. Den optimerar uteslutande sina lösningar utifrån kall data. Eftersom mänsklighetens samlade världshistoria främst präglas av vapenkapprustning och brutal avskräckning, är det knappast förvånande att ett program föreslår exakt dessa extrema metoder när det pressas.

Här stöter vi på en avgörande och ytterst farlig paradox. Utvecklarna strävar efter att skapa oerhört logiska och effektiva system. Men tittar man uteslutande på militärhistorisk statistik, framstår våldsamma och kortvariga angrepp ofta som extremt framgångsrika drag. Ett rent datadrivet program förbiser dock fullständigt de ofattbara mänskliga lidandena, traumana och långsiktiga ekologiska katastroferna som alltid följer med krig.

Människan har fortfarande makten – men hur länge?

Som svar på den växande kritiken och oron fasthåller Pentagon konsekvent att det slutgiltiga beslutet om avfyring av kärnvapen alltid kommer att förbli i människohänder. Tanken är att maskinerna uteslutande ska fungera som stödverktyg för ledningen, analysera komplexa hotbilder och presentera de bästa handlingsalternativen. I den verkliga, stressade världen är gränsen mellan en enkel mjukvarurekommendation och ett konkret beslut dock skrämmande flytande.

I takt med att våra försvarssystem blir mer och mer avancerade, ökar trycket för att låta teknologin överta kontrollen markant. Detta gäller i synnerhet under extrema krissituationer, där det bokstavligen bara finns några få sekunder att reagera på en fientlig missil. Formellt sett är det människan som trycker på knappen, men de lutar sig mot maskinens slutsatser.

Överlägsen hastighet: AI genomgår komplexa radar- och satellitbilder markant snabbare än ens de skickligaste analytikerna.
Blixtsnabba beräkningar: Datorn kan ställa upp och testa hundratals motsvarsalternativ på bråkdelar av en sekund.
Rädslan för att tveka: Hotet om att missa en överraskningsattack pressar försvaret mot en full automatisering.
Farligt blint förtroende: Utmattade och pressade officerare riskerar mycket lätt att okritiskt lita på skärmens rekommendationer.
Tidspress i modernt krig: Det rasande tempot på nutidens slagfält lämnar minimal tid för djupgående, mänsklig reflektion.
Krav på självkörande styrning: Framtidens avancerade vapen kräver en mycket hög grad av digital integration för att överhuvudtaget fungera.

Stormakternas algoritmiska vapenkapprustning

Det är långt ifrån bara USA som dessa år pumpar in svindlande miljarder i intelligent militärteknik. Kina och Ryssland betraktas idag som de absolut största konkurrenterna på den globala techmarknaden. Båda de mäktiga nationerna implementerar aggressivt lösningarna i sina arméer och talar helt öppet om teknikens överväldigande strategiska betydelse. Denna intensiva rivalitet skapar en farlig spiral, där rädslan för att förlora loppet fullständigt överskuggar alla rationella säkerhetshänsyn.

Mekanismen påminner kusligt mycket om kärnvapenkapprustningens tidiga start: Ingen vill stå svagast, även om den nya leksaken hotar att utplåna allt liv på jorden. Ju djupare de militära stormakterna integrerar sina kommandocentraler med automatiserade beräkningar, desto närmare rycker de digitala hjärnspöken kontrollen över de största vapenarsenalerna. Drömmen om total överlägsenhet sätter effektivt käppar i hjulet för varje internationell överenskommelse om begränsning av självstyrande dödsvapen.

Forskare från Massachusetts Institute of Technology och Stanford University understryker vid upprepade tillfällen att detta okontrollerade teknologiska lopp skapar en verklighet där ingen egentligen har tid att genomskåda de maskinella orderna. Som ett spikrakt bevis på eskaleringen höjde Pentagon enligt officiella källor sin budget för militär AI med inte mindre än 35 procent under 2023.

Så uppstår den digitala atomkatastrofen

Säkerhetsspecialister skisserar flera mardrömsscenarion där avancerad mjukvara oavsiktligt kan framkalla det ultimata kriget. Problemet är sällan att maskinerna plötsligt blir onda och handlar på egen hand, utan snarare att de skapar en kedjereaktion av fel, allvarliga missförstånd och överdriven auktoritetstro. Även om det sitter en människa med fingret på knappen, är det datorn som suveränt definierar fiendebilden för dem.

Om en modell matas med statistik som hyllar råstyrka och hot framför diplomati, kommer den logiskt sett att fortsätta på samma destruktiva spår. Föreställ dig detta: En militär radar uppfattar ett suddigt objekt. Programmet klassificerar det omedelbart som en inkommande missil och rekommenderar en motattack. Allt detta händer innan någon hinner bekräfta att det bara rörde sig om en ofarlig meteorit eller ett banalt hårdvarufel.

Därtill kommer risken för skräddarsydda cyberattacker. Ett team forskare från Princeton University presenterade nyligen en omfattande studie som visar hur hackare relativt enkelt kan manipulera försvarets nätverk. Genom att mata algoritmerna med påhittad data kan man framkalla en äkta motattack mot ett osynligt hot. Har generalerna väl vant sig vid att skärmen alltid talar sant, kommer de med stor sannolikhet att följa ordern blint när larmet till sist ljuder.

Är en fredsskapande AI överhuvudtaget möjlig?

Många av världens ledande techföretag och försvarsministerier talar högt och vitt om vikten av ”etisk programmering”. Den hårda sanningen är dock att det i nuläget inte finns någon säker kod som alltid prioriterar förhandlingsbordet. Språkmodeller bygger på stora mängder historisk text, och dessa arkiv svämmar över av lika många bombräder som fredsavtal.

Skickliga ingenjörer kan försöka lägga band på teknologin genom att bygga in strikta regler mot att föreslå massförstörelse. Tyvärr räcker dessa skyddsnät inte särskilt långt in i krigszonen. I en sluten militär miljö har de strategiska verktygen helt andra brutala prioriteringar än den oskyldiga kundservice-boten på internet. När en general plötsligt står mitt i en attack, förväntar han sig blixtsnabb överlägsenhet – inte en försiktig moralpredikan.

Ett internt system som är alltför mjäkigt kommer mycket snabbt att kasseras av generalerna som fullständigt oanvändbart. Skaparen av ChatGPT, företaget OpenAI, förbjuder i sina riktlinjer rent ut användningen av deras teknik för direkt krigföring. Utmaningen är bara att liknande och extremt kraftfulla program utvecklas av kinesiska Baidu och ryska Yandex, och hos dem existerar det sällan motsvarande moraliska begränsningar.

Därför ska vi ta varningarna på djupaste allvar

När snacket faller på teknikens faror fokuserar vi ofta på vardagens digitala fallgropar som välliknande deepfakes, farlig desinformation eller ångesten över att förlora våra jobb. Hotet om en självskapad atomvinter låter absurt och känns som något som hör hemma i en science fiction-film. Forskningen från Stanford University fastslår dock att den verkliga mardrömmen är långt mer subtil. Teknologin behöver inte alls bli självmedveten för att utrota mänskligheten.

I verkligheten kräver domedagen bara några dåliga beräkningar, felaktiga incitament och en handfull skräckslagna ledare som i panik överlämnar makten till en färggrann, maskingenererad graf. Resultaten av denna utveckling dikterar just nu morgondagens stora beslut.