Portrettbilde av Morten Irgens

Morten Irgens

Portrettbilde av Christen Krogh

Christen Krogh

Våpen som bestemmer selv

Dødelige autonome våpen må forbys. Det haster. Og Norge må gå foran.

Samtiden spør

HVILKET FORSVAR TRENGER NORGE?

MORTEN: Krig har endret karakter og ser ikke lenger ut som krig. Derfor vil et angrep på Norge ikke først og fremst være et angrep på militære enheter. Og derfor må Forsvaret i fremtiden kunne håndtere elektronisk overvåking, opinionspåvirkning, cyberspionasje og -angrep, dronebruk, betydelig kortere responstid, henrettelser av nøkkelpersoner, med mer.

Samtiden spør

HVILKET FORSVAR TRENGER NORGE?

CHRISTEN: Norge trenger et effektivt og etisk forsvarlig forsvar. Det betyr at vi må benytte fortrinnene vi har med tanke på både innkjøp og utvikling av teknologi. Men uten å gå over grensen for hva som er etisk forsvarlig bruk av teknologi.

I 1974 kapitulerte Hiroo Onoda, løytnant i den keiserlige japanske armé. Han hadde holdt seg i skjul siden 1945 i fjellene på den filippinske øya Lubang, og var ikke klar over at annen verdenskrig var over. Da han kapitulerte, overga han riflen sin, 500 skudd, et sverd, flere håndgranater og en dolk han fikk av moren sin, slik at han kunne ta sitt eget liv hvis han ble tatt til fange. I 2020 jobber forsvarsindustrien i mange land, inkludert Norge, med å utvikle våpen som selv kan bestemme hva de skal gjøre – såkalte autonome våpen. Løytnant Hiroo Onoda fungerte helt autonomt, uten kontroll fra overordnede, da han holdt seg i skjul. Målet til forsvarsindustrien er å tilføre våpensystemer slik autonomi. Det gjør at de kan erstatte soldater i morgendagens konflikter. Interessen er skyhøy fordi autonome våpensystemer øker slagkraften til eksisterende våpen, muliggjør nye våpen og legger til rette for helt nye måter å utfolde makt på.

Mange er bekymret. I seks år har FNs våpenkonvensjon diskutert om autonome våpen skal reguleres, og i desember vil den gjøre opp status. Men konvensjonen krever at alle medlemslandene blir enige seg imellom, og skriften på veggen er tydelig:Verden får ingen avtale. Det gjør oss bekymret, og her skal vi fortelle hvorfor.

DØDELIG AUTONOMI

Begrepet «autonomi» har ulik betydning innen ulike fagfelt. I ingeniørfag betyr det oftest at en maskin eller et dataprogram kan operere uten menneskelig involvering. Mange av diskusjonene og artiklene om dødelige autonome våpen handler om drapsroboter. De gir et bilde av Terminator-lignende humanoide maskiner som opererer helt på egen hånd. Men det er ikke dette dødelige autonome våpen dreier seg om, ikke i dag og kanskje aldri. Autonomi er en egenskap ved systemer og maskiner. Dødelig autonome våpen har smal og lav autonomi. Autonomien er smal hvis den kun gjelder enkelte deler av systemene. Og den er lav hvis den gir et begrenset handlingsrom for systemene. For eksempel kan en drone ha autonomi i funksjoner som letting og landing, den kan fly en forhåndsbestemt rute, selv bestemme ruten den skal fly, og selv bestemme hva som er best rekognoseringsmønster for en gitt oppgave. Hvis den i tillegg kan velge ut mål og anvende dødelig makt på egen hånd, har den dødelig autonomi, og dronen er blitt et dødelig autonomt våpen.Vi sier den har autonomi i sine kritiske funksjoner – å velge ut mål og utføre et angrep.

Det amerikanske forsvaret definerer et dødelig autonomt våpensystem som et system som kan identifisere og angripe et mål uten menneskelige inngrep. Eksempler inkluderer raketten Joint Strike Missile fra Kongsberggruppen, som skal plasseres i norske F35-fly, den israelske dronen Harpy, som kan fly alene i timevis mens den leter etter radarsignaler før den angriper, og den russiske miniubåten Poseidon, som skal kunne frakte atomvåpen. Og hvis løytnant Onoda hadde vært en maskin, ville definisjonen til det amerikanske forsvarsdepartementet åpenbart omfattet ham.

Hvilke utfordringer innebærer dødelig autonomi? Vi skal belyse dette spørsmålet ut fra fire perspektiver: det operasjonelle perspektivet, sikkerhetsperspektivet, ansvarsperspektivet og avskyperspektivet.

DET OPERASJONELLE PERSPEKTIVET

Med økt bruk av dødelige autonome systemer gir den militære ledelsen fra seg kontroll i kommandokjeden. Dette fører til flere såkalte operasjonelle utfordringer, på grunn av de autonome systemenes egenskaper. Våpen som er dødelige for en motstander, kan være farlige også for brukeren eller medsoldater. Hvis en feil kopieres i andre autonome våpen av samme type, kan et stort antall autonome våpen angripe egne styrker eller sivile. Konsekvensene kan bli langt mer fatale enn ved bruk av konvensjonelle våpen.

Autonome systemer er raske fordi de overflødiggjør menneskenes beslutningsprosess. Dermed øker risikoen for raskere eskalering av konflikter og farlige dominoeffekter. Etablerte strategier for krisehåndtering poengterer at det er viktig å gi både seg selv og motparten god tid til å tolke andres signaler, men med autonome systemer vil ikke dette være mulig.

Beslutningsprosessene til autonome systemer skiller seg fra menneskelige kognitive prosesser. Det betyr at systemene opptrer på måter som er vanskelig eller umulig for mennesker å forstå eller forutsi, og at misforståelser kan oppstå. Hva ville for eksempel skjedd om både NATO og russerne utplasserte pilotløse kampfly langs den norsk-russiske grensen? Programvaren i moderne autonome systemer er umenneskelig komplisert, og atferden til våpnene i alle tenkelige tilfeller blir umulig å forutsi eller verifisere.

Som om dette ikke var nok, har komplisert teknologi ofte feil, og slike feil kan utnyttes. Konsekvensen av at autonome dødelige systemer hackes eller atferdsmanipuleres kan være enda mer alvorlig enn konsekvensen for andre systemer. I sum er disse utfordringene ikke bare operasjonelle, men politiske. Og våre egne autonome våpen kan lett vise seg å være farlige venner.

Har du allerede registrert deg? Logg inn

Les Samtiden.
For å forstå tiden du lever i

Vi analyserer og diskuterer de viktigste spørsmålene i en stadig mer kompleks verden

  • Norges ledende kulturtidsskrift siden 1890
  • Utkommer fire ganger i året på papir. Over 100 sider med dybdeartikler, essays, intervjuer, m.m.
  • Full tilgang til vårt digitale arkiv med tidligere numre.
  • Invitasjoner til våre arrangementer, nyhetsbrev, podkast, m.m.
  • Del tekstene våre med vennene dine

Vil du bare lese ferdig denne artikkelen?

Da må du registrere deg med en e-postadresse