26.11.2017

Denne artikel er, som de andre indlæg i RÆSONs Kommentarserie, gratis. Fuld adgang til RÆSONs site kræver abonnement: Et årsabonnement (inklusiv 4 trykte magasiner sendt med posten og nye betalingsartikler hver uge) koster blot 250 kr., 200 for pensionister, 200 for studerende

_______

Skal en fremtidig konflikt kunne omfatte våbensystemer styret af kunstig intelligens – af NGO’erne døbt dræberrobotter – der uden konkrete kommandoer fra mennesker kan udvælge og bekæmpe mål? Eller skal en form for regulering sikre, at der altid er et menneske med mulighed og ansvar for at sikre, at angrebet overholder krigens love og er nødvendigt, rettet mod de rette mål, proportionalt og fornuftigt?

Kronik af Rune Saugmann, forsker i sikkerhedspolitik ved Universitetet i Tampere i Finland og formand for Danmark mod Landminer

I SIDSTE UGE diskuterede en ekspertgruppe under CCW, aftalekredsen med det mundrette navn ’konventionen om særlige konventionelle våben’, hvorvidt konventionens partnere skal regulere autonome våbensystemer. Autonomi kommer i mange versioner, men fokus er på våben, der kan udvælge og angribe mål uden menneskelig supervision eller godkendelse.

Vores nordiske naboer var både til stede og aktive ved sidste uges forhandlinger, mens Danmark glimrer ved sit fravær. Underligt, kunne man mene, når Danmark investerer massivt i avanceret militærteknologi – senest kampfly med en bred vifte af muligheder for automatisering – og deltager aktivt i militære koalitioner med verdens teknologisk førende militærmagt. På et eller andet tidspunkt vil man dermed sandsynligvis stå over for valget om at bruge eller få hjælp af autonome våbensystemer i fremtiden, selv hvis vi ikke selv anskaffer dem.

Vores nordiske naboer var både til stede og aktive ved sidste uges forhandlinger, mens Danmark glimrer ved sit fravær. Underligt, kunne man mene, når Danmark investerer massivt i avanceret militærteknologi – senest kampfly med en bred vifte af muligheder for automatisering – og deltager aktivt i militære koalitioner med verdens teknologisk førende militærmagt
_______

 

Mødet i Genève er det første under en ekspertgruppe nedsat af de lande, der er en del af CCW. Da det forberedende møde blev afholdt i 2016, havde AlphaGo, et computerprogram også kaldet en kunstig intelligens (AI) lige slået Lee Sedol, den spiller med flest internationale mesterskaber, i spillet ”GO”. Det Alphabet-ejede firma DeepMind, der er førende indenfor udvikling af kunstig intelligens, havde trænet AlphaGo på millioner af tidligere spil. Et par måneder før mødet i Genève har AlphaGo Zero, en ny version af intelligensen, der kun har trænet ved at spille mod sig selv, slået den 18 måneder gamle kunstige intelligens i 100 ud af 100 spil, og i processen udviklet helt nye træk som aldrig var set før. Så som Sean Legassick, lederen af DeepMind’s afdeling for etik og samfund, fortalte ekspertmødet i sidste uge, går udviklingen indenfor kunstig intelligens enormt hurtigt, og det er vanskeligt at forudsige, hvor længe vi kan vente, hvis vi ikke vil overraskes.

ANVENDELSEN AF kunstig intelligens i våbensystemer fører ikke direkte til Terminator – bl.a. fordi menneskelignende robotter er upraktiske, og menneskelige egenskaber som overblik og sund fornuft er enormt svære at simulere. Men det betyder ikke, at udviklingen ikke er i gang. Sydkorea har for nylig introduceret systemet Samsung SGR-A1, en autonom grænsebevogtningsrobot med kameraer og maskingevær. Den fungerer i samspil med en menneskelig kommandør og har ikke tilladelse til at angribe mål uden godkendelse, men den er allerede i brug ved den demilitariserede zone mellem Nord- og Sydkorea. I modsætning til automatiserede missilforsvarssystemer er det ikke missiler – letgenkendelige objekter i høj fart – den forsvarer mod, men mennesker der krydser en grænse – med alle de dilemmaer og muligheder for forvekslinger, det giver.

Sydkorea har for nylig introduceret systemet Samsung SGR-A1, en autonom grænse-bevogtningsrobot med kameraer og maskingevær. Den fungerer i samspil med en menneskelig kommandør og har ikke tilladelse til at angribe mål uden godkendelse, men den er allerede i brug ved den demilitariserede zone mellem Nord- og Sydkorea
_______

 

Når først de autonome våbensystemer er udviklet, vil det være ekstremt svært at rulle dem tilbage – både juridisk og teknologisk. Det er baggrunden for, at Elon Musk, tusindvis af forskere i kunstig intelligens og senest 100 grundlæggere af robot- og AI-virksomheder har anbefalet et præventivt forbud.
En af udfordringerne er nemlig, at software er hovedingrediensen i et autonomt våben. Software og andre digitale filer kan, som alle der levede i de tidlige 00’ere ved, kopieres, så det er ikke nødvendigvis sværere at udvikle en million ’dræberrobotter’, end det er at udvikle én, og hvis du har en million, behøver selve våbnet ikke at være særlig dødeligt. Derfor karakteriserede Stuart Russell, ekspert i kunstig intelligens og professor ved University of California, Berkley, autonome våbensystemer som ”potentielle masseødelæggelsesvåben”.

Brasilien blev det sidste land til at tilslutte sig NGO’ernes og AI-udviklernes anbefaling om et præventivt forbud mod autonome våbensystemer, så der nu er 22 lande der støtter et præventivt forbud. De alliancefrie lande (non-aligned countries) en gruppe, der omfatter over hundrede stater, var meget aktive fortalere for regulering af autonome våbensystemer, og det virker som om, der kommer en eller anden form for regulering, om det så bliver i eller ved siden af CCW. Gad vide hvad vi skal mene om det i Danmark? ■

Rune Saugmann er cand.scient.pol. fra Københavns Universitet og post-doctoral research fellow ved Universitetet i Tempere, Academy of Finland.

ILLUSTRATION: Samsung SGR-A1 [foto: Qinetiq/The Times]

_______

Denne artikel er, som de andre indlæg i RÆSONs Kommentarserie, gratis. Fuld adgang til RÆSONs site kræver abonnement: Et årsabonnement (inklusiv 4 trykte magasiner sendt med posten og nye betalingsartikler hver uge) koster blot 250 kr., 200 for pensionister, 200 for studerende