Når droner dræber

Velkommen til Supertanker. Jeg hedder Carsten Ortmann. Algoritmer. Normale netværk. Billedkendkendelse. mønstergenkendelse og selvfølgelig de personligt tilpassede brugerflader på vores enheder, der tilbyder os muligheder, der ligner noget, vi godt kan lide. Kunstig intelligens sneer sig ind alle vegne. På telefonen, i bilen, På computeren, vores cykler og vores køkkenmaskiner. Og nu også på droner. Bomber.

På krigens område spiller kunstig intelligens og automatiserede, faktisk autonome systemer en stadig vigtigere rolle. Elektriske, akustiske, termiske, magnetiske og kemiske sensorer er... overalt på den moderne slagmark, krydret med mængder af billeder fra internettet, overvågningskameraer og billeder fra droner og fly. Tonsvis af terabyte. som umiddelbart er ubrugelige for den enkelte soldat på jorden. Men ikke for de såkaldte beslutningsstøttesystemer, kæmpemæssige kunstige intelligenser,

som processerer og sorterer al den data og støtter de mennesker, som trods alt stadig udgør den vigtigste komponent i krigen. Algoritmerne hjælper med at udpege og foreslå mål og dertil hørende passende våbensysteme. Våbensystemer, der med tilsvarende teknologi kan operere mere eller mindre autonomt på kamppladsen. Men hvad bliver der af den menneskelige soldaterne? Militære dyder, der sikrer, at krigen overholder krigens love?

Hvem har magten over de systemer og den data, der driver teknologien frem, og hvad er konsekvenserne af stigende autonomi hos våbensystemerne selv? Hvad kan den nyeste teknologi? Og hvad betyder det for menneskets rolle på nutidens og fremtidens kampplads?

Daniel Møller Ølgaard er jungt og PUD ved Forsvarsakademiets Institut for Militær Teknologi og chefredaktør for Scandinavian Journal of Military Studies. Velkommen til dig. Tusind tak. Du beskæftiger dig med militært isenkram, er det ikke rigtigt? Jo, og hvordan det bruges af mennesker. Og hvad er det for noget isenkram, du beskæftiger dig med, og de uddannelsesforløb, du kører for soldaterne?

Det er primært det, som NATO kalder emergerende og disruptive teknologier. Det vil sige teknologier, der er nye i organisationen, eller som er på vej og dermed ikke helt har. har gjort deres indtog i den militære organisation endnu. Og lige nu er det rigtig meget kunstig intelligens, men der er også en lille smule kvante, jeg er nysgerrig på. Men kunstig intelligens er det, jeg bruger 98% af min tid på. Har du en militær uddannelse, eller kommer du en anden sted fra uddannelsesbaggrundsmæssigt?

Jeg har en ganske normal PUD i statskundskab og et langt uddannelsesforløb i samfundsvidenskab bredt. Jeg har ikke engang været værnepligtig. Jeg blev kasseret, intet mindre. Samme her. Så nul militær erfaring på den. i den forstand. Og hvordan er du så kommet i gang med det arbejde, du laver i dag? Altså fordi det lyder som om, at du havde lidt en anden karriere måske i tankerne, da du startede på statskundskab. Eller hvad? Har du altid været interesseret i våben og sådan noget?

Jeg har i hvert fald altid været interesseret i international politik, og der er krig desværre bare en blivende og vigtig del af det. Så jeg har altid været interesseret i krig som politisk og social og kulturel fænomen, og dermed jo også...

våbenes rolle og nye våben. Så det er en langstragt interesse, men jeg skrev PUD om den humanitære verden, så er jo lidt det modsatte af at slå mennesker ihjel, men rent faktisk hjælpe dem til at få et bedre liv, ja. Ja, så det var jo et skift, men jeg stod jo... som de fleste andre med en Ph.D. og manglede et job, fordi der er ikke så mange jobs, når man har en Ph.D. i samfundsvidenskab eller humaniorer. Så jeg søgte en opslød stilling.

Og jeg var jo selvfølgelig draget af, at der var en masse penge på vej til forsvaret. Det lød som om, der var en masse forandringer undervejs. Der var en masse nye teknologier på vej ind i den militære organisation, på samme måde, som jeg jo i min forskning havde set det i de humanitære organisationer. Så jeg tog egentlig mit teoriapparat og mit metodeapparat, og så tog jeg det fra den humanitære til den militære sektor.

har jeg egentlig været ganske godt tilfreds med det valg siden. Og jeg er jo forsker, som jeg var i det civile, men så er mine studerende jo lidt anderledes, fordi de er jo officerer med op til 20 års militær erfaring og flere udsendelser i bagagen. Så det er jo en lidt anden... type studerende, jeg har, men arbejdsopgaverne er jo de samme. Men en del af den forskning, som du så bedriver på Forsvarsakademiet, den handler om de såkaldte

beslutningsstøttesystemer. Der er sådan en lang engelsk betalelse for det, den hedder Artificial Intelligence Enabled Decision Support Systems, forkortet AIDSS. Jeg tror bare, at vi er her i sammenhavn. Kommentaren for nemheds skyld kalder den beslutningssystemer. Men vil du ikke prøve at beskrive, hvad det er for en type af systemer, og lidt om, hvad det er for noget teknologi, der bliver brugt i dem? Jo.

Det er jo vigtigt at sige, at det er en meget bred palette af systemer, og der er jo ikke sådan en klar tekstbogsdefinition på, eller ordbogsdefinition på, hvad det er. Men for mig at se... er det en vigtig kategori at bruge, fordi det adskiller sig væsentligt fra noget af det, vi også skal snakke om i dag, som er autonome våbensystemer. Så det vi har at gøre med, når vi snakker AI-beslutningsstøttesystemer, det er ikke systemer, der tager beslutninger, men støtter.

menneskelige beslutninger. Og det kan de gøre på en lang række måder. I den militære sektor er den... Måske mest normale brug, det er for eksempel til brug ved analyse af overvågningsbilleder. For eksempel, hvis du skal finde en bestemt genstand, et skib, en køretøj eller et eller andet, så kan du træne en algoritme til at finde det på et overvågnings...

videofeed. Og som Robin Larpen? Spørgsmålstøren? Ansigtsgenkendelse, ja. I princippet. Det kræver jo sådan set bare, at dit videomaterial er skarp nok til, at du kan finde ham på det. Men det er jo også ting... Der er ikke erkendte objekter, men som falder uden for det normale. Så anormalitetsdetektion kalder man det. For eksempel hvis du har noget farvandsovervågning.

Så kunne det være interessant at have en algoritme, der kan se, hvornår der er et skib, der bevæger sig uden for det normale sejlmønster. Så kan programmet lige penge det for en menneskelig operatør, og så kan de undersøge lidt nærmere, hvad er det, der er på spil her. Så det er ikke et system, der tager noget beslutning om, hvad vi skal gøre ved det skib. Det er et system, der hjælper en operatør til at have en opmærksomhed på et eller andet bestemt i en kæmpe...

høstdak af data. Så finde nålen i høstdakken, kan man sige, er lidt populært, er det, det hjælper den menneskelige operatør med. Og hvad er fordelen med det? Når vi sidder som, eller når nogle mennesker, dine studerende med 20 års militær erfaring, når de sidder og skal træffe en beslutning, hvad er det så for en hjælp, hvad er det for en fordel, de får i at bruge de her systemer?

Jamen altså, helt kort så, at det skala i mængden af data, du kan bruge i din beslutningstagning, og så er det hastigheden, hvormed du kan tage din beslutning. Det er de... lad os kalde dem teoretiske fordele, som der er ved AI-beslutningsstøttesystemet. Og så er spørgsmålet jo, hvad gør de rent faktisk i praksis?

Og det er så en lille smule sværere at få greb om, men det ved jeg, vi kommer tilbage til. Men teoretisk er det skala i mængden af data, du kan overskue, og hastigheden, du kan tage dine beslutninger med.

Og der er et eksempel muligvis på det her, noget der hedder Project Maven, som du har nævnt for mig. Kan du ikke lige kort beskrive, hvad det går ud på, og hvordan det taler ind i det, du fortæller her? Jo, altså... Helt kort så er Project Maven et projekt, der er startet i Pentagon, oprindelig i samarbejde med Google. Men efter pres fra medarbejderne løb Google skrigende væk fra projektet i 2017 cirka.

Og så skubbede blandt andet Palantir og Amazon ind og tog over. Og oprindeligt var Maven smarts, eller Maven. Project Maven var et forsøg på at udvikle en billedgenkendelsesalgoritme, der kunne hjælpe amerikanerne med at finde ting på deres terabytes af overvågningsdata fra deres Predator og Reaper-droner i Pakistan og Afghanistan.

Så der var et helt konkret efterretningsproblem, man ville løse, og man lavede så et public-private partnership, et offentligt-privat partnerskab, for at udvikle en algoritme, der kunne hjælpe med det. Så på den måde er Maven i sin oprindelse et forsøg på at udvikle et militært efterretningsværktøj, eller lad os kalde det beslutningsstøttesystem, til at overskue en kæmpe datamængde, som de havde svært ved at finde operatører nok til at travle igennem den. manuelt.

Og nu har vi så talt en lille smule om det her med skala og hastighed og de fordele, som de her beslutningssystemer kan tilbyde til dem, der sidder et eller andet sted i headquarter med en ordentlig masse computerskærme og giver besked ud til nogle soldater. på en slagmark. Hvad er det for nogle fordele, det her giver ude på slagmarken? Altså lad os sige, skøttegravene i Ukraine.

Jamen altså, i teorien det samme. Hvis du kan få det her overblik i hovedkvarteret, så kan du jo også meget hurtigt kommunikere den viden ud til det, man kalder den militære fører, helt ude i den skarpe ende. Så det er jo selvfølgelig et centraliseret værktøj på mange måder. Det er ikke soldaten i skyttegraven, der sidder og laver det store overvågnings- og analysearbejde, men de får jo analysen og konklusionerne ned.

gennem kommandorækkerne fra hovedkvarteret. Så de får teoretisk set bedre og hurtigere information om, hvor de skal lægge deres vægt. Hvor skal de skyde hen? Hvor skal de bevæge sig hen? Hvor skal de ikke? vigtigst af alt bevæge sig hen. Så overblik, det man i fagsprog kalder situational awareness, som er den hellige graal inden for krigsførelse. Det er meget godt at vide, om der ligger en fjende med en lat maskinpistole om på den anden side af den sten der.

Vi skal byde velkommen til en gæst mere, Sune Witt, Ph.D.-stipendiat i filosofi på Aarhus Universitet. Og så er der jo altså ikke nogen hemmelighed, at du har været med til at tilrettelægge en række supertankerprogrammer i efteråret 23 og foråret 24. Men under alle omstændigheder, velkommen til dig. Velkommen igen.

Den forskning har i en overrække nu taget udgangspunkt i såkaldte autonome våbensystemer. Det har selvfølgelig også en forkortelse. Den hedder AWS, Autonomous Weapon Systems, går ud fra. Kan du ikke lige starte med, bare som udgangspunkt, at fortælle, hvad det er? Hvad er et autonomt våbensystem? Jo, et autonomt våbensystem, det er et system, der har autonomi i det, man kalder kritiske funktioner. Og kritiske funktioner er så defineret som...

Mål, udpegning eller forslag til mål. Forslag til, hvilke våben der kan bruges. Og også i sidste ende. engagering af målet. Det, der hedder at levere effekt i målet, altså at skyde fjenden. Og det er systemer, der, ligesom Daniel beskriver, er drevet af al den her sensordata. Det vil sige, det er systemer, der er både flyvende og sejlende og kørende.

måske også i rummet på sigt, ligesom kan opspore ud fra et bestemt mål, kan ligesom finde målet, kan måske overvåge målet, kan ændre parametrene for, hvornår det skal angribe eller modstå. for eksempel jamming, og så fordi det har de her autonome funktioner, kan det alligevel, hvad skal man sige, tage sit mål ud. Og det er systemet... Altså det kan selv aktivere en våben og skyde på...

Et mål. Det vil være sådan en bygning eller et menneske. Ja, lige præcis. Og der kan den så ændre tid og sted i forhold til, hvornår den bliver aktiveret. Og det er sådan ligesom det, man siger... udgør den her autonome del. Men autonomien betyder også, at der ikke er, om man så må sige, en menneskelig beslutning involveret i situationen.

Ja, det betyder, at du har et mål, som du sender våbnet afsted imod, eller systemet, og når det mål så er fundet, så er det ikke sådan noget med, at der skal et billede tilbage til en operatør, der så skal godkende, at nu er det det rigtige mål, så nu må du gerne skyde. Når den finder en russisk tank, så...

så skyder den den russiske tank. Så det er ligesom det, man siger, at den kan skyde uden den menneskelige operatør. Det er ligesom der, det kommer ind i billedet. Og hvilke militære fordele giver det? Jamen det giver de fordele, at det kan... altså tempo og skala og acceleration er sådan typisk nogle af de ting, man siger som kunstig intelligens kan bruges til. For det er selvfølgelig også algoritmer og kunstige intelligenser, de her systemer bliver brugt til. Det vil sige, man kan få

et meget mere effektivt angreb, fordi man ikke hele tiden skal sidde og godkende målet. Man kan få mange flere systemer på vingerne, fordi en af de helt store fordele ved de her systemer er, at de er ubemandede. Det vil sige, at man kan... De er meget, meget billigere, fordi der sidder ikke en fysisk krop inde i systemet. Så man kan designe dem på en helt anden måde, så de er meget billigere. Det vil sige, at du kan sende flere systemer afsted, og du kan sende dem afsted med højere hastighed.

Og de kan også finde en fjende, hvor et menneske måske ikke kunne finde fjenden, fordi de på en anden måde kan offre sig og tage nogle risikoer. Så potentialet er, og en af de ting, man gerne vil, er også at kunne sende meget, meget, hvad skal man sige, kapable systemer.

ind bag fjendens linjer, og så stadigvæk få en effekt. Og hvis den bliver skudt ned, så sender du bare en løb. Det er simpelthen noget andet end en jetjager med en pilot i og nogle maskingeværer og bomber eller missiler på. For det en F-35 kan...

koster kan du få. Altså ubeskriveligt mange mindre droner. Og det er heller ikke sådan, at et autonomt våbensystem nødvendigvis er en kæmpestor maskine. Det kan være meget, meget små. Droner, du kan købe i Elgiganten, spænd en sprængstof på, og hvis du så har det rigtige software. og du har nogenlunde afgrænset det, man kalder en killbox, altså tid og sted for et givet mål, så kan det være utroligt simpelt at sende det, man kalder et autonomt våben afsted.

Og så er der noget med, at de faktisk også, det kan jo selvfølgelig, at man programmerer dem til, det kan finde den optimale situation og beskyde et eller andet mål, så få civile eller andet uskyld. går tabt i processen. Ja, det er jo så en af de helt store potentiale ved, at de ligesom kan ændre tid og sted. Det er jo, at når den så har fundet sit mål og lavet sin target lock, eller hvad skal man sige, konstaterer, at nu er det rigtige sted, så kan den eventuelt...

vente med at skyde. Og det lyder lidt som nogle af de samme fordele, som Daniel beskriver omkring de her beslutningsstøtter. Jamen, det er faktisk meget det samme. Det hele er led i en meget, meget lang kæde. af beslutninger. Og man kan sige, hvis det er en kæde, der handler om at angribe et mål, så kan man kalde det en kill chain. Og der kan man sige, det autonome våbensystem, det er spidsen, det er helt ud, hvor...

eksplosiverne er, kan man sige. Og det, Daniel taler om, er så måske mere vejen derhen. Altså, hvilke mål skal vi have? Hvor er de henne? Hvordan kan vi nemlig komme til dem? Så det er en del af en helt lang proces. Ja, men man kan sige, at i militæret snakker man meget om det, der hedder ODA-lupet, og det er en måde at beskrive beslutningsprocessen på. Så ODA er en forkortelse for...

Observe, Orient, Decide, Act. Og man kan sige, at autonome våbensystemer relaterer sig jo rigtig meget til Decide og Act, og beslutningssystemerne relaterer sig rigtig meget til Observe, om i en vis grad også Orient. Så det er sådan forskellige... forskellige steder i beslutningsprocessen de virker.

sådan meget groft forenklet. Men det lyder jo på det, I to beskriver, som om teknologien kan overtage en meget, meget stor del af de militære overvejelser og handlinger, som hedtil har skulle træffes af mennesker, uden at det... nødvendigvis bliver ekstra effektivt af den grund, altså hvis vi skal hæve os en lille smule op i helikopteren fra selve kamppladden, så er der sådan et begreb, som går igen i dine forskning i dagene, nemlig teknopolitik.

som vi også skal ind på her. Hvad vil det sige, at noget er teknopolitisk, og hvordan spiller det ind i den forsvarspolitik, der bliver ført? Altså sådan helt overordnet, så er teknopolitik, det er politiske processer, der omkranser eller omhandler en eller anden form for teknologisk udvikling. Så det er de politiske debatter og diskussioner, vi har om, hvordan vi vil bruge teknologi i vores samfund. Og militær teknopolitik, det er jo så specifikt diskussioner om, hvordan vi vil bruge...

teknologi til at vinde den næste krig. Det er sådan et grundlæggende teknopolitiske emne, men det er også en måde at sige på, at oprustning, for eksempel, som er en proces, vi er i gang nu, militær oprustning, er ikke kun en cost-benefit-analyse af, vi kan ikke kun beskrive det som en cost-benefit-analyse af, hvilket våben er bedst til at opnå det her mål, fordi de to ting...

påvirker også hinanden på nogle gange uforudsigelige måder. Så det er det, man i akademia kalder en emergent proces, altså noget, der ligesom bliver skabt undervejs. Det er ikke noget, der er givet på forhånd. Det er ikke sådan, der er den rigtige løsning på vores problem. Nogle gange er det løsning, der skaber problemet. Nogle gange ender vi med en løsning, vi måske ikke kunne forestille os osv. Fordi det er politiske forhandlinger omkring...

Hvad er det, vi vil? Hvilke teknologier vil vi bruge? Hvordan vil vi bruge dem? Og i virkeligheden jo også, med hvilke begrænsninger? Og det skal vi jo også snakke om tidligere. Ja, for det lyder meget som hele den der diskussion, vi overhovedet har om AI og hvad vi kan bruge det til og hvordan osv.

Men altså inden det måske kan lyde som om teknologien er i færd med at overtage det hele, så lad os lige minde hinanden om, at der trods alt stadigvæk er... regler for hvordan og med hvilke midler en krig må udkæmpes, og at krig først og fremmest udkæmpes af mennesker, og det hører vi lige lidt om her.

Nogen vil muligvis hævde, at mennesket er krigerisk af natur. Krig og væbnet konflikt har i hvert fald altid været en del af den menneskelige civilisation. Og lige så længe der har været krig, har der været mere eller mindre klart formulerede normer og regler for, hvordan...

den retfærdige eller ærefulde krig skulle føres. For hoplidkrigerne, infanteriet i de antikke græske hærer, galt det for eksempel, at hvis man ikke var tæt nok på fjenden til at se det hvide i hans øjne, var kampen ikke ærefuld. Perserne. Med deres langbure og pile var derfor ikke blot ærkefjenden, deres metoder var simpelthen æreløse. Ære var en udtalt død, som han blandt andet hørte i filmen Gladiator forud for et stort tag.

Have my signal. Unleash hell. Hold the line. Stay with me. You find yourself alone, riding in green fields with the sun on your face. Do not be troubled. For you are in Elysium. And you're already dead. Brothers. What we do in life. Kirkefaderen Augustin skrev omkring år 420, at det er modpartens retfærdighed, der nøder den retfærdige til at føre krig.

Citatet stammer fra Augustins værk om Guds stad, og her ses altså indsatserne til, at en krig kan være uretfærdig eller retfærdig. At den kan være retfærdigt gjort. Hugo Grotius, hollandsk supertænker fra 1500- og 1600-tallet, der sammen med en håndfuld ligesindede bliver tilskrevet ideen om internationale lov, tager i sit hovedværk.

om retten i krig og fred fra 1625, udgangspunkt i, at det ligger dybt i den menneskelige biologi og natur, og ville opretholde sit eget liv, og derfor må selvforsvar være en medfødt menneskeret, som ingen konge eller lovgiver kan nægte noget menneske. Retten til selvforsvar er altså her fundamentet for at føre retfærdig krig. Vi spoler 300 år frem, for med oprettelsen af FN i 1945 blev kriterierne for den retfærdige krig stadfestet som lov i den såkaldte folkeret.

Det er ifølge folkeretten ulovligt at krænke et andet lands suverænitet, og derfor er de retfærdige begrundelser for at indtræde i en krig eller væbnet konflikt. kaldet jus ad bellum, latin for retfærdighed frem mod krig, bundet op på retten til selvforsvar, altså en statsret til at forsvare sit lands territorium og sin befolkning imod opfattende lidelser.

Reglerne for, hvordan man så lovligt eller retfærdigt kan føre krigen, kaldet jus en bello, altså retfærdighed i krig, knytter sig særligt til tre kriterier, nemlig militær nødvendighed, proportionalitet i magtanvendelsen og diskrimination mellem deltagere i krigen og civile. En hver magtudøvelse må have absolut militær nødvendighed og skal bidrage til at nedkæmpe.

eller stanse fjenden. En hver magtudøvelse skal desuden være proportionel med det mål, man ønsker at opnå med angrebet. Endelig skal der diskrimineres imellem legitime mål i krigen, altså kompatanter og... ikke kompetenter. Civile eller civil infrastruktur kan således aldrig være et lovligt mål for et angreb. De er illegitime mål. Hvad er der derimod ikke?

er en nødvendig del af folkeretten eller krigsførelse, er at fjenden skal miste livet. I dansk militærjargon hedder det for eksempel at levere effekt i målet, eller at bekæmpe målet til målet ændrer karakter, og det kan jo tilvejebringes på mange måder. I det hele taget er formålet med krigen, citat, at bringe fjenden i en så utånelig situation, at han opgiver sit forhævende, citatslut. Ingen af de formuleringer har som forudsætning, at mennesker skal miste livet.

Derfor er det en udbredt misforståelse, at krigens formål blot er at dræbe fjenden, og at soldater først og fremmest skal lære at slå ihjel. Fjendens liv er den ultimative pris, han kan betale, men det er ikke målet for krigen. Endelig er der just post bellum, som er retfærdighed efter krigen, og som handler om forpligtelsen til at genopbygge efter krigshandlingerne er bragt til ophør, men som også er genstand for nogen uenighed, også blandt jurister.

Ja, der er jo unægteligt sket en del siden de slag, hvor man ikke måtte slå nogen ihjel, uden at kunne se det hvide i deres øjne og gøre sig forestillinger om Elysium og hvad vi ellers hører i det der klip fra Gladiator. Lad os nu bare tage tilbage fra 2022, hvor du var med første gang og fortalte om de her autonome våbensystemer på de fire år, der er gået siden da.

Hvad har du da set af udviklingen inden for det felt, du beskæftiger dig med, altså de her autonome systemer? Altså jeg vil sige, for våbenproducenterne og dem, der udvikler softwaren, der tror jeg, man må snakke om en... en glidende udvikling, hvor man ligesom arbejder sig hen mod nogle systemer, der bliver mere og mere effektive. Men jeg vil også sige, som offentlighed, der står sådan for mit vedkommende halvt inde.

og som offentligheden helt udefra, tror jeg, man må sige, at der er sket en ret eksplosiv udvikling. Altså, krigen i Ukraine har gjort, at der ligesom er kommet kamera på, hvad de her især flyvende droner kan. Og det har også betydet en eksplosiv, altså et antal, man overhovedet ikke har set før. Det er tusind og tusindvis af droner, hver eneste dag, der går til i f.eks. krigen i Ukraine. Og det betyder, at der er en livestreaming.

af krigen, hvor man næsten kan, altså hvis man er ekspert, kan man næsten se den teknologiske forbedring live nærmest fra måned til måned. Fordi en af de ting, der også er sket, det er... at den tid, hvor et system er effektivt, den er blevet helt utrolig meget forkortet i f.eks. Ukraine. Men hvilke forbedringer hæfter du dig ved, eller ændringer, udviklinger siden 2022? Jamen, altså antallet.

Og fokus på, hvor mange piloter man uddanner. Mange af systemerne er jo nogen, hvor der også er en pilot, der sidder med et videokamera. Og det er blevet så utroligt udbredt. Altså hele militæruddannelsen, for f.eks. ukrainerne, har bare siden...

vi var her første gang, eller jeg var her første gang, hvor krigen lige var startet, og så til nu, altså flyttet sig utrolig meget over på, at de skal lære at flyve med droner, de skal lære at forsvare sig mod droner, de skal lære at høre, hvordan de lyder, de skal lære at...

bevæge sig i terrænet for at skyvle sig primært for droner og ikke for modstanderens soldater. Man ser jo masser af eksempler på, at både russiske og ukrainske soldater udtaler, at vi har slet ikke set fjenden. Vi har kun... hørt droner eller skudt droner ned. Og det er vigtigt at sige, det er jo ikke, fordi de alle sammen er autonome, men hvis man så sammenholder det med den økonomiske investering i kunstig intelligens fra de store militære.

så tror jeg også, man må sige, at autonomi er også der, hvor man gerne vil hen. I hvert fald muligheden for autonomi, så man har muligheden for hele tiden at kompensere for det, mennesket ikke kan. Og det bliver nu live-transporteret. Så sidder der nogen i et hovedkvarter og ser det, som om det var en film. Ja, de billeder bliver jo samlet op og selvfølgelig brugt til videre udvikling. Vi hørte jo faktisk præsident Trump fortælle om, hvordan han havde overvåget tilfangetagelsen af Maduro.

Nævnte, at det var ligesom at se en film i fjernsynet. Ja, lige præcis. Og de her billeder bliver også brugt til at, hvad skal man sige, på forskellige måder motivere soldaterne til... at kæmpe på bedre måder, altså der bliver ført regnskab og sådan noget. Men det har ikke så meget med autonomi i våbensystemet at gøre. Daniel?

Jeg synes, det er vigtigt at sige her, at det her med autonomi, det er en strategisk vision for Ukraine. Men det er også helt tydeligt, når man kigger på krigen i Ukraine, at det er en vision, der er utrolig svær for dem at opnå, selvom de i de sidste fire år har eksperimenteret dagligt med at opnå det.

De her systemer er gået fra at være... Altså, vi skal ikke forestille os en dræberobot i fremtidig krig, der er meget sofistikeret og high-tech. Det er low-tech, det er tilgængelige, billige systemer, der bliver sat sammen på nye måder, og de er sårbare. De er sårbare over for fejl.

i systemerne, men de er også sårbare over for modstanderens forsøg på at snyde dem. Så vi skal ikke forestille os dræberobotter som et eller andet højteknologisk vidunder. Det er lavteknologiske redskaber, som Ukraine eksperimenterer med. og få til at give en eller anden operativ effekt. Men det er altså stadigvæk sådan, at det er en vision for Ukraine.

På kamppladsen foretrækker de stadig menneskelige piloter, netop fordi systemerne stadig er sårbare og fejlbarelige. Og det er jo, som du er inde på her, ikke heldigvis stadigvæk mennesker, der skal træffe de afgørende beslutninger, og som skal overholde internationale. lovgivning også, når bomberne flyver og mørerne på dem. De vigtigste kriterier er stadigvæk militær nødvendighed, proportionalitet og diskriminationer mellem lovlige og ulovlige mål.

De her beslutningsstøttesystemer, som du forsker i, Daniel, hvordan kan de hjælpe soldaterne herude på Slagmang? Og hvornår kan man måske snakke om faktisk, at de ikke kan hjælpe? Jamen altså, vi kunne jo godt... Snak meget om, hvor de kan hjælpe. Det har vi jo allerede snakket lidt om, det her med, hvor meget data kan du overskue, hvor hurtigt kan du tage dine beslutninger. Skalaen gør jo i teorien, at din beslutning bliver mere legitim, fordi du har mere information.

der ligger til grund for din beslutning. Og hastigheden er jo en fordel, fordi du altid tager beslutninger i konkurrence med en modstander. Så jo hurtigere du tager den, større chance for, at det er dig, der står tilbage levende. Men man kan sige, der hvor det virkelig bliver...

bliver spicy, det er i forhold til det her med, hvad vil det sige, hvad betyder det her for den militære profession? Hvad vil det sige at være soldat og særligt officer, det vil sige ansvarlig beslutningstager, i en krigssituation? Fordi der kan hastighed jo også blive et problem. Fordi jo hurtigere du skal tage en beslutning, og jo hurtigere du har mulighed for at tage en beslutning, jo mere pres ligger det jo også på den menneskelige beslutningstager. Fordi de bliver flaskehalsen.

De bliver flaskehalsen for hastigheden. De bliver det moment i beslutningskæden, der sænker processen. Og vi taler sekunder her? Ja, i visse tilfælde. heldigvis i mange andre tilfælde, noget længere tid. Men det at have mulighed for at tage en beslutning hurtigere, ligger jo alt andet lige pres på det menneske i den beslutningskæde, der så uværligt kommer til at være den, der sænker.

Og hvad betyder det så for soldaternes evne til at handle ansvarligt med mådehold og ud fra retfærdighedsprincipper? Det er jo så det store spørgsmål. Ja, og så sker der også det, som er et ord, du har lært mig forud for den her udsendelse, nemlig det, du kalder moral descilling, altså at den der hastighed...

På en eller anden måde, for at få de udførende soldater til at træffe beslutninger baseret på noget info, de får uden nødvendigvis at konsultere deres moralske kompas inden. Kan du sige lidt om det? Det her argument med diskælling er sådan set et ret veletableret dynamik, som man kender fra årtiers forskning i andre sektorer end den liten militære. Så sådan en praktisk diskælling, det betyder sådan set bare, at når vi automatiserer processer, så bliver vi dårligere til selv.

så har vi ikke den sked mere, kan man sige. For eksempel, du bliver dårligere til at finde vej i en storby, hvis du bruger Google Maps hele tiden. Det er de-skilling. Moral de-skilling, det er jo sådan, at det går ind og ændrer dit moralske kompas eller skaber bobler. i dit moralske kompas, som jeg så det beskrevet fornyeligt. Altså at både du bliver dårligere til at huske, hvad er det nu de moralske spilleregler eller juridiske spilleregler er, men også, og det er i virkeligheden...

måske den effekt, jeg er endnu mere nysgerrig på, også at du tænker mindre om din egen vigtighed som moralsk agent eller aktør i en militær beslutningsproces. At du over tid vil uddelegere så meget tillid. eller blind tillid, kunne man også frygte, til nogle af de her beslutningsstøttesystemer, at du de facto bliver et gummistempel, selvom du juridisk stadig er human in the loop, og dermed den, der er ansvarlig for den beslutning, der ender med at blive truffet.

Også selvom den beslutning måtte være ulovlig eller forkert. Og så er vi jo inde i filosofiens domæne her, Sune, fordi, og nu kan man sige, at militære dyder er et meget bredt felt, og nogle af dem er måske også mere håndværk eller egenskaber, så det giver ikke mening her og nu at gå ind i at opløse. specifikke militære dyder, men når vi snakker om dyder og udøvelse af de rette egenskaber, så lugter det, som Daniel fortæller om her, jo unægteligt af dydsetik, Aristoteles. Er det der, vi er?

Ja, altså der er sådan en kliché i filosofi, at... at bøger og opgaver typisk sådan på de lidt lavere niveauer i uddannelsen typisk starter med sådan noget lige siden Platon, eller dating back to Aristotle. Altså man tager sådan nogle helt gamle begreber op for ligesom at gøre sin egen. tekster sådan lidt mere præsentøse. Ja, præcis. Og derfor så tænkte jeg, at jeg ikke engang skulle til at undersøge det her med militært yder. Så tænkte jeg, at nu må jeg simpelthen prøve at...

at lade være med ligesom at tage udgangspunkt i Aristoteles, fordi det er længe siden, osv. Så jeg prøvede ligesom at gribe fat i noget moderne litteratur. For eksempel fra 2019, hvor der kom en antologi om militære dyder, skrevet af forskellige forfatter, akademikere, militærfolk osv., hvor jeg tænkte, at det her må være... Det er moderne. Ja, og nu kan man næsten regne ud, hvad den første linje er, nemlig, hvad kan Aristoteles lære en jægersoldat?

Så det er dydsetik. Det er aristotelisk et dydsetik. Og det giver rigtig god mening, fordi den går netop ud på at sige, at der er nogle karaktertræk, der er nogle evner. som vi godt ved, vi gerne vil have, men som ikke nødvendigvis er medfødte. Og for eksempel, nu nævner Dalen nogle af dem, altså retfærdighed, modehold, tapperhed og visdom. Det er sådan nogle helt, helt klassiske, som også gælder i militæret i dag. Og man kan sige...

Hvis de ikke er medfødte, så er de nogen, der skal trænes. Og ideen er her, at moralsk dygtighed, det er ikke noget, man kan opnå ved bare at følge regler. Det skal trænes sådan, at det bliver en stabil tilstand hos et menneske at kunne de her ting og kunne genkende det.

Og der bliver det der digeskilling noget træls noget. Lige præcis, fordi den dydige karakter bliver så garanten for de rigtige handlinger, og ikke bare reglerne. Og det er det jo klart, som Daniel siger, hvis der så er nogle egenskaber, hvis der er nogle funktioner, man tager ud af den militære...

uddannelse og den militære beslutningsproces, så er det jo klart, så lærer soldaterne jo ikke at genkende det. Og det er jo det, soldater gør tit, når de træner. Nu skal jeg ikke mansplain, hvad soldaternes formål er. Det er jeg ikke kompetent til, men en... Del af det er jo at genkende scenarier.

og gentage dem, sådan at det sidder på ryggraden, hvad det er, man gør i de her forskellige situationer. Fordi gudskelov er det ikke noget, man kan fra fødslen at vide, hvornår man skal springe for livet, og hvornår man ikke skal springe for livet. Altså gudskelov, så er den militær. Domæne er stadigvæk ekstremt farligt og meget, meget særligt fra...

fra resten af verden, så at sige. Det vil sige, at de her evner, som de officerer, som Daniel og hans kolleger uddanner, de er nødt til at træne det, de er nødt til at genkende det, de er nødt til at have det på ryggraden. Og det er jo det, dydsetikken kan. Daniel? Og det er jo også vigtigt at sige her, at...

kunstig intelligens eller ej, så vil det moralske og de juridiske principper, der ligesom styrer, hvordan man må gå i krig, de er altid og vil altid være under pres i en krigssituation. Men det er også derfor, at det er kodet. og rutiniseret ind i soldaters uddannelse, at alt de gør, er sourced ind i de folkeretslige principper. Det skal simpelthen ligge på ryggraden, så det kan godt være, hvis du spørger en soldat,

Hvad er det, hvorfor gjorde du sådan og sådan? Så er det ikke sikkert, at de nævner, jamen det er jo de folkeretslige principper, men det er simpelthen, det er lagt ind i den praksis og måde, man gør tingene på. Så når måden, man gør tingene på, er under general forandring. så vil det alt andet lige også gøre, at man skal gentænke, hvordan man beskytter de her moralske, men også juridiske.

principper. Og det bliver jo ekstremt vigtigt, når vi taler om, at beslutninger med hjælp fra de her beslutningssystemer skal tages af en menneskelig aktør på under et minut. Lad os sige, det som tidsramme. Ja, præcis. Yeah

Men altså en ting er, at de her mere eller mindre autonome systemer i de forskellige dele af forsvaret kan føre til tab af de egenskaber, både konkrete og moralske. Men der er så også en meget høj grad af teknopolitik. boutique E. hvem der leverer de her systemer. Så hvis man ser på det ud fra politiske alliancer, og hvilke data, der kan levere, så måske ikke mindst, hvem der har muligheden for at indsamle de data. Hvad er det så for et felt?

vi begynder at komme ind i, Daniel. Altså spørgsmålet om, hvilke kurve vi lægger vores æg i. Altså, virkeligheden er, at de firmaer, der kan levere... de her beslutningsstøttesystemer, det er i høj grad amerikanske tech-virksomheder, og særligt en, som hedder Palantir, som har haft enormt succes med at positionere sig som markedsførende på at levere... efterretningsanalyseværktøjer baseret på kunstig intelligens, både til politi, Ridspolitiet herhjemme.

bruger en Gotham-baseret Palantir-platform, der hedder Polintel, men jo også til vores gode venner i NATO og i USA osv., som vi ved har indkøbt Palantir-udviklet beslutningsstøttesystemer til brug i deres operative hovedkvarterer. Og her er det måske relevant lige at indskyde, at Palantir er ejet af den forretningsmand, der hedder Peter Thiel. Hvis ikke jeg tager meget fejl. Han er i hvert fald en hovedinvestor. Ja.

og som jo er en alt andet lige meget ideologisk spiller i det her spil. Altså, hvad betyder det, at... Ja, det her military tech complex, som er noget, man taler om, faktisk også har ideologiske komponenter, som på den måde der... Det betyder jo, at det, vi kalder teknopolitik, som vi normalt har...

Set som noget, der foregik i de kendte politiske kontekster. Folketinget, regeringen, interesseorganisationer osv. Der bliver de her virksomheder jo også ikke bare en økonomisk aktør, men en ideologisk. som er med i den proces, eller den... skal vi sige, forhandling om, hvad skal fortællingen om fremtidens krig være, og hvad for nogle teknologier bliver afgørende. Så det vil sige, det er en ny virkelighed for forsvaret og NATO og alle vores andre.

mere eller mindre venner, at vi skal opfatte de her virksomheder ikke bare som nogen, der har økonomiske interesser, men måske også som nogle aktører, der faktisk har ideologiske interesser. Og det er nyt. Industrisamarbejde er ikke nyt, men den her forståelse af private aktører og virksomhedsaktører som ideologiske spillere, det tror jeg ikke.

forsvaret er klar på. Men har vi mulighed for at sikre, at deres ideologiske overbevisninger ikke bliver kodet ind i nogle af de algoritmer, der styrer de her systemer? Og har vi mulighed for at begrænse, hvor meget en... en enkelt virksomhed faktisk får adgang til nogle data, som er, hvad skal man sige, nationale hemmeligheder eller militære hemmeligheder? Og det er jo det helt store spørgsmål, fordi hvis du spørger Palantires...

PA, Public Affairs-afdeling her i Norden, så siger de, vi har intet med Peter Thiel at gøre. Der er fuld adskillelse. Så det kommer jo an på, hvem du spørger. For mig er det sådan et lidt mere åbent spørgsmål. Jeg tror, det er desværre...

nok først noget, vi ved, når vi kigger tilbage på det her teknologiske eksperiment, som det på mange måder er. Hvad er konsekvenserne af det? Og vi kan måske se det i Ukraine, når krigen stopper. Hvad er det for nogle afhængigheder? Hvad er det for en pris, de kommer til at betale? for i et eller andet omfang, særligt tidligt i krigen, at have baseret det meste af deres digitale militære infrastruktur på amerikanske techfirmaer med base i blandt andet Silicon Valley. Men grundlæggende...

Aner vi det ikke, men vi kan spekulere, og vi skal helt klart holde vågnet øje med det.

Jeg synes, det er en ret vild udvikling med de her amerikanske tech-virksomheder, fordi nu tager jeg lige handsken op fra det der med Ukraine, fordi på den ene side, så kan jeg sidde, hvis jeg nu tager udgangspunkt i mig selv, så kan jeg sidde om formiddagen som forsker, så kan jeg læse, en meget, meget dygtig, researchet akademisk bog om, hvordan Palantir og Starlink, altså Elon Musk, nærmest...

Og de to er jo gamle kammerater, Peter Thiel og Elon Musk. Og måske ikke lige fremreddet Ukraine, i hvert fald stillede nogle systemer til rådighed meget, meget tidligt, der gjorde, at ukrainerne kunne få et informationsbillede, som var så godt, at de... den dag i dag holder stand. Det var Starlink, ikke? Jo, Starlink og Palantirs software.

Men det er de samme personer. Altså Elon Musk, det er så den samme person, så når jeg så sidder i bussen på vejen hjem, så kan jeg så se et billede af Trumps indsættelse, hvor han hejler eller ikke hejler eller provokerer eller... troller eller hvad han gør. Og så kan jeg så i aften gå hjem på X, hvor han så udtaler nogle ekstremt højorienterede ting, og han laver en chatbot, der kan alt muligt ting. Og på den samme måde med...

En af hovedpersonerne i Palantir, Alex Karp, som på den ene side også var en af de allerførste erhvervsledere i Ukraine, og hjalp og gjorde alle mulige gode ting. Og så på den samme YouTube-video, så kan han så sidde og...

Altså for det blotte øje, opfører sig fuldstændig, som om han er faktisk på stoffer, og bliver grint af, og bliver gjort nej, og siger nogle ekstremt provokerende ting, og kommer lidt op og skændes med et paneldebat. Og jeg kan godt få sådan en, altså jeg tænker sådan på Luke-figuren. fra den nordiske mytologi, som er halvt jætte og halvt asse, som er ekstremt kompetent, ekstremt fascinerende, ekstremt dragende, overtalende.

men som vi på en eller anden måde ikke rigtig ved, hvor vi har. Altså helt vildt uterrenelige dybet. Også uterrenelige, fordi hvor har vi de her firmaer? Fordi de har nogle ekstreme... Altså ekstrem indflydelse. Og de kom også ind i det militære kompleks sådan lidt, jeg vil ikke sige omveje, men der er nogle for eksempel amerikanske specialstyrker, som er...

selvopererende på den måde, at de må godt købe systemer, som ikke nødvendigvis behøver at gælde for hele det amerikanske militær. Det vil sige, der kan Palantir så komme ind med et system, som de så sammen med de øverste kommandererne i den... specifikke enhed kan udvikle på. Og det kan jo være godt nok. Jeg står ikke her og siger, at det nødvendigvis er dårligt. Men vi ender i en situation, hvor man tænker, er de civile? Er de militære? Er de leverandører?

af de beslutningstager, altså det er virkelig, virkelig vildt. Direktøren for Regnmetal, er der ingen, der ved, hvem er? For hvad, undskyld? Regnmetal, der laver maskiner, altså kampvogne, altså... Den gode gammeldags militære industrielle kompleks. Men de her tech-ledere, det er bare et helt andet spil. Og nu kan man jo godt høre, at du ikke har mange roser til over os for nogle af de her enkeltpersoner, Mosk og Thiel og Karp og dem. Altså, er der andre end...

dig, der ligesom holder øje med det her og siger, uh, der er noget, vi skal være forsigtige med her. Altså, hvem styrer nogle af de systemer? Jamen altså, det er jo politikerne et eller andet sted, og det er jo nogle organisationer som måske FN, og der er nogle regler for, hvordan man må indgå forsvarskontrakter og sådan noget. Men det er ikke noget, jeg ved noget om. Det er ekstremt komplekst, må jeg sige. Daniel?

For mig er det her jo først og fremmest også noget, der kædes sammen med hele den her større europæiske diskussion om sekssouveränitet. Nu hever jeg Ukraine frem som skrammeksemplet, men Ukraine er måske også en fortælling om håb, fordi nu sagde jeg, at de var afhængige af amerikanske firmaer tidligt i krigen. Men de indså jo så, måske da Mosk valgte at slukke for Starling-forbindelsen på et tidspunkt, at...

Måske er det ret dumt at være så afhængig af de her rigmænd, der sidder på den anden side af kloden med skiftende politiske agendaer. Måske skal vi udvikle vores eget. Og det har de så gjort. Det hedder Delta. Og det er et meget, meget kompatibelt operativt støttesystem med AI-funktionalitet i sig også.

Det, der ligesom bliver interessant at følge her, det er nu, hvor USA, selv hvis du ikke køber idéen om de ideologiske aktører, så er det bare sådan, at USA er nævnt som en mulig modstander i FE's seneste trusselsvurdering. Så selv hvis du ikke køber ind på den ideologiske fortælling, så er det jo i hvert fald andet andet lige amerikanske selskaber. Og hvad betyder det så i forhold til hele den her, både regeringens, men også EU's...

målsætning om europæisk og dansk tekstsouveränitet. Skal vi så gøre mere som Ukraine, der i hvert fald tyder det på, har udviklet sit eget? Så der, jeg tror... Jeg er eddermame glad for, at jeg ikke sidder med den beslutning som dansk politiker, fordi det stiller os over for et kæmpe dilemma. Skal vi købe løsninger for de firmaer, som er amerikanske, som har mest erfaring på det her område, og som NATO jo?

i øvrigt lige har indkøbt, eller skal vi gå en anden vej? Og det er et kæmpe catch 22, tror jeg for dem. Det er også et spørgsmål om data. Altså som Daniel siger, hvem er det, der har de data? der er relevante. Hvem er det, der har trænet de her systemer i realistiske scenarier? Og der er igen det her midt i de samme firmaer. Daniel nævnte også Google og Amazon tidligere. Det er jo firmaer, der har ekstremt meget data, som de har nogle algoritmer, der kan sortere.

Og den sortering er jo ikke nødvendigvis militær eller civil. Det vil sige, at du kan godt have noget civil data, som du kan bruge til at træne militært system. Altså hvis du bare kalder de samme datapunkter noget andet. Altså ikke, at de nødvendigvis bliver misbrugt. Det er jo ikke nødvendigvis dårligt.

Altså, ja, så der er også det her med, hvem der kan levere de der mange data. Jeg er nødt til lige at skyde et spørgsmål ind, nemlig, altså det forsværger mig, jeg har hørt fra relativt nylig, at EU har indforskrevet ukrainer til netop at hjælpe med at udvikle sådan nogle systemer der.

Og det er så selvfølgelig et spørgsmål, om vi kan få adgang til de data, som ligger til grund for de amerikanske systemer, som vi hed til har benyttet. Men det kan være, at du kan svare på det, Daniel. Er det noget, du kender noget til? Altså, det der er sket inden for de sidste...

bare fem år. Det er, at der er kommet en opmærksomhed, både i NATO og i det danske forsøg, om, at vi skal eje det data, der indsamles og bruges til at fintune og træne de her modeller. Men der er jo selvfølgelig en masse data. offentligt tilgængelig data, der bliver brugt til at træne de her grundmodeller. Men der er en opmærksomhed om dataejerskaber, og det er positivt. Det, der er meget mere krødret, det er, hvem ejer så modellerne? Altså algoritmerne, der så...

analyserer og tykker det her data. Og det er firmaerne jo selvfølgelig meget mere mindre villige til at afgive ejerskab over, fordi det er hele deres forretningsværdi. Det er de modeller, der giver dem deres forretningsværdi.

Så et er, hvem ejer dataerne? Det er et spørgsmål, vi har diskuteret i 10 år, og måske på en eller anden måde har taget nogle vigtige skridt. Men det næste spørgsmål er så bare, hvem ejer så modellerne? Og hvad betyder dataen, hvis der er nogen, der bare kan slukke for modellen? Så kan du jo ikke bruge dataen.

noget. Men her lyder det så som om, at ukrainerne faktisk har fundet en vej rundt om det, og den kan EU muligvis arve noget af. Måske er det også en fortælling om håb i virkeligheden. Det er super tanker med Sunie, Daniel og en rimelig målløs Karsten og nogle meget avancerede maskiner, der udkæmper krig uden menneskelig indblanding og muligvis styret af nogle ideologer, som vi ikke...

potentielt hele tiden er enige med i yderste konsekvens. Altså, hvis man har set de legendariske Terminator-film med Arnold Schwarzenegger som fremtidens robotkriger, der bliver sendt tilbage i tid for at dræbe en modstandsbevægelse, før den bliver født, så kan man måske huske, at han bliver sendt af robotter fra en fremtid, hvor robotter bekæmper robotter og mennesker bliver slagtet i processen.

Et hypotetisk scenarie, i hvert fald i mit hoved, kunne være slagmarker, hvor robotter bekæmper robotter og smadrer infrastruktur ind til den ene part vinder, mens mennesker sidder passivt tilbage og venter på, at kampen bliver afgjort eller får et missil i hovedet. Lyder det? Sune og Daniel, som noget, der kunne være en fremtid for jer at se. Altså det her med robotter, der er ude på slagmarken, og vi mennesker, vi bliver bare hjemme. Daniel.

Altså, hvis jeg skal være lidt provokeret, så kan man sige, at det er faktisk nutid, fordi i Ukraine har du en frontlinje med en bredde på cirka 15-20 kilometer, hvor det primært er droner, der skyder mod droner. Der er stort set ikke nogen.

menneskelige soldater. Så set med det snævre perspektiv, så kan man sige, at robotkrigen er her allerede. Men det, der også er sket... Ja, der bliver jo stadigvæk bombet civile mål. Det er nemlig så den næste pointe. Fordi hvad sker der, når frontlinjen er fastlåst?

og det kun er krig mellem robotter, jamen Rusland har jo så bare flyttet deres vægt bag ved frontlinjen, og tæppebomber så civile i ukrainske byer. Og det er desværre, når vi snakker krigens natur, en grum sandhed ved krig, at krig er kun et politisk...

effektivt værktøj, så længe der er trussel om tab af menneskeliv eller tab af menneskeliv. Det er simpelthen ikke et politisk effektivt værktøj, hvis det bare er nogle robotter, du mister, som du kan bygge igen. Heller ikke tab af instrumentstrukturer, som... besværliggør eller ulideliggør den menneskelige eksistens på territoriet? Det er selvfølgelig en vigtig del af det, men truslen om vold og truslen om vold mod menneskekroppe er en helt indgrovet del af krigens desværre.

bruge rolle som militært værktøj. Så for min, og det er sådan en fortærsket, krigens karakter kan godt ændre sig, men krigens natur... den ændrer sig enten meget langsomt eller slet ikke. Så jeg tror ikke på, at selvom vi godt kan se isolerede situationer, hvor robotter kæmper mod robotter, så vil krig desværre også i fremtiden. være voldrettet mod mennesker af mennesker. Ja, man kan sige, en del af...

En del af fantasien eller løftet fra de her især autonome våbensystemer, de her meget præcise droner og sådan noget, har jo været i de sidste 10-20 år en idé om en meget præcis krig.

En idé om en krig med mindre vold, fordi man laver præcisionsangreb. En hurtigere krig, fordi det går hurtigere. Og sådan nogle ting, som man har ligesom... ligesom lavet sådan et narrativ om en nålestikskrig, altså man kunne for eksempel nedkæmpe terrorister i Irak og Afghanistan og Pakistan og Somalia ved at lave sådan nogle nedslag, hvor man ligesom kapper hovedet af dragen, og det har ligesom været sådan en fantasi.

På den anden side, så må vi sige, at i går, måske var det i forgårs, der så jeg, at nu har krigen i Ukraine varet længere tid end den store fæderlandskrig, altså 2. verdenskrig for russernes side. Og jeg skal love for, at der er masser af maskiner, der slår maskiner ihjel, som Daniel beskriver, så man kan sige, at den der fantasi har i hvert fald ikke fundet sin form endnu. Fantasien om, at det bliver hurtigt overstået? Ja, lige præcis.

Og jeg vil bare indskyde, hvis vi kigger et andet sted hen, vi ikke har snakket meget om Gaza for eksempel. Altså IDF, det israelske forsvar, er jo et af de forsvar i verden, der har været... allerlængst fremme på den her bølge af brug af AI beslutningsstøttesystemer, og de har brugt dem.

flittigt i deres krig i Gaza. Men det betyder jo ikke, at vi ser et meget lille antal civile tab, snart tværtimod. Så der er ikke noget, der tyder på, at krig bliver hverken kortere eller mindre blodigt, når man anvender de her. her AI-systemer. Men er det så fordi, at der allerede er en lidt for høj grad af den her moral descilling, som vi var inde på, at nogle af de...

fodfolk, der så bliver sendt ind i de krigszoner der, at de opfører sig rent udsagt af røven til? Det er vidne om, at nye teknologier ikke i sig selv skaber forandring. Det gør de kun i samspil med skiftende politiske prioriteringer, strategisk kultur og hvad vi ellers har. Det sker i samspil med menneskelige beslutninger og værdier. Teknologi skaber ikke forandring i sig selv, hverken i vores samfund bredt eller i krigsførsel. Og en af de ting, man også kan sige, det er måske, at...

at den her teknologi har også gjort det muligt at forsvare sine egne soldater i langt højere grad, fordi du kan sende en maskine. Og hvis det så fx betyder, at du i virkeligheden går i krig, får ikke selv at dø. I stedet for at gå i krig for at forsvare de civile, du vil befri, og dine egne civile selvfølgelig. Så hvis det bliver for fristende for et forsvar at beskytte sine egne kompetenter, så har man måske også mindre tilbøjelighed til.

og indsætte dem i konflikten. Så hvis fx vi har en situation i Gaza, hvor Hamas bryder alle krigens love ved at gemme sig blandt civile, og gør alle mulige ting, som man ikke må, og som gør det ekstremt svært at besejre dem. Hvis så israelerne fx går ind... via landjorden, altså fra hus til hus, så vil det måske have været mere effektivt i forhold til at arrestere Hamas folk. Men det vil jo have kostet ekstremt mange israelske soldater livet. I stedet for, så kan man sende...

droner ind, man kan lave alle de her former for angreb, som jo til sidst minder om tæppebumpning. Og Hamas er der jo stadigvæk. Så her er det også et eller andet, der ikke rigtig passer med fantasien om, hvad de her teknologier kan. fordi man så måske beskytter sig selv for meget, og på den måde heller ikke får afsluttet krigen.

Men hvis vi så, altså fordi det bliver jo et relativt sort og dystert billede, vi får tegnet op her på mange måder, men hvis man så skal prøve at lige sådan afslutningsvis sige, der er faktisk noget, der er fedt ved det. Der er en eller anden form for lys for... inden af en meget, meget mørk krigstunnel. Er der så noget, vi kan fremhæve, som vi kan trække ud af den samtale, vi har haft her, som peger i en retning, hvor man siger...

Færre civile menneskeliv går tabt, færre civile boligområder og den slags ting. Eller er krig dybest set, som krig har været de sidste mange tusinde år, hvor det hele bare bliver smadet? uanset hvad der sker? Jeg synes, det er lidt svært for tiden. Altså, giv mig tre øl og et lejrbål, så vil jeg sige, at kunstig intelligens har ødelagt verden.

Så hvis jeg skal prøve at være sådan lidt mere moderat, så vil jeg sige, jeg synes, vi har set i Ukraine en meget symmetrisk konflikt, hvor begge sider har den her teknologi, hvor det så ligesom ender med at... køre fast på en eller anden måde. Og så synes jeg, vi har Gaza som et eksempel på, at den ene part har haft den her teknologi, og det stadigvæk ikke er gået synderligt godt. Og Irak og Afghanistan, de her drone-bombekampagner, man havde dernede,

Man fik selvfølgelig fat på nogle folk, men... Daniel, afsluttende. Jeg bliver beroliget af de officerer og studerende, jeg har kontakt med hver dag, fordi de er ansvarsfulde, reflekterede, kritisk tænkende, selvstændige individer. Og mit håb er, at kunstig intelligens bliver en motivator for, at vi tænker endnu grundigere over, hvad det er, vi kan.

som mennesker, som robotter og automatiserede beslutningsstøttesystemer, ikke kan. Og det kan jo være en gave, fordi så bliver vi endnu skarpere på, hvad er det, der gør os til unikke og vigtige og værdifulde aktører i krig og konflikt. Hørt. Fantastisk. Tusind tak til dig, Daniel Møller Ølgaard, Ph.D. og adjunkt ved Forsvarsakademiets Institut for Militær Teknologi og chefredaktør på Scandinavian Journal of Military Studies, også kaldet SJMS.

for at bidrage med din viden og erfaring til det her rimelige villefelt. Tak for, at du kom. Tak, tak. Og Sune Witt, PUD-stitvendiat i Filosofi Borgers Universitet. Også tusind tak til dig for at sætte de her scenarier ind i en filosofisk, i hvert fald etisk sammenhæng. Sune Witt har lavet sin egen podcast om det her, som er en del af sin forskning. Den hedder Death by Algorithm.

og er tilgængelige på de gængse podcast-platforme. Også tak til jer, der lyttede med. Rigsrose kommentarer og spørgsmål kan afgives på Carsten Ortmann Radio på Facebook, Instagram eller LinkedIn, eller på mail til supertankerdr.dk.

Og hvis du kan lide, hvad du hørte, så del det med en ven, og måske også en fjende, hvis du har sådan en. Og lad os se, om vi kan løse nogle af konflikterne menneske til menneske, og med vores egen naturlige intelligens. Programmet i dag var tilrettelagt og beværdet af mig. Jeg hedder Carsten Ortmann. Ha' en rigtig god uge. Pokkenhör.