#243 (Wie KI Kriege führt)

Guten Morgen, Richard. Guten Morgen, Markus. Wo erreiche ich dich? Zu Hause. Zu Hause, am altbewährten Ort, wie du zu sagen pflegst, Richard. Und bevor wir reingehen, ich habe heute, glaube ich, ein gutes Thema für dich mitgebracht, würde ich dich aber gerne als Zoodirektor meines Herzens zumindest mal fragen, was du eigentlich über Timmy denkst. Timmy auf dem Weg nach Hause, der gestrandete Buckelwal. Die einen nennen ihn Timmy, die anderen nennen ihn Hope.

Und du hast das Drama so ein bisschen verfolgt, der jetzt in den Nordatlantik geschleppt wird, nach Hause und ganz Deutschland nimmt Anteil. Was denkst du darüber? Ich habe heute einen dänischen Regierungsvertreter gehört, der sagte, wir retten prinzipiell keine gestrandeten Wale, weil das ist Teil des natürlichen Kreislaufs, das passiert. Ich habe Bilder aus Australien gesehen, Da haben die das sehr, sehr pragmatisch gemacht, Leinen angelegt, dass kürzlich was ganz Ähnliches passiert.

Haben den, glaube ich, mit zwei Motorbooten rausgezogen und dann schwamm der Wal davon. Sehr deutsch daran ist für mein Empfinden, wie sich das so zieht über Wochen und fast Monate und wie das dann so aufgeladen wird, irgendwann auch moralisch und so weiter und wie das dann plötzlich so einen ganz eigenen Drive kriegt, den es so nur in Deutschland geben kann. Mhm.

Also grundsätzlich ist es ja so, dass ich mich, wie du weißt, sehr für Tiere interessiere, zwei Bücher über Tierethik geschrieben habe und insofern ist mir die Qual der Wale nicht egal. Also viele Wale leiden natürlich unter der Verschmutzung der Meere und deswegen finden immer mehr Strandungen statt und insofern tut mir Timmy leid. Aber ich bin jetzt nicht derjenige, der sich da in ein einzelnes Individuum da so verliebt hat, dass er ihm auf Schritt und Tritt folgt. Das ist eigentlich nicht der

Fall. Ich sehe eher in Timmy so eine Art Symbol für die Lage des Landes. Ich glaube, deswegen interessieren die Menschen sich so dafür. Ja, wir sind ja selber als Deutschland inzwischen eine Art gestrandeter Wahl, der da so mühsam nur noch von Sandbank zu Sandbank schwimmt. Und wenn man dann auch noch bedenkt, dass in dem jetzigen Rettungsteam jemand ist, der irgendwie aktive Wahlkampfhilfe für die AfD macht, dann kann die natürlich

davon profitieren und kann sagen. Du meinst den Rocker, den Hells Angel? Ja, den ehemaligen Hells Angel. Und dann kann man sagen, nur die AfD zieht Deutschland aus dem Dreck oder Timmy aus der Ostsee. Also kann davon auch profitieren. Und dadurch, dass das Ganze jetzt so viele Wochen dauert, haben die Medien natürlich auch richtig was davon.

Also vielleicht ist auch ein bisschen Absicht dahinter, dass wir ihn nicht einfach nochmal kurz in die tiefere Stelle ziehen, sondern wir zelebrieren das Ganze und wir leiden stellvertretend für unser Land mit Timmy mit. Ja, es ist interessant. Das Team, du hast es ja gerade so kurz angedeutet, ich habe mich immer wieder mal damit beschäftigt. Das Team, das da zeitweise am Start war, ist schon erstaunlich. Da ist zum einen Backhaus, der Umweltminister aus Mecklenburg-Vorpommern.

Dann wird eine Tierärztin aus Hawaii eingeflogen. Dann gibt es eine andere Tierärztin, die sagt, ich mache eigentlich in meiner Praxis nur Kleintiere, aber es ist spannend, jetzt mal was mit dem Wal zu machen. Dann hast du besagten Rocker, dann hast du einen Romanautor aus Peru, glaube ich. Und du hast einen Influencer, der...

Sich für maximal kompetent hält und über sich selber sagt, es gibt glaube ich niemanden in Deutschland, der so gut über Wahlrettungen Bescheid weiß, wie ich, auf den dann später der Umweltminister losgeht und so. Also auch die menschlichen Dramen, die sich da rundherum abgespielt haben, andere Expertinnen, die dann Wutentbrannt abreisen, irgendwann reißt auch der Influencer Wutentbrannt ab und ganz zum Schluss reißt dann auch Timmy ab. Das war Richtung Nordatlantik.

Das hat was. Aber der Wahl hat viele Leute in sehr kurzer Zeit sehr berühmt gemacht. Ja. Also wahrscheinlich wüsste die Republik außerhalb von Mecklenburg-Vorpommern nicht, wie der dortige Umweltminister heißt. Und wahrscheinlich wussten das auch viele Menschen in Mecklenburg-Vorpommern nicht vorher. Also Helmut Schmidt wurde ja berühmt, damals bei der Hochwasserkatastrophe, bei der Sturmflug in Hamburg. Und wer weiß, vielleicht ist das der Anfang von Herrn Backhausweg,

Marsch ins Kanzleramt. Ja, möglicherweise. Der hat irgendwann im Interview neulich erzählt, dass er dem Wal, und er betonte nochmal, dem Wal, also Timmy, versprochen hat, dass er ihn nach Hause bringt. Und er erzählt ja solche Männer werden gewählt, die werden von Frauen gewählt, guck mal der Eisbärpfleger von Knut also der hat glaube ich über 1000 Heiratsanträge bekommen und sowas alles und so, also sowas mag man, wer gut zu wahlen ist, das ist ein guter Mensch.

Ja und dann gab es auch die eine Frau aus München, die dann ja von Bord eines Schiffes gesprungen ist und bis auf wenige Meter rangekommen ist und sagt, in dem geht es gut und, man hat auch das Gefühl, sie hat mit ihm gesprochen und so weiter. Man kann sich über all das irgendwie auch... Gesungen, nicht gesprochen. Sie hat mit ihm gesprochen. Du meinst, sie hat mit ihm gesungen? Ja. Ach so. Gut, habe ich jetzt noch nicht drüber nachgedacht. Weil er hat auch gesungen.

Man hat ja mitbekommen, dass er da auf der Sandbank gesungen hat. Genau. Was heißt das eigentlich, wenn Wale singen? Ich meine, heißt das dann, mir geht es gut oder ich weine und bin verzweifelt? Ich glaube, das kann beides bedeuten. Also man weiß ja aus der Analyse der Gesänge der Buckelwale, dass sie sehr, sehr viel, sehr unterschiedliche Gefühle ausdrücken können. Das ist auf jeden Fall ihre Art zu kommunizieren.

Man kann sich wunderbar darüber lustig machen und man kann das so bekloppt und typisch deutsch finden. Ich muss ehrlich sagen, mich hat das irgendwie berührt. Ich weiß nicht, wie es dir da geht. Ich schimpfe mich jetzt an alten Romantiker. Aber dass da so viele Menschen sich plötzlich um ein wirklich wunderschönes Lebewesen kümmern, einen gestrandeten Bal, das hat mich irgendwie gekriegt, muss ich ganz ehrlich sagen. Hast du als Kind Flipper geguckt? Ja, das war ein altes Flipper-Trauma.

Nein, vielleicht ist es auch einfach nur das Alter, man wird ja dann so rührselig. Oder Free Willy. Free Willy habe ich nie gesehen. Aber du siehst jetzt also Wale gegen gut. Free Willy ist ja auch eine traurige Geschichte, glaube ich. Sie ist ja in Wahrheit dahinter verbirgt. Das ist ein wirklich missbrauchter Orca. Ja, ja, ja. Das will man, glaube ich, alles nicht wissen. Der nicht gut behandelt worden ist, aber dann für Hollywood und sehr viel Geld herhalten musste.

Das ist eine andere Geschichte. Also quasi ein geknechteter Wal, der im Film einen in die Freiheit entlassenden Wal spielt. Richtig. Also du meinst Free Willy jetzt. Free Willy. Ja, ja, genau. Der Orca. Ja, ja, total. Genau. Und über das Schicksal von Flipper ist mir auch nicht so richtig viel bekannt. Es gab gar nicht einen Flipper, sondern es gab Mass. Ja, genau. Und dann gibt es ja auch noch Olaf den Flipper. Es gab auch sehr viele Lessons.

Kennst du den eigentlich? Kennst du Olaf den Flipper? Nee. Nee. Das ist der von den Flippers. Den verfolge ich immer so ein bisschen, weil ich war früher Fan der Flippers. Du hast noch nichts ausgelassen. Und er sagt immer, hallo, hier ist Olaf, euer Flipper. Und das gefällt mir. Das erinnert mich immer an meine Kindheit. Die rote Sonne von Barbados und solche Sachen.

Und der hat jetzt gerade wieder so ein Comeback gefeiert und wurde unter anderem, ich habe jetzt den Namen vergessen, Da gibt es einen Schweizer, ich habe den extra mal gegoogelt, einen Schweizer Schlagerstar, ein junger Mann, der gemeinsam mit Olaf dem Flipper in England in den Charts war. Und zwar mit dem großartigen Song Drinking Wine, Feeling Fine. Das fanden die Engländer so kultig in den englischen Morningshows,

dass sie das wirklich rauf und runter gespielt haben. Und plötzlich hatte Olaf der Flipper in England einen Hit. Ich finde solche Geschichten großartig, ich liebe das.

Und vielleicht ist das die perfekte Überleitung, vielleicht ist es auch total daneben zu dem, worüber ich eigentlich mit dir sprechen wollte. Da sind auf der einen Seite Menschen, die kümmern sich darum, dass ein Leben weiter besteht. Und wenn ich mir anschaue, mit welcher Innenbrust andere gerade damit beschäftigt sind, sich zu überlegen, wie sie möglichst viele andere, um jetzt mal eine ganz brutale Überleitung zu machen, ins Jenseits befördern.

Und da rede ich jetzt von großer Politik, da denke ich an den Krieg in Iran, man denkt an das, was in der Ukraine passiert. Wir haben so viele Tote im Moment auf der Welt und einen Zynismus, der immer weiter um sich greift. Dass ich sagen würde, da sind mir Menschen, die sich ganz aufrichtig und mit allem, was sie haben, um einen gestrandeten Wahl kümmern, einfach tausendmal lieber als der Rest, dem das alles und auch Menschenleben offensichtlich irgendwie total Wumpe ist.

Und ich würde gerne mit dir darüber sprechen, Richard, wie sich gerade der Charakter von Kriegen verändert. Konkret über die Frage, welche Rolle insbesondere KI in diesen Kriegen spielt, auch welche Rolle bestimmte Figuren spielen, deren Namen wir entweder schon ein bisschen länger kennen, die aber jetzt wirklich dabei sind, auf die große Weltbühne zu treten, jemand wie Alex Karp beispielsweise.

Der Chef von Valentir und andere und wird sehr, sehr gerne darüber mit dir reden, wie eigentlich KI tatsächlich die Art und Weise, wie wir Krieg führen, wirklich verändert. Wenn man sich den Iran-Krieg jetzt zum Beispiel anschaut, dann gibt es Leute wie den Verteidigungsfachmann Kai Küstner, der sagt, wenn man sich diese Geschwindigkeit ansieht, wenn man sich die unglaubliche Koordination dieser Angriffe anschaut.

Wenn man sich anschaut, in welcher kurzen Zeit im Iran beispielsweise 24 Stunden und du hast 1000 Ziele getroffen. Innerhalb von 24 Stunden treffen die USA und Israel tausend Ziele. Dann muss man sagen, das ist wahrscheinlich der erste wirklich KI getriebene Krieg überhaupt. Jedenfalls in diesem Ausmaß. Also in der Ukraine-Krieg spielt KI natürlich auch schon länger eine Rolle.

Spielt auch eine Rolle und darüber sollten wir mal reden und dann lese ich einen Artikel dieser Tage im Wall Street Journal, immer wieder gute Sachen, die die machen. Dass auch die Entführung von Maduro in Venezuela eigentlich so nur möglich war mit Hilfe eines Large Language Sprachmodells. Also auch mit KI, mithilfe einer Firma namens Anthropic, so heißen die. Und wenn man da mal tiefer reingeht, dann merkt man plötzlich.

Das, was wir ganz grob KI nennen, verändert die Art und Weise, wie Krieg geführt wird, glaube ich, für immer.

Wie schaust du da drauf, Richard? Ja, also das Interessante ist, dass es noch gar nicht lange her ist, sehr, sehr wenige Jahre, so bis vor fünf Jahren, dass man sich in Europa einig war, da machen wir nicht mit. Wenn man damals führende KI-Entwickler, auch entsprechende Firmen und so befragt hat, dann haben ganz viele so Deklarationen unterschrieben für den humanen Einsatz künstlicher Intelligenz.

Und da gehörte immer die Ächtung von Einsatz von KI für Kriege, für Waffensysteme und so weiter dazu. Das war ganz normal. Es steht sogar noch, ich glaube, im Regierungsvertrag der Ampelkoalition drin, dass Deutschland sich international für die Ächtung von KI-Waffen einsetzen möchte. Interessant. Das ist jetzt sehr, sehr kurz her und seitdem stehen wir auf der Gegenseite, ausgelöst durch den russischen Angriff auf die Ukraine.

Und seitdem sagen wir, okay, KI wird in der Welt der Kriege immer eine größere Rolle spielen. Deutschland wird in dieser Welt der Kriege auch eine Rolle spielen. Und das kann es nur, wenn wir da mitmachen. Und inzwischen gibt es einen ganz großen Ehrgeiz, dass Deutschland da mitführend werden soll bei KI-Waffen und so weiter. Also alle ethischen Bedenken, die man ja aus guten Gründen sehr, sehr lange gehabt hat, sind allesamt weg.

Es gibt keine Diskussion in Deutschland darüber, ob man sich daran beteiligen soll oder nicht, sondern man sagt, die anderen machen das auch. Das ist der große Trend. Das hilft nicht nur ganz entscheidend bei der Kriegsführung der Zukunft. Das ist auch ein Bombengeschäft im wahrsten Sinne des Wortes. Und damit sind alle Einwände auf einmal pulverisiert, quasi über Nacht wie ausgewechselt.

Das ist ja auch mal interessant, was sind moralische Deklarationen, ethische Selbstverpflichtungen wert, dass in dem Moment, wo zum ersten Mal ein Ernstfall eintritt, also Krieg in Europa, von heute auf morgen wir sofort ins komplette Gegenteil umschlagen, als hätte hinter diesen ganzen Argumenten, warum man keine KI-Waffen haben möchte und warum man die internationale Entwicklung ächten möchte, nicht sehr, sehr gute Gründe gestanden. Die sind jetzt alle weg.

Ja, wir beide haben ja schon ein paar Mal über dieses berühmte Stockholmer Friedensforschungsinstitut gesprochen, über SIPRI. Das sind ja die Leute, die immer errechnen, wie viel für Rüstung aktuell ausgegeben wird. Und Militärausgaben 2025, neuer Höchststand, noch nie in der Geschichte der Menschheit ist so viel Geld für Rüstung ausgegeben worden. Fast drei Billionen US, also 2,5 Billionen Euro könnte man auch sagen.

Amerika china russland die ungefähr 50 prozent davon bestreiten auf platz vier deutschland hat sich hochgerüstet mit einem plus von 24 prozent das heißt in absoluten zahlen wir werden in 2025, und folgende irgendwas zwischen 114 milliarden us-dollar 120 und so weiter ausgeben wir kommen bekommen von 50, 60 ungefähr. Da waren wir unterwegs und das ist dann in den letzten Jahren immer weiter aufgewachsen.

Das heißt, ein großer Teil des Bundeshaushalts, wenn du mal überlegst, wir haben 114 Milliarden US-Dollar, was sind das, ungefähr 100 Milliarden Euro und das wächst immer weiter auf. Der gesamte Bundeshaushalt ist irgendwas mit 550 Milliarden, nur mal die Relation klar zu machen. Das heißt, da hat sich jetzt wirklich... Überleg mal diese drei Billionen, da müssen wir gar nicht lange drüber nachdenken. Da kannst du jede Wüste der Welt mit fruchtbar machen. Da kannst du die Weltbevölkerung

auf Ewigkeiten ernähren. Da kannst du medizinische Versorgung bis in jedes kleine Dorf in der Zentralafrikanischen Republik bringen. Damit könnte man die Erde in ein Paradies verwandeln. Und das alles noch im Zeitalter des Klimawandels, der gigantischen Umweltzerstörung, wo wir dabei sind, die Lebensgrundlagen auf diesem Planeten zu zerstören. Und wir geben so viel Geld für Waffen aus wie noch nie zuvor. Das ist ja eigenartig.

Wir schaffen solche irrsinnigen geistigen Höchstleistungen wie eine künstliche Intelligenz. Wir haben einen unbegrenzten, sich immer weiter beschleunigenden technischen Fortschritt. Da sind wir so intelligent, da gehen wir immer weiter voran. Und gleichzeitig werden wir nicht ein Fünkchen weiser, sondern entwickeln uns eigentlich eher rückschrittlich auf all den anderen Ebenen.

Es wäre so, als müssten wir für diese eindimensionale technische Züchtung, die wir gerade nehmen, den Preis dadurch bezahlen, dass wir auf allen anderen Sektoren dümmer werden. Das ist, wenn man das so von außen betrachtet und da drauf guckt.

Und was ich so interessant daran finde, das sind ja alles Entwicklungen, die den Eindruck machen, dass sie irreversibel sind. Weil in Deutschland wird im ganz großen Ziel jetzt Geld verteilt. Und auch ganz viele Leute, ich habe mit Ihnen darüber gesprochen, aus der Start-up-Szene, wollen Geld vom Verteidigungsministerium. Wollen da jetzt dran partizipieren. Die Automobilindustrie sowieso. Sehr, sehr viele Firmen der Old Economy wollen davon profitieren.

Und wir haben ja im Hinblick auf die Rüstungsindustrie jetzt Aufträge für die nächsten 10, 15 Jahre quasi vergeben. Also Forschungsvorhaben, Waffenentwicklung, Waffeneinkauf und so weiter. Jetzt stellen wir uns mal vor. Im Augenblick sieht das in der Ukraine so aus, als ob es an beiden Stellen irgendwo nicht weitergeht. Also die Front verändert sich nicht mehr. Naja, da ist so eine Art Ermüdungsbruch im Sicht. Das kann sich ändern, aber im Augenblick sieht es so festgefahren aus.

Und Putin hat ja in letzter Zeit sehr leise Töne gesprochen. Er hat von Verhandlungsbereitschaften und so gegenüber Trump und so weiter geredet. Weil also ich glaube nicht mehr, dass er daran glaubt, dass er Donetsk noch weiter erobern kann, dass er Kramatorsk und Sloviansk kriegt, sondern eigentlich muss er mit dem zufrieden sein, was er da gekriegt hat. Er kann erzählen, er hat den Krieg gewonnen, weil er Land gewonnen hat.

Er hat den Krieg andererseits verloren, weil das, was er eigentlich erreichen wollte, die Ausbreitung wieder der russischen Machtsphäre, ist ins Gegenteil umgeschlagen. Ukraine ist ein fest integriertes Land des Westens und so weiter. Aber irgendwie könnte das auf absehbare Zeit zu Ende gehen.

So, und dann werden diese Russen, die sich da vier Jahre diese blutige Nase geholt hat, dieses ausgeblutete Land mit einer Wirtschaft, die arg ruiniert ist durch die Umstellung auf Kriegswirtschaft und so weiter, mit Sicherheit auf sehr lange Sicht nie wieder davon träumen, ein westliches Land anzugreifen. Ich meine, die Ukraine, ob die damals ein westliches Land vor vier Jahren war, kann man streiten, aber sich nach Westen zu expandieren.

Das heißt, es könnte uns, ist nicht sicher, dass es passiert, aber nicht unwahrscheinlich, relativ bald der große Feind abhanden kommen. Wir aber haben Rüstungsprogramme initiiert, die auf 10, 15 Jahre angelegt sind und ich hatte die Gelegenheit in den letzten Tagen mit mehreren Experten darüber, die unmittelbar daran beteiligt sind, zu sprechen und ich habe gedacht, was passiert denn, wenn der Feind verloren geht und die sagen, wir kriegen den Tanker nicht mehr gewendet.

Und wir haben jetzt so dermaßen wirtschaftlich darauf gesetzt, auf diesen Aufschwung, da können wir nicht irgendwie wieder drauf aussteigen. Dann könnte man ja immer sagen, okay, dann können wir ja für den Export produzieren, wenn wir das alles, was wir da bestellt haben, nicht brauchen. Aber die gleiche Idee haben die Franzosen, die gleiche Idee haben die Engländer. Die Ukraine baut ihre gesamte Wirtschaft der Zukunft auf Waffen auf.

Sie wollen der führende Waffenhersteller und führende Waffenexporte in Europa werden. Die beraten die Amerikaner am Golf, Richard. Ja, und auch die Golfstaaten, weil die einen Vorsprung vor Deutschland haben. Die können nämlich sagen, wir haben vier Jahre, sind ja kriegserprobt. Wir kennen das alles aus der Praxis und so weiter. Die bieten sich auch überall an. Das heißt, ganz viele Länder, deswegen auch diese riesenhohen Etats, setzen alle auf Rüstung als das große Geschäft.

Und es ist gar nicht sicher, dass Deutschland das machen würde. Wir haben ja etwas Gigantisches eingeleitet, wo wir nicht mehr rauskommen. Wir haben gar keine Exit-Strategie dafür. Wir können eigentlich nicht mal mehr ein Interesse daran haben, dass es irgendwie zur Abrüstung kommt. Das wäre für uns wirtschaftsschädigend. Auf was für ein Spiel haben wir uns da eigentlich eingelassen?

Also diese Zeitenwende bedeutet, dass wir an das Kreuz der Aufrüstung geschlagen sind für mindestens 10, 15 Jahre. Und das auf Kosten unserer Volkswirtschaft, weil ich habe ja oft darüber geredet, das ist der letzte Satz dazu, dass man keine Unsinnigeren. Großinvestitionen machen kann, dauerhaft jedenfalls, als in Rüstung, weil man damit dauerhaft das Bruttoinlandsprodukt nicht steigert, sondern nur ein Strohfeuer anzünden kann, weil die hergestellten Güter ihrerseits nichts mehr herstellen.

Ja, ich würde an mehreren Stellen einen harten Widerspruch wagen. Ich gebe dir recht, ich gebe dir recht, wir haben ja schon mal darüber geredet, wenn man sagt, zumindest ein entscheidendes Ziel wird Putin erreichen. Wir hatten ja, wenn wir mal ehrlich sind, nicht wirklich die Wahl. Wir haben keinen Krieg in der Ukraine begonnen, sondern wir sehen uns plötzlich einer Bedrohung gegenüber, von der die Leute, mit denen ich rede, sagen, Vorsicht, es ist möglich, dass Dinge passieren.

Ich muss dir ganz ehrlich sagen, auch als Bürger dieses Landes, die Vorstellung, dass die Möglichkeit, allein die Möglichkeit besteht und du hast ja jeden Tag die Hinweise darauf, schau dir die durchtrennten Unterseekabel an, schau dir die Drohnensichtungen an, schau dir vieles, vieles andere an. Allein die Tatsache, dass die Möglichkeit besteht, dass ein solcher Angriff stattfinden könnte, dass man die NATO testen könnte, allein das kann man als

Politiker in Verantwortung nicht einfach so in Kauf nehmen. Das Motiv ist weg. Ob das Motiv je da war, darüber haben wir uns hier bestimmt zehnmal geschritten. Ich glaube, dass das Motiv in dem Ausmaß, wie du das siehst, nie da gewesen ist. Aber eins können wir sicher sein. Das ist vom Tisch.

Wozu soll Putin jetzt noch die NATO testen? Also ich meine, wer so am Ende hängt und wer es nicht in der Ukraine mehr vorwärts geschafft hat, ich weiß, bei all der westlichen Unterstützung und so weiter, das Land ist kaputt, das Land ist kriegsmüde und so weiter. Natürlich befinden wir uns in einem permanenten Kleinkrieg, ja, Untersee, Kabel und Cyberangriffe und sowas, machen wir wahrscheinlich da drüben auch, aber völlig egal, diese Kleinkriege, das alles gibt es.

Aber die große militärische Bedrohung, die ist sowas von vom Tisch. Das will aber keiner hören. Ich meine, in dem Moment, wo wir uns das klar machen würden, wird unser gesamtes Modell, wofür wir jetzt über die nächsten zehn Jahre über eine Billionen ausgeben wollen, nicht mehr zurechtfertigt sein.

Naja, das Richard, ja, den Gedanken sollten wir jetzt mal weiterspielen, weil das ist der interessante Punkt. Wenn du mit Ökonomen sprichst, wenn du dir die Geschichte des Silicon Valleys beispielsweise mal anschaust, wenn du dir anschaust, wer die Player sind, die da jetzt auf die Bühne treten, wenn du dir auch die Geschichte Israels anschaust. Dann würde ich sagen, funktioniert dieses Argument nicht.

Die Geschichte des Silicon Valleys, der Erfolg des Silicon Valleys, und ich habe es gerade gesehen, Google hat gerade wieder unvorstellbare Quartalszahlen vorgelegt, hat den Gewinn verdoppelt, den Quartalsgewinn. Und um dir mal die Zahlen zu sagen, ich habe die glaube ich hier, Analysten hatten mit einer Umsatzerwartung von 107 Milliarden im Quartal gerechnet. Am Ende waren es dann 110. Der Quartalsgewinn schnellt auf 62 Milliarden hoch.

Vergangenes Jahr, um einen Vergleich dazu, 34 Milliarden Dollar. Warum? KI getrieben. Und diese ganze Innovationskraft, die du dort siehst, die Innovationskraft auch der israelischen Wirtschaft beispielsweise, die hat natürlich mit der engen Verzahnung mit dem Militär zu tun. Wenn ich mit Ökonomen rede, man weiß ja selber viel besser als ich. Diese ganze Startup-Kultur, die ist eng verzahnt mit Rüstungsausgaben. Weil das alles irrsinnig durch Steuergelder subventioniert wird. Ist richtig.

Dafür brauchst du aber keine Rüstung. Du könntest doch auch hingehen und könntest diese eine Billionen, die wir die nächsten zehn Jahre ausgeben können, in einen Staatsfonds reinmachen, mit dem du überall in der Welt an den Börsen das Geld auch noch vermehrst und mit deinen Gewinnen die Digitalisierung, die Startup-Szene, die KI-Entwicklung und so weiter in Deutschland pushen.

Dann hättest du hundertmal mehr volkswirtschaftlichen Effekt, als wenn du das über die Rüstungsindustrie spielst, die als Abfallprodukt weitere Innovationen bringt, sondern du könntest es ja direkt für Innovationen ausgeben. Dafür brauchst du die Rüstung nicht. Ja, hast du absolut den Punkt, Richard? Ich will auch gar nicht groß widersprechen.

Ich will nur sagen, die Leute, mit denen ich immer rede, die sagen, und da habe ich sozusagen die Bauchschmerzen, die sagen, es ist nicht auszuschließen, dass die Russen irgendwann was starten, wenn du dir anschaust, wie gewaltig die gerade aufrüsten, wenn du dir anschaust, wie viele Menschen die unter Waffen haben und das wächst immer weiter auf. Die werden nach dem Krieg, wenn der irgendwann endet, mehr Menschen unter Waffen haben als jemals zuvor.

Und wenn man sich das alles mal so anschaut, dann muss man als Politiker natürlich ins Kalkül ziehen, dass da was passieren kann. Wo ich dir recht gebe ist, ich glaube es ist auf der anderen Seite auch eine riesige Falle, in die wir da tappen und das Verarmungsprogramm, das Putin für sein eigenes Land begonnen hat, das beginnen wir jetzt auch. Wir riskieren unseren Wohlstand, indem wir solche gigantischen Summen in Verrüstung

und Verteidigung stecken. Wir machen uns zu Putins nützlichen Idioten durch uns. Wir gehen da in eine Falle, so würde ich das sagen.

Und der zweite Punkt ist, und das ist interessant, hatte mit Florence Gaub in dieser Woche ein Gespräch, die sagte, das Problem ist, wir haben uns immer geirrt. Wenn es um die Frage ging, was ist der Krieg der Zukunft, haben wir uns immer geirrt. Weil die Systeme, von denen wir dachten, das sind die Systeme der Zukunft, die waren es dann am Ende doch nicht. Deswegen ist es so interessant, da jetzt mal reinzuschauen. Das ist super übrigens, um das in ein einziges Bild zu machen.

Ich hatte vor drei Jahren das Vergnügen, mich mit Agnes Strack-Zimmermann zu unterhalten, nicht vor laufenden Kameras. Und damals ging es um die Frage, sollten wir Leopardpanzer in die Ukraine liefern? Und sie hat mir gesagt, wenn wir die liefern, Das ist der Game Changer. Da gehen wir wie die Messer durchs Butter, gehen wir da dann durch und dann gewinnt die Ukraine diesen Krieg und was weiß ich was alles.

Ja, aber was haben wir davon gelernt? Dass Deutschland zwar die Panzer baut, die im Panzerquartett gewinnen, die aber in der Realität kaum noch eingesetzt werden, weil sie viel zu anfällig sind, weil sie viel zu teuer sind und weil sie mit billigen Drohnen zerstörbar sind. Und deswegen ist es wirklich interessant darüber zu sprechen, was würde den Krieg jetzt schon, du sagtest ja Iran-Krieg und erst recht in der Zukunft im KI-Zeitalter bedeuten. Richtig.

Und da kommt jetzt nochmal Alexander Karp ins Spiel, der CEO von Palantir. Das ist diese Sicherheitsdatenfirma, von der die amerikanische Administration, von der Leute wie Trump und Hexeth und andere sagen, das ist die relevanteste Rüstungsfirma, die wir in den USA haben. Musst du dir mal vorstellen.

Und das spiegelt sich auch wieder im Börsenkurs. Eine Softwarefirma, Palantir, die stellen keine Hardware her, die bauen keine Panzer, die bauen auch keine Drohnen und so weiter, sondern die verknüpfen riesige Datensätze. Hat mittlerweile eine Bewertung von 400 Milliarden. Und wenn du dir mal anschaust, so traditionelle Rüstungskonzerne wie Lockheed Martin beispielsweise, die stehen bei 128 Milliarden, nur um mal sozusagen die Dimension klarzumachen. Das heißt, da verschiebt sich etwas.

Das ist nicht nur der Krieg, der sich da verändert. Und wer militärisch bestehen will, der muss das einfach ins Kalkül ziehen.

Und dieser Alexander Karp hat kürzlich eine Art Manifest veröffentlicht. Da gibt es ein Buch und, Daraus dann nochmal so ein Extrakt quasi. Ein Manifest und da schreibt er unter anderem ein Zeitalter der Abschreckung, das Atomzeitalter geht zu Ende und eine neue Ära der Abschreckung, die auf künstlicher Intelligenz basiert, steht vor der Tür. Das heißt, die Frage ist, leben wir bald in einer Welt, in der KI-Drohnen quasi autonom Menschen töten?

Es gibt irgendwie erschreckend und gleichzeitig auch faszinierende Bilder aus der Ukraine. Die Ukrainer haben neulich ein Video veröffentlicht, auf dem zu sehen ist, wie das erste Mal bewaffnete Roboter eine russische Einheit stellen. Das heißt, der eine Kampfroboter geht da hin und sprengt sozusagen den Eingang dieses Unterbaus, in dem sich die Russen versteckt haben.

Und der andere hält die dann so in Schach und irgendwann halten die dann so eine Pappe hoch, auf der sie dann draufstehen haben, wir ergeben uns. Und das sieht die Kamera dieses Roboters und die sind dann wenig später kriegsgefangen. Es gibt dann eine andere Geschichte, die einem sehr nahe geht. Eine alte Frau, die gerettet wird von so einem Kampfroboter, der sie dann aus einer Situation herausholt, in die sich kein ukrainischer Soldat mehr reintraut.

Das heißt, da hast du auf der einen Seite einen Satz für eine wirklich gute Sache, diese arme alte Frau da rauszuholen. Du siehst aber auch auf der anderen Seite, was Kampfroboter mittlerweile können. Das heißt, unbewaffneter Kampf, der Charakter von Krieg, der sich völlig verändert. Und daraus ergeben sich, ich hatte viele, finde ich. Moralisch-ethische, relevante Fragen. Also die Frage ganz prinzipiell, tötet KI schon heute?

Oder ist das alles nur reine Panikmache beispielsweise? Klar, es ist natürlich so, dass am letzten Endes, am Ende der Befehlskette nach wie vor keine KI steht. Das kann irgendwann kommen, muss nicht unbedingt kommen, ist aber nicht das entscheidende Argument, was diese Entwicklung so gruselig macht. Also für mich ist das Gruselige nicht, ob der letzte Entscheider auch KI ist oder ein Mensch, das scheint viele zu beschäftigen, sondern was ganz anderes.

Wenn ich Kriege führen kann, ohne den Einsatz von Menschenleben, das hat ja schon damit begonnen, wenn du im Bauwagen dann entsprechend deine Drohne zündest, dann wirst du es viel leichter einsetzen. Also für den technisch Überlegenen wird der Krieg immer weniger Risiko, weil du mit immer weniger Zinksergen nach Hause kommst. Sondern du kannst das wie so ein Computerspiel am Ende abwickeln und dann hast du unter Umständen deine Kriegsziele erreicht oder groß was gewonnen.

Genau, du willst damit sagen, die Zinkserge entstehen auf der anderen Seite. Die Zinkserge entstehen auf der anderen Seite. Früher ist das ja so. Ich meine, wenn du jetzt in den Krieg gehst, in den konventionellen Krieg, musst du damit rechnen, dass du Tausende, Zehntausende, vielleicht Hunderttausende Soldaten verlierst.

Im Krieg der Zukunft kann es sein, dass du kaum noch Soldaten verlierst, weil du in erster Linie deine Killerroboter einsetzt oder weil du intelligente KI-Systeme, hochintelligente in der Lage sind, Ziele zu lokalisieren. Und da gibt es am Ende dann nur noch irgendeinen General, der dann Ja oder Nein sagt. Das bedeutet, dass die Hemmschwelle zur Kriegsführung enorm sinkt. Weil du gehst für deine eigene Bevölkerung ein immer geringeres Risiko ein.

Du kannst dir also alles, was du haben willst, die Bodenschätze dieser Welt und so weiter, Regierungen austauschen und das alles kannst du quasi auf Knopfdruck machen. Ja, ich meine, man kennt die menschliche Psyche und die Psyche von Regenten, dann wird einfach die Hemmschwelle immer kleiner und man wird das im Zweifelsfall tun.

Interessant dazu, ich habe mich da mit dem Thema ja schon lange beschäftigt. Irgendwann werden keine Menschen mehr sterben, sondern es werden nur noch Roboter gegen Roboter kämpfen. Das ist natürlich völlig unrealistisch, weil es wird nie ein halbwegs technisches Gleichgewicht in so einer Situation geben. Sondern ein Krieg, bei dem keine Menschen getötet werden, das ist irgendwie so ein Computerspiel oder sowas. Man hat mit der Realität eigentlich überhaupt gar nichts zu tun.

Nein, was passieren wird, ist, dass die Hemmschwelle sinkt. Das zweite ist auch, wenn die KI... Warum, Richard, ganz kurz, darf ich da mal reingehen? Weil du selber nichts riskierst. Die Hemmschwelle sinkt, weil du selber nichts riskierst. Nein, das verstehe ich. Aber warum schließt du aus, dass in Zukunft Roboter gegen Roboter kämpfen? Erinnerst du dich, es gab vor nicht allzu langer Zeit, gab es ein Bild, von dem unser Kanzler so wahnsinnig fasziniert war. Der war in Peking, in China.

Staatsbesuch. Und da gab es doch diese tanzenden Roboter, die ihm da vorgeführt wurden. Erinnerst du dich daran? Das waren diese Bilder, von denen die ganze Welt irgendwie fasziniert und irgendwie auch begeistert waren, weil man sagte, das ist ja toll, wozu die technologisch in der Lage sind. Ich war davon auch fasziniert und begeistert, bis ich dann mit Felix Lee beispielsweise, aber auch anderen gesprochen habe, das ist ein sehr geschätzter Kollege vom Handelsblatt.

Dessen Vater irgendwann aus China nach Deutschland gekommen ist, bei VW das China-Geschäft mit eingefädelt hat und so weiter. Faszinierende Lebensgeschichte, haben wir schon ein paar Mal drüber gesprochen. Der kennt die chinesische Situation sehr genau. Und der sagte, ihr habt alle eine Sache nicht begriffen, was ihr da gesehen habt. Das waren Kampfroboter. Das waren keine Roboter, um lustige kleine Tänze aufzuführen, sondern das sind Kampfroboter.

Das ist sozusagen der Ausfluss von irrsinniger Aufrüstung, was du da siehst. Und das ist sozusagen der Pfad für den Krieg der Zukunft. Das ist das, was du da siehst. Deswegen nochmal die Frage an dich, Richard. Warum glaubst du, dass das nicht sein kann? Warum gehen nicht, wenn du dir vorstellst, diese Auseinandersetzung der Supermächte, jetzt die USA und China.

Und wenn man das alles so sieht, hat man das Gefühl, es läuft auf eine beängstigende Art und Weise irgendwann genau auf diesen Clash zu. Aber jetzt malen wir das Bild mal aus. Ich finde das interessant. Stellen wir uns mal vor, der Ukraine-Krieg hätte zehn Jahre später stattgefunden. Also Russland hätte die Ukraine zehn Jahre später überfallen. Und auf beiden Seiten hätte es ausgefuchste Roboterarmeen gegeben.

Dann glaubst du, dass der Krieg dann, der findet ja immer noch in Gebieten statt, wo Menschen leben. Und in dem Fall, wo der hier fest war, in der Ostukraine leben ja relativ viele Menschen. Es gibt ja relativ ehemaliges Bergbaugebiet und da gibt es ja viele Dörfer und Kleinstädte und so. Da leben ja nach wie vor Menschen. Das muss man ja alles erstmal evakuieren, weil die ja alle zu Schaden kommen, wenn die Roboter da Krieg führen.

Also das wäre auf jeden Fall so. Die Flüchtlingswellen, die hättest du auf jeden Fall. Du müsstest die Menschen alle evakuieren mit dem großen Problem. Alte wettregige Menschen, wo bringst du die hin und so. Also diese ganze Schrecken des Krieges, was ja auch dazu gehört. Der hört ja nicht auf. Nein, der hört damit nicht auf.

Und die Wahrscheinlichkeit, dass bei Kriegen Zivilbevölkerung nicht nur einfach zu Schaden kommt, sondern zu Tausenden, zu Hunderttausenden am Ende stirbt, die ist damit nicht aus der Welt. Und wenn deine Roboterarmee, die Roboterarmee des anderen besiegt hat, hast du dann den Krieg gewonnen? Oder hast du den Krieg gewonnen, wenn du erst das feindliche Land besetzt mit allem drumherum, damit sich da nicht noch weiter wieder die Menschen wehren können?

Und so, dann hast du wieder die ganzen zivilen Toten. Also die Vorstellung, dass es die zivilen Toten aus der Welt schafft, das ist eben nicht so. Das wird es weiterhin geben, weil das große Problem der Kriege sind ja nicht nur die sterbenden Soldaten, sondern eben die Mitleidenschaft der Zivilbevölkerung. Ich meine, Deutschland hat im Zweiten Weltkrieg auf dem Gebiet der Sowjetunion sind insgesamt 27 Millionen Menschen gestorben. Der geringste Teil davon waren Soldaten.

Und deswegen glaube ich also nicht, dass es auf diese Art und Weise sozusagen eine große pazifistische Idee ist, nur noch Roboterarmeen gegeneinander antreten zu lassen. Zweites Problem.

Also erstes Problem, Senkung der Hemmschwelle. Das zweite Problem, was entsteht, ist, wenn jetzt die sehr intelligente KI die Ziele lokalisiert und sagt, also pass mal auf hier, das und das ist so und so und wenn ich dann so und so das treffe, dann können wir da den mutmaßlichen Feind oder Kommandeur ausschalten und so weiter. Je intelligenter diese Systeme sind, umso mehr verlasse ich mich darauf, dass die das schon richtig machen und schon sehr genau lokalisieren und so weiter.

Und dann ist eigentlich das ganze Menü bereitet, Und ich bin eigentlich nur noch derjenige, der dann den Daumen hoch macht oder Daumen runter. Und wenn diese hochintelligente KI mir das alles schon so nahe legt und sagt, also ich würde den ausschalten, weil der ist ja auch da und dafür verantwortlich und wenn du das nicht machst, könnte das passieren, dann wird wieder die Hemmschwelle gesenkt.

Ich verlasse mich quasi auf die Expertise der KI und will nicht derjenige sein, der deren Strategien, Plänen und Entscheidungen im Wege steht. Und das ist die zweite Senkung der Hemmschwelle, die in diesem Prozess stattfindet, dass man im Zweifelsfall, weil die KI ist ja dafür da, den mutmaßlichen Waffeneinsatz vorauszuberechnen, sich eben auf die KI wiederum verlässt. Auch das ist wahnsinnig gefährlich. Also es gab, um es zusammenfassend zu sagen, sehr gute Gründe,

warum man bis vor fünf Jahren auch die Deutschen den Einsatz von KI-Waffen ächten wollte. Und jetzt kommt der Punkt, der mir am allerwichtigsten ist. Wir kämpfen gegen einen Gegner, vor allen Dingen ist das ja aus deutscher Perspektive Russlands, den ich nicht mehr für besonders gefährlich halte. Ich glaube nicht, dass Russland unsere liberalen Demokratien abschafft, aber wir gehen dafür.

Einen Pakt mit dem Teufel ein, mit deinem gerade genannten Alex Karp von Palantir, der überhaupt keinen Hehl daraus macht, dass er nichts von liberalen Demokratien hält, sondern dem ein Technofoldalismus vorschwebt, genau wie Elon Musk, der nicht so libertär ist, wie man häufig denkt, auch Elon Musk ist das eigentlich nicht, sondern die arbeiten jetzt sehr, sehr gut mit dem Staat zusammen.

Weil letztlich ist dieser Gedanke der Karp's und der Musks, dass es ihnen völlig egal ist, wer unter ihnen amerikanischer Präsident ist. Sie mischen also komplett mit im Staat, sei es bei der Entbürokratisierung vermeintlichen, wo überall Daten geklaut, generiert wurden, die man dann privatwirtschaftlich nutzen kann. Genauso beim Militär. Das alles wird immer enger privatwirtschaftlich verzahnt. Es ist in den USA sowieso schon sehr, sehr stark.

Und diese Leute sind keine Freunde liberaler Demokratie. Die haben tatsächlich fast James-Bond-artige Fantasien von Kontrolle, von Macht, von Phantastilliarden, die man damit generieren kann. Und diese Leute, denen öffnen wir die Schleusen. Wir benutzen ja selbst von Palantir hergestellte KI-Systeme und nehmen die dankend an. Die bayerische Polizei beispielsweise. Und wenn man mit Polizeibeamten spricht, die sind begeistert davon.

Die sagen, das macht uns so viele Dinge so viel einfacher. Und über dieses Weltbild dahinter, Richard, sollten wir im zweiten Teil nochmal ein paar Gedanken verlieren, weil es wirklich lohnt, da mal genauer draufzuschauen. Das Weltbild dieser Leute, von denen du ja, das ist interessant, jemand wie Elon Musk wird ja immer als Libertärer, Ultralibertärer, so in der Tradition von Milley oder so beschrieben.

Das ist der aber gar nicht, sondern es ist in Wahrheit, hast du völlig recht, das genaue Gegenteil davon. Eigentlich ist die Idee, nicht den Staat abzuschaffen, sondern Teil des Staates zu werden. Den Staat zu nutzen. Den Staat für die eigenen finanziellen Zwecke und Machtgelüste zu nutzen.

Ja und dich so unentbehrlich zu machen für diesen Start, wenn du auf SpaceX beispielsweise guckst, ja die NASA kann ohne Musk heute gar kein Raumfahrtprogramm mehr wirklich betreiben, das muss man auch sagen, ist auch genial, wie die das aufgestellt haben, ja diese wieder landenden Raketen und so weiter, ist wirklich spektakulär, was dann dazu geführt hat, dass die Kosten dafür unglaublich nach unten gingen.

Und viele andere Dinge auch, aber du wirst dann sozusagen Teil des Staates und ein so unersetzlicher Teil des Staates, dass der Staat ohne dich eigentlich gar nichts mehr kann. Und dann hast du den Staat auf eine Art und Weise, wenn man so will. In der Hand. In der Hand sowieso und dann kommt es auf dich an, was du damit vorhast. Bist du guten Willens oder bist du eben anders unterwegs? Aber ich würde gerne nochmal, Richard, den Gedanken der KI aufgreifen,

die tötet oder nicht tötet. Du hast vorhin gesagt, die finale Entscheidung über so einen Angriff liegt immer noch bei Menschen. Und ich glaube, dass man uns das im Wesentlichen nur erzählt, damit wir ein bisschen beruhigt sind. Ich halte das für theoretisch, technisch so, aber ich glaube, dass es in der Praxis schon längst ganz, ganz anders läuft. Man sagt, auch im Iran trifft die letztendliche Entscheidung ein Mensch.

Da gibt es so ein Programm, MAVEN heißt das, das markiert dann beispielsweise Fahrzeuge, das markiert Anlagen, Waffenlager und so weiter, erstellt Lagebilder. Macht Vorschläge für das weitere Vorgehen. Denn KI ist dann sozusagen Teil dieser sogenannten Kill Chain, nennt man das. Das ist die Tötungskette. Das klingt brutal. Wir sind dann immer ein bisschen freundlicher und sagen, ja, das ist so eine Ereigniskette und so.

Wir verbrämen das dann, um irgendwie zu verbergen und zu verschleiern, worum es da eigentlich geht. Aber wenn man sich das dann mal anschaut, wie das funktioniert. Überwachungskamera, Livestreams, Satellitendaten, Smartphone-Gespräche, die in Echtzeit abgehört werden von einem potenziellen Ziel. Das alles auszuwerten, Und dann noch vorzuschlagen, pass auf, in diesem Moment, gerade jetzt, steigt der Typ, den du suchst, in sein Auto.

Und jetzt habt ihr ein Fenster von genau 20 Sekunden, 30 Sekunden, 40 Sekunden, um zuzuschlagen und den auszuschalten, bevor er mit seiner Karre in der Tiefgarage verschwindet. Und diese Entscheidung wird so schnell getroffen, dass ich behaupten würde, kein Mensch, auch wenn das theoretisch so ist und der dann irgendwann sagen muss, mach das mal, ist wirklich ernsthaft in der Lage zu sagen, der ist das mit letztendlicher Sicherheit.

Es ist genau der Typ, den wir meinen und wir sind uns jetzt auch so sicher, dass wir jetzt losschlagen, sondern du verlässt dich und das ist etwas, was glaube ich tief in uns ist, du verlässt dich auf die vermeintlich intelligentere Maschine, weil es auch ein Abschieben von Verantwortung in dem Fall ist. Und wenn du dir mal anschaust, dieser Angriff zum Beispiel auf diese Mädchenschule in Iran, gleich zu Beginn dieses Krieges, wo an die 180 Unschuldige gestorben sind.

Zum allergrößten Teil Mädchen zwischen acht und zwölf. Ja, übel. CNN hat das mal auseinandergenommen. Da siehst du Satellitenbilder von 2013. Da siehst du, dass sich die Schule mal in einem gemeinsamen Gebäude mit einer Basis der Revolutionsgarden befunden hat.

Auf Bildern von 2016 hätte man schon erkennen können, dass es sich aber um zwei unterschiedliche Dinge handelt, zwei unterschiedliche Anlagen, Institutionen und auf Bildern von 2025 siehst du sogar, wie Kinder im Garten dieser Schule spielen.

Das heißt, nicht der KI-Chatbot hat diese Mädchen getötet, sondern offensichtlich haben es Menschen versäumt, die Datenbank zu aktualisieren und andere haben ein System so schnell weiterentwickelt, dass dieser Fehler dann diese tödlichen Folgen haben konnte. Ich habe dir vorhin gesagt, 1000 Angriffe in 24 Stunden. Erzähl mir bitte nicht, dass du in der Lage bist als Mensch… In dieser Geschwindigkeit das ernsthaft zu überblicken und zu überprüfen, was da wirklich ist.

Das heißt, ein Mensch, der unter Druck, unter maximalem Druck und der weiß, es geht hier um Leben und Tod, Entscheidungen treffen muss, dem eine KI zur Seite steht, der wird, weil das menschliche Gehirn, unsere Psyche, auch das, was wir an Empathie in uns haben, das musst du ausschalten und einfach sagen, okay, ich vertraue jetzt darauf.

Die Maschine wird schon wissen, was sie da tut. Das bestätigt auch jemand wie Elke Schwarz beispielsweise, ist eine Politikwissenschaftlerin, die genau zu diesen Themen forscht. Die sagt, psychologisch sind wir so veranlagt, der Maschine mehr Vertrauen zu schenken, als wir es vielleicht tun sollten, weil uns das entlastet. Und das kann ich mir alles so gut vorstellen. Der Automation Bias. Genau. Weil wir davon ausgehen, dass unsere... So eine Automatisierungsverzerrung. Ja, genau.

Weil wir einfach davon ausgehen, dass unsere großartigen Maschinen das im Zweifelsfall sowieso viel besser wissen als wir. Und vor allen Dingen, wenn du dann die Gelegenheit hast, bei dem Beispiel, was du hattest, der Mensch, der in sein Auto steigt, wenn du dann nicht ja sagst, bist du nachher derjenige, der schuld daran ist, dass der dann den und den Terrorakt oder was, was ich was macht oder entkommt.

Und dann sagst du im Zweifelsfall, wenn die Maschine sich da schon so sicher ist, Und das Risiko, dass sie sich irrt, sehr, sehr, sehr, sehr gering ist. Dann sagst du, dann soll sie immer machen. Im Regelfall wirst du immer Ja sagen. Das werden nicht viele Fälle geben. Du hast das ja auch gerade gesagt, du musst dich da innerhalb von Sekunden entscheiden. Du kannst in Sekunden kein begründetes Nein in dem Moment anführen.

Und dadurch gibt es natürlich diese Verselbstständigung. Selbst wenn am Ende der Befehlskette ein Mensch steht. Und übrigens, was heißt eigentlich am Ende der Befehlskette? Also die Frage, wer ist denn dann am Ende schuld? Der, der aufgrund der falschen Informationen der KI gesagt hat, abfeuern? Derjenige, der diese KI entwickelt hat? Und wenn du dann ganz genau guckst, das ist ja auch nicht einer, sondern da haben viele verschiedene Leute dazu

beigetragen auf verschiedenen Ebenen. Ist es der Firmenchef der Firma, die das entwickelt hat? Ist das ein einziger Entwickler? War es ja gar nicht. Ist ein Entwicklungsteam. Und dann hast du am Ende keinen Verantwortlichen. Du hast Tote ohne echte Verantwortungskette. Das haben wir schon längst. Das haben wir, als der Drohnenkrieg begonnen hat. Das wird durch die KI noch sehr viel mehr werden. Da ist am Ende gar nicht der eine Verantwortliche, den man dafür vor Gericht schicken kann.

Aber wenn es den nicht gibt, dann wird es wiederum meinen Mut befeuern, Ja zu sagen, bei einem Zweifelsfall auch gar nichts passieren kann.

Genau und es macht auch was mit diesen Menschen. Wir haben den schon mehrfach zitiert, aber heute, finde ich, passt es noch einmal ganz kurz darauf einzugehen. Du erinnerst dich an den Fall des jungen Mannes, der in seinem Container in New Mexico sitzt, weil du gerade den Drohnenkrieg erwähnt hast, der bei uns damals im Interview berichtet hat, wie er über die Kamera sieht. Da ist dieses Gebäude und da drin versteckt sich einer von Al-Qaida und den greifen wir jetzt an.

Und er drückt diesen Knopf und das Ding geht runter und in letzter Sekunde sieht er, da läuft ein Mädchen aus dem Haus und dem ist klar, da drinnen wohnen jetzt auch kleine Kinder. Und dann ist der völlig fassungslos und sagt, wir haben ja gerade Kinder umgebracht. Und der Typ hinter ihm sagt ihm, nee, das war ein Hund. Und er sagt, du hast das doch gesehen, das hatte zwei Beine, da waren keine vier Beine. Und im Bericht steht später irgendwas von einem Hund.

Und dieses Kind kommt da nicht mehr vor. Und das hat diesen Menschen komplett zerstört. Und ich erinnere mich an ein Gespräch mit einem amerikanischen Scharfschützen, Garrett Rappenhagen, das mir unglaublich in Erinnerung geblieben ist, weil der damals erzählt hat, wie er im Irak Stunden und Tage und Wochen mögliche Ziele studiert hat. Und hat gesagt, ich habe die durch mein Fernrohr immer gesehen. Ich wusste genau, wer das ist. Ich wusste aber irgendwann zu viel über den.

Ich wusste irgendwann, wie der lacht. Ich wusste auch, dass das vielleicht auch in manchen Momenten ein sehr, sehr netter Mensch ist. Ich wusste, dass der Kinder hat. Ich hatte plötzlich eine Idee davon, wie dieser Mann lebt. Und dann habe ich irgendwann abdrücken müssen. Das hat ihn auch fix und fertig gemacht. Und diese Geschwindigkeit, die da jetzt plötzlich reinkommt, ist das Gegenteil davon.

Das heißt, das entlastet dich. und ich finde, du hast da völlig recht, führt dann dazu, dass du im Zweifel sagst, okay, komm, dann mach einfach, weil du weißt gar nichts über den. Der bedeutet dir nichts. Das ist absolut keine Beziehung zu dem. Und es gibt, finde ich, Richard, ein paar interessante moralische Fragen, die sich daraus ergeben. Also wenn ein Mensch im Krieg auf jemanden schießt, dann kann er ja wählen, ob er schießen will oder nicht.

Genau, der kann im letzten Augenblick vielleicht erkennen, ach du meine Güte, das ist ein Zivilist, der da gerade steht, der sah aus wie ein Militär, aber da ist gar kein Militär. Vielleicht will ich den verschonen. Wenn diese Abwägung weg ist, wenn die KI den Schießbefehl erteilt, dann ist das was anderes. Wählt die KI vielleicht die Option, absichtlich daneben zu schießen? Das erzählen die Soldaten auch häufig.

Ich habe absichtlich daneben geschossen, weil ich das nicht wollte, um den anderen vielleicht zur Flucht zu bewegen. Oder ist das Ding dann intelligent genug zu sagen, nee, pass auf, den bringe ich jetzt bitte nicht um, sondern ich verletze den so, dass ich ihn hinterher gefangen nehmen kann. Also was passiert, wenn die KI sich irrt? Was ist mit diesen vielen Abwägungsprozessen, die ja da auch mit einfließen? Finden die dann alle nicht mehr statt? Wie gehen wir damit um?

Was ist, wenn KI falschen Alarm auslöst und daraufhin Kriegserklärungen gemacht werden oder fürchterliche Reaktionen gezweitigt werden und, und, und. Ich meine, wir brauchen ja so eine Art Quintessenz daraus. Also wir haben jetzt auf diese ganzen Gefahren hingewiesen. Es gibt diesen berühmten technikkritischen Satz von Günther Anders, der Mensch ist kleiner als er selbst.

Wir sind in der Lage, auf technische Art und Weise grandios intelligente Dinge herzustellen, setzen die allerdings auch für solche fürchterlichen Dinge ein wie für Kriege. Und sind eigentlich in unserem moralischen Bewusstsein, unserer Versöhnlichkeitsentwicklung und so weiter ja nicht mitgereift. Wir sind immer noch die gleichen alten Menschen, die wir immer schon waren.

Und diese Technik überfordert uns eigentlich. Sie erleichtert uns bestimmte Dinge, aber indem sie diese Dinge erleichtert, überfordert sie uns und führt uns auch vom Menschlichen weg. Ich meine, das ist ein komplizierter Satz, weil so menschlich sind Kriege nie gewesen, aber sie versuchen den menschlichen Faktor aus dem Krieg zu löschen.

Und das ist alles eine so gefährliche Entwicklung, dass man sich ja wundert, dass es darüber keine Debatten gibt, weil jede Debatte wird mit einem einzigen Satz, wird mit einem Satz beendet. Und zwar, die anderen machen das ja schließlich auch und sonst geraten wir ins Hintertreffen und dann sind wir nachher die gearschten. Und damit geben wir uns zufrieden mit der Antwort. Und es gibt zum Beispiel, es gab ja bei Atomwaffen, Atomwaffensperrvertrag, Moratorium.

Andere Länder sollten keine Atomwaffen entwickeln. Ich will nicht sagen, dass das immer perfekt funktioniert hat. Aber es war zumindest ein Versuch, ein internationaler Versuch, die Ausbreitung einzudämmen. Ein vergleichbares Moratorium für KI ist nirgendwo in Sicht. Abrüstungsverhandlungen mit anderen Mächten im Hinblick auf KI nirgendwo in Sicht. Und das alles eben, weil es einen wichtigen Unterschied zwischen KI-Waffen und Atombomben gibt.

Atomwaffen sind eigentlich kein großes Geschäft. Die sind nicht so irrsinnig teuer in der Herstellung. Die halten ziemlich lange und haben eine unglaubliche Vernichtungskraft. Bei der konventionellen Rüstung, wer da alles dran beteiligt ist, von Zulieferer bis was weiß ich, ist ein riesiges Geschäft.

Und bei KI-Waffen ist das im Augenblick auch die Frage, wer macht quasi nicht nur national für den Verteidigungshaushalt in Deutschland oder in Frankreich oder in den USA, sondern global das große Geschäft damit. Und schon deswegen hat sich dieser Prozess immer weiter verselbstständigt und es ist unglaublich schwierig ihn auszubremsen.

Also selbst wenn es keine Feinde mehr gäbe, ich komme damit auf das zurück, was ich am Anfang gesagt hatte, würde diese Entwicklung weitergehen und das ist so reängstigend. Ja, ich meine Gaza, die Namen der Programme, die da die Angriffe gesteuert haben, die tragen dann so romantische Namen, Gospel und Lavender und so weiter. Und die Zahl der Ziele für Luftraketen, Artillerieangriffe hat sich verzehnfacht. Das muss man sich einfach mal klar machen.

Das hat was mit Datenbanken zu tun, die Geschosse lenken zu Häusern, in denen sich Hamas-Mitglieder verbergen. Und dann entsteht so oder wird versucht, der Öffentlichkeit zu erklären, da gibt es jetzt sozusagen eine digitale Klarheit, die diesen Nebel des Krieges jetzt irgendwie lichtet und so weiter. Und dann wissen wir ganz genau, chirurgisch präzise. Wen wir anzugreifen haben, so versprechen es die Hersteller, so erzählt es auch der Armeesprecher.

Dann schaust du dir mal die Opferzahlen an und dann merkst du plötzlich, das spricht alles eine ganz andere Sprache. Das heißt, das kann man so in Wahrheit gar nicht stehen lassen.

Ich würde gerne, Richard, mit dir noch einmal über die Gedankenwelt der Leute sprechen, über die wir da reden und die offensichtlich da gerade im Hintergrund die Fäden ziehen. Alexander Karp, dieses Buch, dieses Manifest, der spricht ja von der Kastration Deutschlands und Japans nach dem Zweiten Weltkrieg, die ein Fehler gewesen sei. Und fragt dann rhetorisch, woher denn eigentlich die Annahme käme, es gäbe neben der amerikanischen auch nur eine annähernd gleichwertige Kultur?

Das ist jetzt nicht irgendein Troll, der das schreibt, sondern das ist, wie gesagt, Alex Karp. Das ist jemand, der gerade unglaublichen Einfluss hat, wenn es um diese Dinge geht. Aus meiner Sicht einer der gefährlichsten Menschen der Welt, wahrscheinlich noch gefährlicher als Elon Musk. Ich habe den mal kennengelernt. Es ist so ein persönlicher Gespräch, ein netter Mensch.

Das ist kein Widerspruch. Es gibt einen schönen Bericht davon, wie zwei amerikanische Journalisten Josef Stalin besucht haben und nachher völlig begeistert waren, was das für ein sympathischer, warmherziger Mensch war. Lieber, ich will darauf hinaus, ich unterstelle dem überhaupt nicht, dass er ein bösartiger Mensch ist. Das muss man nicht sein. Also um etwas sehr, sehr Falsches zu tun, muss man keinen bösartigen Charakter

haben. Ich habe ja schon häufig zwischen dem Bösen und dem Schlechten unterschieden. Das Böse, Evil, das ist aus niederen Antrieben üble Dinge zu tun. Das Schlechte kann sein aus völlig rationalen Ansichten, zum Beispiel Steigerung des Börsenkurses und Phantastilliarden zu generieren und so weiter, bereit sein, Dinge in Kauf zu nehmen, die verheerende Folgen haben können. Das sind zwei verschiedene Dinge.

Böse muss er nicht sein, um irrsinnig gefährlich zu sein. Ja. Wie gesagt, ich will das gar nicht werden. Ich kenne den auch nicht wirklich. Ich bin ihm einmal begegnet und lese aber, was er schreibt. Und dieses Manifest, also wenn da einer schreibt, kein anderes Land habe so fortschrittliche Werte so stark gefördert wie Amerika. Während, und da kommt der zweite Teil, der ist noch härter, andere Kulturen dysfunktional und rückschrittlich bleiben.

Ja, so ein gewisser Kulturfaschismus steckt dahinter. Wo sind wir da? Es gibt auserwählte, ausgewählte Kulturen, die allen anderen überlegen sind. Es gibt minderwertige Kulturen und so diese ganze Art von Gedankenmut, die wir versucht haben aus unseren Gesellschaften in den letzten Jahrzehnten zu tilgen, die kommt jetzt hier ganz dumpf zurück.

Ja, auch ein anderer Punkt aus diesem Manifest sagt, das sei nur eine Frage der Zeit, bis jemand eine KI-Waffe baut, die mächtiger ist als Atomwaffen. Und daraus folgt dann für ihn, dass die Regulierung von KI-Waffensystemen ein Fehler ist, weil unsere Feinde, wer auch immer das ist, würden sich ja auch nicht derart künstlich einschränken. Das ist natürlich clever so zu argumentieren nach dem Motto, bitte nicht regulieren. Das ist ein drittes Argument gegen KI-Waffen ein.

Es sind ja nicht nur große Mächte, die KI-Waffen entwickeln. So wie wenn du Atomwaffen entwickelst. Ich meine, die Atombombe selber zu bauen, ist ja nicht das große Problem, aber du brauchst ja auch die Trägerraketen und so weiter, musst das ja alles irgendwie hinkriegen und das ist schon ein großes Problem und sieht man am Beispiel des Iran, das geht nicht mal eben so. Aber mit der richtigen Software, KI-Waffen herzustellen, kann jedes mexikanische Drogenkartell.

Wir hatten immer Angst, ich weiß, das war so eine große Angst in der Diskussion der 80er. Was ist, wenn Atomwaffen von den falschen Mächten entwickelt werden? Wenn irgendwelche Spinner, ja, damals Nordkorea, Iran und so, wenn die sowas entwickeln. Aber mit KI-Waffen ist das so einfach. Viel, viel, viel einfacher. Da brauchst du keine Zentrifugen, da musst du keinen Uran anreichern und so. Das ist so leicht.

Und du kannst da mit allen Verrückten dieser Welt fürchterlich todbringende Waffen in die Hände geben. Und du wirst es nicht kontrollieren können, dass sie da nicht drankommen, weil es so viel einfacher sein wird, als an Uran dranzukommen. Ein letzter Punkt noch, Richard, aus diesem Manifest. Die Kastration Deutschlands und Japans nach dem Zweiten Weltkrieg muss rückgängig gemacht werden. Man habe Deutschland, ich zitiere, die Zähne gezogen, wofür Europa jetzt einen hohen Preis zahlt.

Und auch Japan muss wieder stark werden. Gemeint ist, dass wir keine Atomwaffen haben, oder? So, ja, was auch immer. Also Franz Josef Strauß wollte das ja. Der wollte ja aus Deutschland damals eine Atommacht machen. Und aus altem Misstrauen wegen des Zweiten Weltkrieges wollten ja alliierten, allen voran die Amerikaner, das nicht. Was wäre jetzt besser in der Welt, wenn wir Atomwaffen hätten?

Ja, das ist das eine. Und dann geht es auch zu Punkten, die klingen so, als wären sie wirklich nur für die Gemagerbewegung geschrieben. Eben, schreibt er beispielsweise, es ist aktuell verboten, über, ich zitiere, Erfolgsbilanzen von Kulturen zu sprechen. Und Amerika muss der Versuchung eines leeren, hohlen Pluralismus widerstehen. Der Pluralismus. Also wir haben ja völlig zu Recht immer wieder die Gedankenwelt von Putin dafür kritisiert, dass er so ein ethnozentrisches Weltbild hat.

Da spielen die Russen wahrscheinlich eine ähnliche Rolle drin wie die Amerikaner im Weltbild von Alex Karp. Und dass er quasi den Pluralismus ablehnt von Gesellschaften. Also nicht möglichst viel Diversität macht eine gute Gesellschaft aus, sondern möglichst wenig Diversität. Möglichst viel Homogenität oder um nicht zu sagen Uniformität.

Und da hast du hier sehr, sehr ähnliches Gedankengut. Und es bleibt dabei, dass wir jemanden wie Alexander Karp oder Palantir die Schleusen öffnen, dass wir da maximal von profitieren wollen, dass wir keine als großmoralischen Skrupel haben, den in unser Boot zu holen, der dann auch über die ganzen Daten aus Deutschland entsprechend verfügt. Und es gibt überhaupt keine gesellschaftliche Debatte darüber.

Und das bei einem Menschen, von dem wir annehmen können, dass er kein Freund der liberalen Demokratie ist, sondern einen anderen Staat will. Interessant in dem Zusammenhang. Letzter Gedanke, Richard. Man könnte ja sagen, gut, jetzt reden die da über Krieg und das ist ja irgendwie weit weg. Und was hat das mit meiner Lebenswirklichkeit zu tun? Das kann ganz schnell was mit einer Lebenswirklichkeit zu tun haben.

Ich will nur in Erinnerung rufen, die Eisagenten in Minneapolis, die kamen nicht nur mit Pfefferspray und Pistolen, sondern die kamen mit einer App namens Elite von Palantir, die Ihnen sehr genau angezeigt hat, wo Sie die Zielperson finden können. Also softwarebasierter Zugriff heißt das dann so schön. Volle Infos über Augenfarben, Aufenthaltsorte, Polizeikontrollen, Kontakte zu anderen Menschen. Das alles kombiniert mit KI, mit dem was postest du, wo postest du und so weiter.

Und das zeigt sich dann plötzlich, da ist dann plötzlich ein Staat, der sich von einem anderen Staat, wie beispielsweise China, der unglaublich viel weiß über seine eigenen Bürger. Ja, aber nicht mehr grundsätzlich unterscheidet. Abgesehen davon, dass es die Eisleute nicht davon abgehalten hat, den Falschen zu verprügeln und zu töten. Auch das, auch das. Aber wenn du sagst, das hat auch diese Dimension.

Und es hat natürlich auch die Dimension, deutsche Polizeibeamte, die sagen, ja, hilft uns aber auch im Kampf gegen Terrorismusabwehr. Clankriminalität, Kinderpornografie, verstehe ich alles. Aber dem gegenüber stehen halt auch Bürgerrechte. Und ich glaube, du hast so einen guten Punkt, wenn du sagst, diese Debatte, die findet gar nicht statt gerade. Aber ich glaube, wir müssen sie dringend führen. Und wir sollten das weiter tun, auch wir beide hier.

Dank dir, Richard. Das war ein guter Austausch. Und eine gute Woche und bis bald. Mensch, ich ja. Ciao.