Als bei einem Manöver in der Heide Niedersachsens im vergangenen Dezember von 18 Puma-Panzern 18 komplett ausfielen, gab es schnell den Verdacht, die gravierende Panne sei durch Elektronikfehler oder die mangelnde Handhabung des digitalen Systems verursacht worden. Die Ursachen lagen aber woanders, die Rüstungsfirmen Rheinmetall und Krauss-Maffei Wegmann wurden wenigstens insoweit entlastet, als dass ein Stopp der Weiterproduktion des High-Tech-Panzers - wie sehr vorschnell von Bundesverteidigungsministerin Christine Lambrecht erlassen - sich nicht rechtfertigen ließ. Es zeigte sich aber auch, dass die Bundeswehr immer noch Aufholbedarf hat, was die Gestaltung ihrer Zukunft angeht. Die Vernetzung von Waffensystemen und die Verantwortung für künstliche Intelligenz werden künftig bei der Truppe eine wichtige Rolle spielen. Das war auch das Ergebnis eines Themenforums der Konrad-Adenauer-Stiftung gemeinsam mit der Universität der Bundeswehr München in der letzten Woche. Dabei rückten nicht allein technische, sondern auch ethische Fragen der militärischen Nutzung von Künstlicher Intelligenz (KI) in den Vordergrund.
Ethische Aspekte müssen früher eine Rolle spielen
Generalleutnant Ansgar Rieks ging das Thema KI aus soldatischer Blickrichtung an: Die ethische Debatte folge erst, nachdem ein neues Waffensystem erforscht und angeschafft worden sei. Das habe sich bei der Einführung von Drohnen gezeigt. Hier habe am Ende lediglich eine Scheindiskussion eingesetzt. Doch „alle Messen waren zu diesem Zeitpunkt schon gelesen“. Bei solchen Entscheidungen sollten sich alle Beteiligten mehr darum bemühen, dass der Zielkreis auch erreicht werde, forderte Rieks, der Stellvertreter des Inspekteurs der Luftwaffe ist.
Was Künstliche Intelligenz im Militär, besonders auf dem Gefechtsfeld bedeutet, lässt sich so erklären: Die hohe Informationsflut eines Abwehrsystems kann ein Mensch nicht mehr verarbeiten, besonders wenn es sich um Hyperschallwaffen handelt, die beispielsweise von Russland aus bis nach Berlin gerade mal 106 Sekunden brauchen würden. Drohnenschwärmen kann ebenfalls nur durch KI-Anwendungen erfolgreich begegnet werden. Ethisch bedeutet das, die menschliche Beteiligung - das „Human in the Loop“ - schlägt sich in der Programmierung nieder. Die Systeme können auch trainiert werden und lernen, auf Ereignisse zu reagieren.
Verantwortung und Künstliche Intelligenz
Künstliche Intelligenz steckt jetzt auch schon in manchem Abwehrsystem der Bundeswehr: Anfang des Monats haben die Grenadiere der Erzgebirgskaserne in Sachsen der damals noch amtierenden Verteidigungsministerin die Panzerabwehrwaffe MELLS präsentiert. Sie verfügt über eine Panzerwaffe mit selbststeuernder Programmierung, was im Kriegsfall entscheidend sein kann. Doch das, was KI-Systeme leisten können, geht noch weit über solche Anwendungsfälle hinaus. Ein intelligentes Datenmanagement ist notwendig.
Wolfgang Koch, der als Professor Informatik an der Universität Bonn lehrt, stellte auf dem Themenforum den neuen Sammelband „Bundeswehr der Zukunft: Verantwortung und Künstliche Intelligenz“ vor. Das Buch ist ein Kompendium. Es weist der „Inneren Führung“ als Grundlage für jedes Handeln in der Bundeswehr eine herausragende Rolle zu.
Ethische Maximen haben sich bewährt
Einfach gesagt: Die Innere Führung - 1956 als ein Verhaltenskompass für die Soldaten entworfen - hat sich außerordentlich bewährt. Die dort aufgestellten ethischen Maximen bewährten sich in der Bundeswehr gerade als Einsatzarmee. Beispiel Afghanistan: Exzesse und Entgrenzungen sind von deutschen Soldaten nicht bekannt, stellen etwa zwei der Autoren, der Bundestagsabgeordnete Markus Grübel (CDU) und seine Mitarbeiterin Sonja Müller fest.
Für so ein Verhalten sei ein Wertegerüst der Soldaten ausschlaggebend, das durch das Konzept der „Innere Führung“ vorgegeben werde. Diese Werte seien an der Würde des Menschen und am Grundgesetz ausgerichtet. Deshalb sei es notwendig, dass auch die Anwendung von KI-gestützter Technik diesen ethischen Maßstäben folgt. Es sei zu beantworten, wie politische Verantwortung im gesellschaftlichen Rahmen in der Wehrtechnik wahrgenommen werden kann.
Vordenker der Geschichte
Der Verantwortungsbegriff spielte schon für General Wolf Graf von Baudissin (1907-1993), den Architekten der Adenauerschen Armee, eine zentrale Rolle. Er schrieb damals von der Verwissenschaftlichung und Technisierung des militärischen Handwerks. Die Konsequenz sei eine Entgrenzung und Beschleunigung militärischen Handelns.
„Wenn das so ist, dann muss alles getan werden, dass der Soldat im höchst technisierten Gefecht auch an den unteren Stellen das sieht, Verantwortung tragen und verwirklichen kann.“ Vor diesem Hintergrund sollte hier von „künstlich intelligenter Automation“ gesprochen werden, präzisierte Wolfgang Koch. Denn Aufklärungs- und Waffensysteme würden künftig so intelligent sein, dass sie selbstständig dazulernen können.
Högl: „Am Ende muss der Mensch entscheiden“
Die Wehrbeauftragte des Bundestages, Eva Högl (SPD), plädierte für eine Weiterentwicklung der Grundsätze der „Inneren Führung“. Künstliche Intelligenz müsse genutzt werden, aber: „Das heißt für mich, dass am Ende immer der Mensch entscheiden muss.“ Damit ist klar, bei autonomen Waffen und KI-basierten militärischen Operationen darf es keine Entscheidungen geben, die außerhalb des Einflusses von Menschen liegen, auch bei tödlichen autonomen Waffen nicht.
Bei solchen Waffensystemen, den sogenannten Lethal Autonomous Weapon Systems (LAWS), stellt sich das als eine höchst anspruchsvolle Anforderung dar. So macht etwa Veronika Bock, Direktorin des Zentrums für Ethische Bildung in den Streitkräften, einer Einrichtung des katholischen Militärbischofs, in dem Sammelband darauf aufmerksam. dass derjenige, der durch LAWS angegriffen wird, nicht die Möglichkeit habe, an die Menschlichkeit des Angreifers zu appellieren.
Die Printausgabe der Tagespost vervollständigt aktuelle Nachrichten auf die-tagespost.de mit Hintergründen und Analysen.
