Logo Johann Wilhelm Naumann Stiftung Künstliche Intelligenz

Bundeswehr: KI braucht „Innere Führung“

Das Zeitalter der Künstlichen Intelligenz ist auch in der Bundeswehr angebrochen. Eine Tagung beschäftigte sich mit den Folgen, vor allem auch in ethischer Hinsicht.
Ein Schützenpanzer Marder mit aufmontiertem Panzerabwehrsystem MELLS steht am 12.01.2023 bei einer Präsentation in der E
Foto: IMAGO/Uwe Meinhold (www.imago-images.de) | Ein Schützenpanzer Marder mit aufmontiertem selbststeuerndem Panzerabwehrsystem MELLS.

Als bei einem Manöver in der Heide Niedersachsens im vergangenen Dezember von 18 Puma-Panzern 18 komplett ausfielen, gab es schnell den Verdacht, die gravierende Panne sei durch Elektronikfehler oder die mangelnde Handhabung des digitalen Systems verursacht worden. Die Ursachen lagen aber woanders, die Rüstungsfirmen Rheinmetall und Krauss-Maffei Wegmann wurden wenigstens insoweit entlastet, als dass ein Stopp der Weiterproduktion des High-Tech-Panzers - wie sehr vorschnell von Bundesverteidigungsministerin Christine Lambrecht erlassen - sich nicht rechtfertigen ließ. Es zeigte sich aber auch, dass die Bundeswehr immer noch Aufholbedarf hat, was die Gestaltung ihrer Zukunft angeht. Die Vernetzung von Waffensystemen und die Verantwortung für künstliche Intelligenz werden künftig bei der Truppe eine wichtige Rolle spielen. Das war auch das Ergebnis eines Themenforums der Konrad-Adenauer-Stiftung gemeinsam mit der Universität der Bundeswehr München in der letzten Woche. Dabei rückten nicht allein technische, sondern auch ethische Fragen der militärischen Nutzung von Künstlicher Intelligenz (KI)  in den Vordergrund.

Ethische Aspekte müssen früher eine Rolle spielen

Generalleutnant Ansgar Rieks ging das Thema KI aus soldatischer Blickrichtung an: Die ethische Debatte folge erst, nachdem ein neues Waffensystem erforscht und angeschafft worden sei. Das habe sich bei der Einführung von Drohnen gezeigt. Hier habe am Ende lediglich eine Scheindiskussion eingesetzt. Doch „alle Messen waren zu diesem Zeitpunkt schon gelesen“. Bei solchen Entscheidungen sollten sich alle Beteiligten mehr darum bemühen, dass der Zielkreis auch erreicht werde, forderte Rieks, der Stellvertreter des Inspekteurs der Luftwaffe ist.

Lesen Sie auch:

Was Künstliche Intelligenz im Militär, besonders auf dem Gefechtsfeld bedeutet, lässt sich so erklären: Die hohe Informationsflut eines Abwehrsystems kann ein Mensch nicht mehr verarbeiten, besonders wenn es sich um Hyperschallwaffen handelt, die beispielsweise von Russland aus bis nach Berlin gerade mal 106 Sekunden brauchen würden. Drohnenschwärmen kann ebenfalls nur durch KI-Anwendungen erfolgreich begegnet werden. Ethisch bedeutet das, die menschliche Beteiligung - das „Human in the Loop“ - schlägt sich in der Programmierung nieder. Die Systeme können auch trainiert werden und lernen, auf Ereignisse zu reagieren.

Verantwortung und Künstliche Intelligenz

Künstliche Intelligenz steckt jetzt auch schon in manchem Abwehrsystem der Bundeswehr: Anfang des Monats haben die Grenadiere der Erzgebirgskaserne in Sachsen der damals noch amtierenden Verteidigungsministerin die Panzerabwehrwaffe MELLS präsentiert. Sie verfügt über eine Panzerwaffe mit selbststeuernder Programmierung, was im Kriegsfall entscheidend sein kann. Doch das, was KI-Systeme leisten können, geht noch weit über solche Anwendungsfälle hinaus. Ein intelligentes Datenmanagement ist notwendig.

Wolfgang Koch, der als Professor Informatik an der Universität Bonn lehrt, stellte auf dem Themenforum den neuen Sammelband „Bundeswehr der Zukunft: Verantwortung und Künstliche Intelligenz“ vor. Das Buch ist ein Kompendium. Es weist der „Inneren Führung“ als Grundlage für jedes Handeln in der Bundeswehr eine herausragende Rolle zu.

Ethische Maximen haben sich bewährt

Einfach gesagt: Die Innere Führung - 1956 als ein Verhaltenskompass für die Soldaten entworfen - hat sich außerordentlich bewährt. Die dort aufgestellten ethischen Maximen bewährten sich in der Bundeswehr gerade als Einsatzarmee. Beispiel Afghanistan: Exzesse und Entgrenzungen sind von deutschen Soldaten nicht bekannt, stellen etwa zwei der Autoren, der Bundestagsabgeordnete Markus Grübel (CDU) und  seine Mitarbeiterin Sonja Müller fest.

Für so ein Verhalten sei ein Wertegerüst der Soldaten ausschlaggebend, das durch das Konzept der „Innere Führung“  vorgegeben werde. Diese Werte seien an der Würde des Menschen und am Grundgesetz ausgerichtet. Deshalb sei es notwendig, dass auch die Anwendung von KI-gestützter Technik diesen ethischen Maßstäben folgt.  Es sei zu beantworten, wie politische Verantwortung im gesellschaftlichen Rahmen in der Wehrtechnik wahrgenommen werden kann.

Vordenker der Geschichte

Der Verantwortungsbegriff spielte schon für General Wolf Graf von Baudissin (1907-1993), den Architekten der Adenauerschen Armee, eine zentrale Rolle. Er schrieb damals von der Verwissenschaftlichung und Technisierung des militärischen Handwerks. Die Konsequenz sei eine Entgrenzung und Beschleunigung militärischen Handelns.

„Wenn das so ist, dann muss alles getan werden, dass der Soldat im höchst technisierten Gefecht auch an den unteren Stellen das sieht, Verantwortung tragen und verwirklichen kann.“ Vor diesem Hintergrund  sollte hier von „künstlich intelligenter Automation“ gesprochen werden, präzisierte Wolfgang Koch. Denn Aufklärungs- und Waffensysteme würden künftig so intelligent sein, dass sie selbstständig dazulernen können.

Högl: „Am Ende muss der Mensch entscheiden“

Die Wehrbeauftragte des Bundestages, Eva Högl (SPD), plädierte für eine Weiterentwicklung der Grundsätze  der „Inneren Führung“. Künstliche Intelligenz müsse genutzt werden, aber: „Das heißt für mich, dass am Ende immer der Mensch entscheiden muss.“ Damit ist klar, bei autonomen Waffen und KI-basierten militärischen Operationen darf es keine Entscheidungen geben, die außerhalb des Einflusses von Menschen liegen, auch bei tödlichen autonomen Waffen nicht.

Bei solchen Waffensystemen, den sogenannten Lethal Autonomous Weapon Systems (LAWS),  stellt sich das als eine höchst anspruchsvolle Anforderung dar. So macht etwa Veronika Bock, Direktorin des Zentrums für Ethische Bildung in den Streitkräften, einer Einrichtung des katholischen Militärbischofs, in dem Sammelband  darauf aufmerksam. dass derjenige, der durch LAWS angegriffen wird, nicht die Möglichkeit habe, an die Menschlichkeit des Angreifers zu  appellieren.

Die Printausgabe der Tagespost vervollständigt aktuelle Nachrichten auf die-tagespost.de mit Hintergründen und Analysen.

Themen & Autoren
Roger Töpelmann Bundestagsabgeordnete Bundeswehr CDU Christine Lambrecht Deutscher Bundestag Eva Högl Humanität Konrad-Adenauer-Stiftung Künstliche Intelliegenz Künstliche Intelligenz Markus Grübel Rheinische Friedrich-Wilhelms-Universität SPD

Weitere Artikel

Lange stand die Bundeswehr nicht mehr so sehr im Fokus der Aufmerksamkeit. Aber wie sieht es innerhalb der Truppe aus?
17.05.2024, 13 Uhr
Roger Töpelmann
Mit den Kriegen in Ukraine und Nahem Osten gewinnt die Rüstungsindustrie an Bedeutung, nachdem sie lange ein Nischendasein fristete. Porträt einer Branche.
30.10.2023, 11 Uhr
Jakob Ranke
Seit 100 Tagen ist Boris Pistorius im Amt. Zeit, eine erste Bilanz der Arbeit des Bundesverteidigungsministers zu ziehen.
05.05.2023, 09 Uhr
Konstantin Hartmann

Kirche