Als Hans Jonas 1979 sein Werk „Das Prinzip Verantwortung“ veröffentlichte, konnte er nicht ahnen, wie aktuell es heute sein würde. Jonas’ Imperativ – „Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden“ – war damals als Antwort auf Atomkraft und Umweltzerstörung gedacht. Heute trifft er den Kern der Künstlichen Intelligenz.
Jonas’ zentrale Einsicht war radikal: Nicht nach dem größtmöglichen Nutzen – den uns eine neue Technologie bringen könnte – sollten wir fragen, sondern nach dem größtmöglichen Schaden, den wir zu verhindern haben. „Heuristik der Furcht“ nennt er diese Methode. Wer eine neue Technologie einführen will, muss beweisen, dass sie nicht schädlich ist – nicht umgekehrt.
Diese Beweislastumkehr gewinnt im KI-Zeitalter existenzielle Bedeutung: Heutige KI-Systeme können bereits einzelne Aufgaben besser erledigen als Menschen – mit allen Risiken für Arbeitsmarkt und demokratische Kontrolle. Eine künftige Superintelligenz könnte unsere menschliche Problemlösungskompetenz in allen Bereichen übertreffen. Doch wie kontrolliert man eine Intelligenz, die klüger ist als wir selbst? Wird sie entsprechend unseren menschlichen Wertvorstellungen agieren oder sich gar gegen den Menschen richten? Dürfen wir ein solches Risiko überhaupt eingehen?
Es geht nicht um pauschale Verbote
Jonas formulierte einen klaren Grundsatz: „Niemals darf Existenz oder Wesen des Menschen im Ganzen zum Einsatz in den Wetten des Handelns gemacht werden.“ Im Zweifelsfall müssen wir uns für den Fortbestand der Menschheit entscheiden und nicht für einen riskanten technologischen Fortschritt, der von der Profitgier des Silicon Valley ebenso beflügelt wird wie von machtgierigen Autokraten.
Ist das rückwärtsgewandt? Keineswegs. Jonas ist kein Technikfeind, sondern ein Verantwortungsethiker: KI zur Bekämpfung des Klimawandels oder von Pandemien – hier überwiegt der Nutzen. KI zur Verhaltenskontrolle von Menschen oder zum autonomen Töten – hier muss eine Grenze gezogen werden; man denke nur an das Wiedererstarken von Diktaturen, die solche Systeme gegen ihre eigene Bevölkerung einsetzen.
Offensichtlich geht es nicht um pauschale Verbote, sondern um transparente, demokratisch kontrollierte und gestufte Einführung neuer Technologien, wie wir sie von der Erprobung neuer Medikamente kennen. Diese Verantwortung für die weitere Entwicklung von KI darf keine reine Expertensache bleiben, sondern muss im gesellschaftlichen Diskurs ausgehandelt werden.
Die Herausforderungen unserer Zeit sind riesig: Wir haben Probleme geschaffen – wie Klimawandel und Atomwaffen –, die nur mit KI-Systemen beherrschbar sind. Zugleich birgt eben diese machtvolle KI existenzgefährdende Risiken. Umso dringlicher ist Jonas’ Mahnung: In einer Ära, in der alle rufen „schneller, größer, weiter“, brauchen wir die Gegenstimme, die „langsamer, vorsichtiger, bedachter“ ruft. Nicht jede technische Möglichkeit muss realisiert werden. Die KI-Revolution ist unausweichlich – aber ob wir sie zum Wohl oder Schaden der Menschheit ausgestalten, liegt an uns allen.
Der Autor lehrt Philosophie an der Universität Siegen, der WHU Vallendar und der Hochschule für Philosophie München.
Die Printausgabe der Tagespost vervollständigt aktuelle Nachrichten auf die-tagespost.de mit Hintergründen und Analysen.
