Herr Professor Fuchs, Ihr vergangenes Jahr bei Suhrkamp erschienenes Buch "Verteidigung des Menschen" hat bereits drei Auflagen erfahren. Darin kritisieren Sie unter anderem den Begriff der "Künstlichen Intelligenz". Warum?
Wir befinden uns in einer Situation mit massiven Fortschritten in der Forschung und Entwicklung von Künstlicher Intelligenz, der Digitalisierung unserer Lebenswelt überhaupt und nicht zuletzt der Reduzierung von geistigen auf neuronale Prozesse. All das lässt Menschen immer mehr als ein Produkt von Daten und Algorithmen erscheinen. Träfe dies zu, wären wir nur schlechtere Maschinen. Im Grunde haben wir sogar ein doppeltes Problem: Einerseits begreifen wir uns selbst immer mehr nach dem Bild unserer Maschinen. Auf der anderen Seite erheben wir unsere Maschinen und Apparate zu neuen Subjekten. Letzteres geschieht schon mit dem im Grunde fragwürdigen Begriff der Künstlichen Intelligenz. Denn Intelligenz können wir eigentlich nur einem bewussten Wesen zusprechen.
"Wer intelligent ist, muss zumindest über ein
grundlegendes Verständnis davon verfügen,
was er gerade tut und was um ihn herum vorgeht"
Klären Sie uns auf...
Wenn wir von Intelligenz sprechen, dann bedeutet das schon dem Wort nach, dass man eine Situation einsieht, versteht, begreift. Wer intelligent ist, muss zumindest über ein grundlegendes Verständnis davon verfügen, was er gerade tut und was um ihn herum vorgeht. Um eine Situation intelligent angehen, also kreative Lösungen für Probleme finden zu können, muss man sich selbst im Verhältnis zu einer Situation betrachten können.
Können Sie das an einem Beispiel illustrieren?
Nehmen wir an, jemand begibt sich in einen dunklen Wald und markiert fortlaufend seinen Weg, damit er notfalls wieder hinausfindet. So jemand handelt intelligent. Er offenbart einen Überblick, der über die augenblickliche Situation hinaus reicht; er sieht sich gewissermaßen von außen, antizipiert eine mögliche, zukünftige Situation und trifft Vorkehrungen zu deren Abwehr. Das wäre ein klassisches intelligentes Verhalten. Aber um so verfahren zu können, benötigt man ein Bewusstsein von sich selbst. All das vermag ein sogenanntes künstlich intelligentes System gar nicht; es kann sich nicht von außen sehen. Kein Schachcomputer weiß, dass er Schach spielt. Keine Alexa oder Siri nimmt sich als sprechend wahr und erfährt sich selbst im Verhältnis zu dem Menschen, mit dem sie vermeintlich "kommuniziert". Kein Computer versteht auch nur das Geringste von dem, was er an Daten verarbeitet oder produziert. Auch Smartphones sind, obwohl zweifelsfrei sehr nützliche Geräte, keineswegs "smart", also englisch: klug. Klug ist allenfalls der Programmierer oder der Designer, der den Apparat entworfen hat. Insofern ist der Begriff "Künstliche Intelligenz" eigentlich eine Fehlbezeichnung. Er hat sich nun einmal eingebürgert und es macht keinen Sinn, ihn jetzt zu bekämpfen. Ich will nur darauf hinweisen, dass der Begriff eigentlich auf einem Kategorienfehler basiert.
"Auch Rechnen ist ein Prozess, den wir
eigentlich nur Menschen zuschreiben können"
Wenn Maschinen, weil es ihnen an Bewusstsein mangelt, gar keine Informationen, sondern bloß Daten verarbeiten und folglich auch nicht denken, können sie wenigstens rechnen?
Auch Rechnen ist ein Prozess, den wir eigentlich nur Menschen zuschreiben können. Rechnen bedeutet ja, mit Zahlen so zu hantieren, dass sich das Ergebnis, auf das man es abgesehen hat, am Ende auch beurteilen lässt, nämlich als richtig oder falsch. Und dieser Vorgang, der ja ein Denkvorgang ist, lässt sich keinem Computer zuschreiben. Ein Computer durchläuft bestimmte Zustände, die nur Menschen als ein Berechnen und dann als richtig oder falsch aufzufassen vermögen. Der Computer kann das nicht. Er ist gezwungen, Abläufe zu durchlaufen, die ihm vorgegeben oder vorprogrammiert wurden. Und dieses Durchlaufen ist kein Rechnen, jedenfalls nicht im landläufigen Sinne.
Könnte man sagen, der Computer folgt, wenn er "rechnet", genau wie wir, Regeln: Mit dem Unterschied, dass er nicht weiß, dass er Regeln folgt?
Richtig. Und deswegen kann er das Ergebnis auch nicht anhand mathematischer Regeln überprüfen oder seinen Rechenweg damit vergleichen, sondern er kommt schlicht bei einem Resultat an, das wir dann als Ergebnis auffassen.
Heißt: Maschinen sind im Grunde "stromdumm" und werden es auch bleiben?
(Lacht) Polemisch lässt sich das natürlich so sagen, auch wenn KI-Entwickler und Ingenieure das sicher nicht gerne hören. Ich würde es allerdings vorziehen, zu sagen, Kategorien wie "intelligent" oder "dumm" sind auf Maschinen gar nicht anwendbar. Bei der Ziehung der Lottozahlen sagen wir ja auch nicht, je nachdem welche Zahlen die Maschine zutage fördert, das habe sie "klug" oder "dumm" gemacht. Die Maschine durchläuft einfach einen Prozess. Und dieser hat mit "klug" oder "dumm" nicht das Geringste zu tun.
Prognosen einer "Singularität" oder Science-Fiction-Szenarien, in denen intelligente Maschinen die Menschheit versklaven, die Physiker wie Max Tegmark vom MIT oder der Technik-Chef von Google, Ray Kurzweil, anreichen, sind also nur Schlechte-Nacht-Geschichten, die Menschen zu Unrecht erschrecken?
Nun, es gibt den Gedanken der "allgemeinen Künstlichen Intelligenz". Dieser beschreibt die erste Stufe einer zumindest menschenähnlichen Intelligenz, die unsere Prozesse des bewussten Überlegens simulieren könnte, oder gar den Gedanken einer "Singularität", also einer technologischen Stufe, auf der die "Künstliche Intelligenz" sich verselbstständigt, einen exponentiellen Fortschritt erreicht und durch stetige Simulation von Gehirnen ein Bewusstsein erlangt. Das entspräche der Vision - oder besser - der Utopie von KI-Ingenieuren wie Ray Kurzweil oder anderen. Ich halte das für eine Illusion.
Weil?
"Auch die perfekte Simulation intelligenter Leistungen
bedeutet nicht, dass die Leistungen auch auf die gleiche Weise
zustande gekommen sind wie bei uns, nämlich
durch Überlegen, Nachdenken und ein Sich-Vorstellen"
Weil Simulation nicht das Gleiche ist wie Realität. Auch die perfekte Simulation intelligenter Leistungen bedeutet ja nicht, dass die Leistungen auch auf die gleiche Weise zustande gekommen sind wie bei uns, nämlich durch Überlegen, Nachdenken und ein Sich-Vorstellen, kurz: über imaginative Prozesse. Um sich das klar zu machen, hilft ein ironischer Vergleich von John Searle, der einmal sagte, wir können mit einem Computer einen Wirbelsturm simulieren, aber diese Simulation hat noch keinen Meteorologen umgeweht. Physiker können auch Schwarze Löcher im Computer simulieren, aber das hat noch keinen Physiker in den Computer gezogen. Zugegeben, der Vergleich ist ein wenig skurril, aber er macht doch anschaulich, dass das, was wir simulieren können, tatsächlich nur eine Simulation ist und eben nicht die Realität.
Wenn Intelligenz ein Bewusstsein erfordert, was erfordert dann ein Bewusstsein?
Meine These ist: Bewusstsein setzt Leben voraus. Zumindest kennen wir Bewusstsein in dieser Welt nur von Lebewesen und daher ist es immer auch verkörpert. Bewusstsein beruht aber nicht nur auf neuronalen Prozessen, die dann irgendwie digitalisiert werden könnten, sondern es beruht auf analogen, den ganzen Körper einbeziehenden Lebensprozessen, die nur in einem Organismus zustande kommen können. Eine künstliche Intelligenz, die ein Bewusstsein erlangt, müsste in einem künstlich geschaffenen Lebewesen auftauchen. Und das liegt, da Lebewesen nur aus Lebewesen hervorgehen, außerhalb jeder Vorstellung.
Wenn Bewusstsein aber einen lebendigen Körper benötigt, macht es dann Sinn, an die Existenz eines Schöpfergottes zu glauben, der ja als reiner Geist gedacht wird? Oder ist diese Vorstellung nur eine weitere Illusion, mit der wir uns täuschen?
Wir haben zumindest keine irdische Evidenz dafür, ein solches Bewusstsein für möglich zu halten. Denn alles Bewusstsein und bewusstes Erleben ist eine Form von Leben. Erleben meint ja, das Leben, das zu sich selbst kommt. Und hier, in unserer Welt, kennen wir keinen reinen Geist, ohne physische Verkörperung. Zudem wäre ein solcher reiner Geist für uns auch phänomenal schwer vorstellbar. Denn nicht nur Fühlen und Spüren, sondern auch das Wahrnehmen selbst setzen immer Leiblichkeit voraus. Ohne einen Körper gibt es gar kein Zentrum, von dem aus etwas wahrgenommen werden kann. Andererseits sind wir um einen Gedanken der negativen Theologie aufzugreifen ja dazu verdammt, Gott hoffnungslos anthropomorph zu denken. Und zumindest solange wir das tun, braucht Gott tatsächlich einen Körper. Das liegt daran, dass unser eigenes Bewusstsein unabdingbar verkörpert ist; hier hat Descartes einfach Unrecht.
Thomas Fuchs: Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie. Suhrkamp Verlag, Berlin 2020. 331 Seiten. 22,00 Euro.
Die Printausgabe der Tagespost vervollständigt aktuelle Nachrichten auf die-tagespost.de mit Hintergründen und Analysen.
