Herr Stadelmann, „Singularität“, „Superintelligenz“, „letzte Erfindung der Menschheit“ – in den letzten Monaten hat die Diskussion um den Weg der KI-Entwicklung zunehmend die breite Öffentlichkeit erreicht. Sie sind Professor für künstliche Intelligenz, aber den Jubelarien aus den Chefetagen der KI-Branche, die immer mehr Beachtung finden, würden Sie nicht zustimmen. Wieso? Was ist zum Beispiel falsch am Begriff der „Singularität“?
Dem Begriff liegt die philosophische Annahme zugrunde, dass Intelligenz auf einer linearen Skala verläuft. An einem Ende ist der Wurm, dann kommt die Katze, dann wir beide und dann Albert Einstein und vielleicht Hannah Arendt, dann so etwas wie „Allgemeine Künstliche Intelligenz“ (AGI) und schließlich Superintelligenz. Die Singularität ist der Punkt, wo die KI quasi den Menschen überflügelt und sich dann auch selbst verbessern kann, und dann geht es exponentiell weiter. Es gibt aber kein einziges technisches Argument hinter dieser Annahme. Man kann dran glauben oder auch nicht.
Dass zum Beispiel Anthropic die kommenden Claude-Versionen schon mithilfe der aktuellen KI-Version baut – also sich ja irgendwie selbst verbessert – ist für Sie kein Gegenargument?
Nein. Anthropic nutzt Claude, um Code zu schreiben, wie alle anderen. Machen wir auch. Aber gleichzeitig stellen die auch Softwareentwickler mit Grundgehältern jenseits der 300 000 Dollar ein. Also offenbar sind die angeblich 80 Prozent, die von Claude geschrieben werden können, nicht das Problem, sondern die anderen 20 Prozent. Es kommt auf den einen Gedanken an, an dem das Ganze hängt. Und der kam noch nie von KI. Und ob er jemals von KI kommt, wer weiß das schon. Die aktuelle Technologie gibt weder Superintelligenz noch AGI her. Mit dieser Überzeugung bin ich auch nicht allein, ich würde sagen, dass mittlerweile etwa die Hälfte der Leute, die sich zum KI-Forschungsumfeld zählen, das für relativ offensichtlich halten.
Wieso? Klären Sie uns auf.
Aktuelle KI-Systeme funktionieren mit statistischem Maschinenlernen. Wir stecken eine Eingabe X herein, und dann soll eine Ausgabe Y herauskommen. Die Funktion, die die Transformation von X zu Y beschreibt, erlernt das System, indem man ihm ganz viele, Millionen, Milliarden X und Y nennt. Was herauskommt, ist also eine Wahrscheinlichkeitsdichtefunktion. Die Eingabe ist der Kontext der letzten Worte, man spricht auch von Tokens, das sind Wortbestandteile, nicht wirklich Silben, aber man kann sich das so vorstellen. Und die Ausgabe ist das nächste Wort, meist das mit der höchsten Wahrscheinlichkeit. Natürlich ist das Ganze bei den aktuellen Modellen hochkomplex, aber eben doch eine Sache, die man berechnen kann.
Das heißt, wir wissen, wie KI derzeit fundamental funktioniert und können damit sagen, hey, so was kann ja wohl keine echte Intelligenz sein?
Jedenfalls wissen wir, dass wir Menschen anders funktionieren. Man kann offenbar vieles, was wir tun, auf Basis von diesem Wahrscheinlichkeitsprinzip simulieren. Aber wir merken ja auch immer, wenn wir diese Systeme verwenden, dass die manchmal dumme Sachen machen. Fehler, die uns nie unterlaufen würden, weil wir prinzipiell anders ticken.
Jetzt könnte man sagen, wir wissen ja eigentlich auch nicht so genau, wie menschliche Intelligenz funktioniert. Da wandern ja fundamental auch nur geladene Teilchen über irgendwelche Nervenmembranen. Können wir dann so sicher sein, dass die Modelle nie wirklich intelligent werden?
Zumindest sehen wir ja im Moment, dass die Ergebnisse der KI anders sind. Die Technologie, die wir jetzt haben, also die „Large Language Models“ („große Sprachmodelle“), hat grundsätzliche Einschränkungen etwa im logischen Planen. Nehmen wir so etwas wie Wegplanung. Wenn wir von Zürich nach Wien fahren wollen, nehmen wir Google Maps. Das System hat eine Straßenkarte und plant die Route anhand von logischen Prinzipien. Das ist gewissermaßen auch ein KI-Verfahren, aber schon Jahrzehnte alt. Wenn ich das Ganze mit einem Large Language Model machen will, dann nimmt es keine logischen Prinzipien, sondern baut stochastisch Tokens aneinander, jeweils mit einer kleinen Wahrscheinlichkeit, dass das fehlschlägt. Das ist das Prinzip, das dahintersteckt. Und diese Fehler multiplizieren sich auch über die Dauer. Die ersten fünf Schritte gehen noch grob in die richtige Richtung, aber 40 Schritte später bin ich halt nicht in Wien, sondern irgendwo gegen die Tunnelwand gefahren.
Woher kommt dann die Euphorie in der Branche? Warum meinen Sam Altman und Co., von Singularität reden zu können?
Also das ganze AGI-Konzept, dass man also ernsthaft eine generelle Intelligenz verfolgt, die alle die Sachen, die von ökonomischer Relevanz sind, besser oder gleich gut wie ein Mensch kann – das wäre eine typische Definition davon – das ist bis Anfang der 2010er-Jahre eigentlich nicht ernst genommen worden. Und dann hat erstmals Demis Hassabis, der Gründer von DeepMind, einen riesen Haufen Geld eingesammelt. Um die Investoren an Bord zu holen, haben er und seine Kollegen angefangen, von der Intelligenz als letzter Erfindung der Menschheit und diesen Geschichten zu reden. OpenAI hat es später ähnlich gemacht. Wie kriegt man Ressourcen? In Kalifornien dann, wenn man eine große Geschichte erzählt: „Fake it until you make it.“
Also ist die Singularität ein Marketing-Gag?
Spielt Geld, spielen die geplanten Börsengänge dieses Jahr eine Rolle? Ich würde sagen, auf jeden Fall. Wie viel? Kann man schlecht sagen. Es kommt eben auch noch der Glaube dazu. Es hat sich gerade im Silicon Valley eine transhumanistische Weltanschauung zusammengebraut, die letztendlich dazu führt, dass man es für sehr, sehr plausibel hält, aus den kleinen Anfängen, die man jetzt sieht, zu extrapolieren, dass KI ja auf jeden Fall superintelligent werden wird, auf jeden Fall den Menschen ablösen wird. Und dass das überhaupt kein Problem ist, dass wir keinerlei Idee haben, wie wir das technisch machen sollten. Die Leute, die diese Weltanschauung philosophisch begleiten und analysieren, machen das tatsächlich unter dem Fachbegriff Eschatologie.
Sie sind Christ. Jetzt lautet die Gegenfrage natürlich, ob Sie nicht auch einen Glauben haben, der Sie gewissermaßen voreingenommen macht. Klar ist für einen Christen die Vorstellung, dass der göttliche Funke aus Wahrscheinlichkeitsfunktionen entspringt, etwas fernliegender.
Vielleicht. Aber es gibt auch keinen Bibelvers, wo drinsteht, du kannst nichts bauen, was nicht am Ende Bewusstsein hat. Ich würde das also gar nicht vollständig ausschließen wollen, dazu fehlen mir endgültige, auch philosophische Argumente. Aber ich würde auch nicht ohne starke Argumente davon ausgehen, dass eine Maschine superintelligent werden kann und Bewusstsein erlangt. Die Technologie, die wir jetzt gerade haben, gibt das jedenfalls nicht her. So viel kann ich ausschließen.
Jetzt lässt sich ja nicht bestreiten, dass die bereits real verfügbare KI trotzdem ziemlich nützlich ist. Was ist mit der „Job-Apokalypse“? Kommen bald die Massenentlassungen, weil KI die Arbeit macht?
Was sind die Fakten, die wir haben? Wir haben einen Haufen Firmen, die momentan auch im Tech-Sektor Leute entlassen und sich hinstellen und sagen, das ist wegen der KI und der damit verbundenen Effizienzsteigerung. Aber gleichzeitig weiß man gerade bei den Tech-Konzernen, dass die in der Corona-Zeit ohne Ende Talent aufgesaugt haben, weil es billig war. Und da war total klar, dass eine Bereinigung um 20 Prozent der Belegschaft kommen muss. Die kommt jetzt. Es ist nur doof zu sagen, wir haben uns übrigens geirrt und Management-Fehler begangen und Geld ohne Ende rausgehauen.
Was ist mit den Einsteigerjobs? Die sollen ja durch KI besonders bedroht sein.
Ich kann mir schon vorstellen, dass Firmen, denen es vielleicht auch wirtschaftlich nicht so gut geht, in der Softwareentwicklung momentan erstmal zurückhaltend sind und schauen, ob man auch einfach mit Sprachmodellen „vibe coden“ kann. Aber es gibt auch große Studien, die basierend auf US-Daten besagen, dass es keinen signifikanten Zusammenhang zwischen der KI-Automatisierbarkeit eines Jobs und dem Rückgang von Juniorrollen gibt. Die sagen auch, die Einsteigerjobs hätten schon vor der aktuellen KI-Welle gelitten, und die ganze Entwicklung wäre viel eher vom Leitzins abhängig. Also das Ganze ist ein Stück weit umstritten. Der Markt ist ziemlich volatil, da wird auch KI irgendeine Rolle spielen. Aber eine Jobapokalypse sehe ich nicht.
Jetzt die „Tagespost“ abonnieren und nichts mehr verpassen.
