Gespräch mit KI-Vater Jürgen Schmidhuber

«Der Mensch ist nicht die letzte Stufe»

Nutzen Sie es?
Kaum. Aber meine Studenten nutzen es die ganze Zeit.

Wie viel von Ihrer Technologie steckt da drin?
ChatGPT beruht auf einem künstlichen neuronalen Netzwerk, das Transformer heisst. Der Name wurde 2017 erfunden. Aber schon 1991, damals war ich noch nicht in der Schweiz, sondern an der Technischen Universität München, habe ich eine erste Version des Transformers veröffentlicht – heute heisst das lineare Transformer. Insofern freue ich mich, dass da so ein altes Teil wieder zu neuen Ehren kommt. Es steckt nicht nur in ChatGPT, sondern auch in vielen anderen Sprachmodellen wie etwa in Googles Bard.

Bekommen Sie oder Ihr Institut IDSIA Geld dafür?
Jedes Mal, wenn Sie mit Ihrem Telefon reden, kriegen wir einen Cent.

Schön wärs, oder?
Wir kriegen leider gar nichts, obwohl Milliarden von Menschen unsere Algorithmen ständig benutzen. Facebook hat zum Beispiel schon 2017 jeden Tag vier Milliarden Mal eine unserer anderen Technologien, LSTM, verwendet …

… Long Short-Term Memory …
Genau. Auf Facebook konnte man damit Botschaften übersetzen. Vier Milliarden Cent wären 40 Millionen Dollar pro Tag, das reicht schon für ein schönes Dinner. Doch selbst wenn wir unsere Grundlagentechnologien seinerzeit patentiert hätten, wären die Patente inzwischen abgelaufen. Microsoft und Amazon nutzen diese Technologie ebenfalls – eigentlich die meisten Tech-Firmen der US-Westküste, aber auch viele in Asien.

Wo konkret?
Der kommerzielle Durchbruch kam im Jahr 2015. Damals hat Google zum ersten Mal unser LSTM verwendet für die Spracherkennung auf allen Android-Telefonen. Und plötzlich war die um 50 Prozent besser als vorher. Und dann haben nach kurzer Zeit schon 30 Prozent der Amerikaner Spracheingabe verwendet, um mit ihrem Smartphone zu kommunizieren. LSTM wurde auch benutzt, um Texte zwischen verschiedenen Sprachen zu übersetzen. Trainiert haben wir es auch mit Dokumenten aus dem Europäischen Parlament mit einer Methode namens CTC, die wir in der Schweiz entwickelt hatten. Auf diese Weise wurde dann im November 2016 die Google-Übersetzung viel, viel besser. Vorher hatten die Chinesen noch gelacht über die Übersetzungen von Google ins Mandarin. Danach dann nicht mehr.

Welche Berufe werden als Erstes durch KI ersetzt werden?
Schreibtischtäter sind viel gefährdeter als etwa Klempner. Alles, was mit der physikalischen Welt zu tun hat, ist viel schwieriger zu ersetzen als das, was man am Rechner machen kann. Auch Altenpflege und Krankenbetreuung beispielsweise. Die Japaner sind seit Jahrzehnten bestrebt, Pflegeroboter zu bauen, die Ergebnisse sind allerdings noch nicht so toll, denn da geht es um den körperlich anstrengenden, doch behutsamen Umgang mit anderen Menschen.

Werden wir eines Tages in einer Welt leben, in der menschliche Arbeit in weiten Teilen gar nicht mehr gebraucht wird?
Ich glaube schon. All das, was wirklich essenziell ist für den Menschen, vom Ackerbau bis zur Gebäuderenovation, werden KI-gesteuerte Roboter dereinst besser und billiger können.

Was wären die Folgen für die Gesellschaft, wenn ein Grossteil der Menschheit nicht mehr arbeiten muss oder kann?
Der Homo ludens will ja arbeiten, deswegen wird er es weiter tun. Vor 200 Jahren waren 60 Prozent der Menschen in der Landwirtschaft tätig, heute bloss noch eineinhalb Prozent. Trotzdem gibt es nur fünf Prozent Arbeitslose, weil lauter neue Berufe entstanden sind, zumeist Luxusberufe.

Das heisst, wir werden in Zukunft nur noch zum Spass an der Freude arbeiten?
Vor 30 Jahren hat keiner vorhergesehen, wie Influencer auf YouTube und sonst wo ihr Geld verdienen werden. Sie investieren hierzu viel Arbeitszeit, auch wenn sie vielleicht weniger zum Erfolg der Menschheit beitragen als etwa die Bauern. Macht alles davon Spass und Freude? Kaum. Doch Influencer erhoffen sich durch neue Arten der Interaktion mit anderen Menschen Ruhm und Geld. Der Homo ludens erfindet am liebsten Berufe, die mit anderen Menschen zu tun haben, von denen er Anerkennung will für das, was er tut, und findet einen grossen Markt dafür.

Braucht es dann ein bedingungsloses Grundeinkommen, finanziert durch eine Roboter- und KI-Steuer?
Es gibt ja heute schon in den Wohlfahrtsstaaten eine Art Grundsicherung – da verhungert niemand. Und darauf aufbauend wird es früher oder später wohl ein weitergehendes Grundeinkommen geben. Aber dazu braucht es keine expliziten KI- oder Robotersteuern.

Sondern?
Manche, die viele KIs oder Roboter einsetzen, werden enorm viel Geld verdienen. Und auf dieses Einkommen müssen sie eh schon Steuern zahlen.

In der Robotik sieht man bisher nicht viel Intelligenz. Woran liegt das?
Bei der modernen KI geht es ums Lernen, während die meisten Roboter vorprogrammiert sind und nur starre Anweisungen ausführen. Etwa im Autowerk: Pack diesen Beifahrersitz und schieb ihn millimetergenau in die Fahrgastzelle. Der Roboter ist viel stärker als ein Mensch und macht das viel präziser. Das braucht aber null Intelligenz.

Aber wenn er intelligent wäre und es selber lernen könnte, müsste man ihn nicht aufwendig programmieren.
Das stimmt. Aber man will nicht, dass die Roboter kaputtgehen beim Lernen. Wir haben zwar längst lernende Roboter mit Schmerzsensoren. Die liefern negative Signale zurück, wann immer der Roboter irgendwo anschlägt oder eine heisse Oberfläche berührt oder Ähnliches. Dann kann er aus diesen negativen Signalen lernen, das zu vermeiden. Aber wenn so ein schwerer Industrieroboter mit seiner ganzen Kraft erst hundert Mal irgendwo anstossen muss, um herauszufinden, was die Konsequenzen seines Handelns sind, dann würde er sich dabei selbst und möglicherweise auch seine Umgebung zerstören. Mit unserer Firma Nnaisense versuchen wir genau auf diesem Gebiet Fortschritte zu erzielen.

Was macht Ihre Firma genau?
Nnaisense beschäftigt sich mit dem Erlernen der Steuerung physikalischer Prozesse durch KI. Vereinfacht gesagt geht es darum, wie alle Maschinen in einer Fabrik zusammenarbeiten müssen, damit das gewünschte Endprodukt rauskommt. Nnaisense macht auch KI für das Finanzwesen.

Derzeit pumpen Unternehmen und Staaten Hunderte von Milliarden in das Thema KI. Wie sehen Sie die Schweiz positioniert in diesem Wettlauf?
Die Schweiz ist eigentlich gut aufgestellt in der Grundlagenforschung – vielleicht besser als jedes andere Land. Wenn man heute Publikationen und Auftritte an führenden Konferenzen zählt, dann ist die Schweiz, gemessen an der Bevölkerungszahl, fast doppelt so erfolgreich wie die zweitplatzierte Nation. Das wissen viele Schweizer gar nicht – auch hier im Tessin nicht, wo ein Institut direkt vor der Haustür Grundlagen der KI geschaffen hat. Weniger funktioniert in der Schweiz die Kommerzialisierung. Es gibt hier keine grossen Tech-Firmen wie Google, Facebook, Microsoft in den USA oder wie Alibaba, Tencent, Baidu in China. Denken Sie an das World Wide Web …

… das wurde im CERN in Genf entwickelt.
Genau, von Sir Tim Berners-Lee, einem britischen Einwanderer. Damals hiess er nur Tim. Aber das grosse Geld wurde dann an der US-Westküste gemacht. Die Schweiz war immer sehr geschickt im Anziehen von Einwanderern, die Grosses leisteten und Firmen wie Nestlé oder Ciba gründeten. Ganz zu schweigen von Einstein, dem berühmtesten Wissenschaftler aller Zeiten! Aber im IT-Bereich hat die Kommerzialisierung in Europa kaum funktioniert.

Wenn Sie sagen, die Schweiz sei in der Grundlagenforschung das beste Land der Welt, wieso forschen Sie selber dann auch noch in Saudi-Arabien?
Zum ersten Mal sitzt neuerdings sogar die Schweiz am falschen Ende des globalen Braindrains. Lange Zeit konnte das Land exzellente Leute aus den umgebenden grossen europäischen Kulturen anziehen – die Schweiz war für Wissenschaftler sehr attraktiv. Aber nun gibt es in anderen Teilen der Welt etliche Labore, deren Bedingungen nochmals besser sind – teilweise sogar deutlich besser. Und diese sind zum Teil sehr erfolgreich. Die King Abdullah University of Science and Technology (KAUST), an der ich forsche, ist inzwischen die Universität mit dem grössten Einfluss pro Professor auf der ganzen Welt. Wer hätte so etwas in Saudi-Arabien vermutet? Früher hielten diese Rekorde das CalTech in Kalifornien oder die Princeton University.

Was machen Institute wie die KAUST denn besser?
Den Professoren stehen unbürokratisch sehr viele Möglichkeiten offen. KAUST kriegt jetzt zum Beispiel einen Supercomputer, der 2800 der teuren Rechenkerne hat, die man in der KI braucht. Keine andere Uni auf der Welt hat so etwas für sich allein. Auch die Schweiz hat einen tollen Supercomputer, das CSCS hier in Lugano, gerade mal fünf Minuten von hier. Aber der ist halt für das ganze Land mit fast neun Millionen Einwohnern, unter anderem für die EPFL und die ETH, nicht nur für die Uni in Lugano.

Was muss also die Schweiz machen, um sich besser zu positionieren? Supercomputer kaufen?
Das ist eines der Dinge, die man machen muss im Bereich KI. Vielleicht sollte man auch eine sehr gut geförderte zusätzliche Exzellenz-Uni für KI schaffen, samt Anreizen zur Skalierung entspringender Start-ups. Aber ist das durchsetzbar in der Schweiz? Es gibt ja schon sehr gute Unis, die erfolgreicher sind, als man es angesichts der Grösse des Landes vermuten möchte. Was ich gelernt habe über die Schweizer Politik: Man will keine Industriepolitik machen wie etwa die Amerikaner im Kalten Krieg, als das Pentagon das Silicon Valley aufbaute, oder heute die Chinesen. Die Schweizer wollen lieber hier ein bisschen regulieren und dort ein paar Anreize schaffen. Aber sie wollen nicht plötzlich ganz viel Geld für ein Superlabor ausgeben, selbst wenn es strategisch angebracht wäre.

Wladimir Putin sagt, dass derjenige, der KI-Marktführer ist, auch die Welt regieren wird. Hat er recht?
Ich war dabei, als er das gesagt hat, vor dem Krieg, 2019 an einer grossen Konferenz in Moskau, wo ich Keynote Speaker war. Ich hatte damals schon den Eindruck, dass er das aus der Optik eines Nutzers von KI-Werkzeugen sieht – wobei also noch immer der Mensch die Entscheidungen trifft. Richtig interessant wird dann aber die Frage: Was ist mit den KIs, die sich ihre eigenen Ziele geben, die also nicht nur stur die Ziele verfolgen, die ihnen von Menschen gesetzt werden?

Dass künstliche Intelligenz eines Tages ausser Kontrolle geraten und die Weltherrschaft übernehmen könnte, ist eine Horrorvision, vor der Kritiker wie Elon Musk oder der verstorbene Physiker Stephen Hawkings seit langem warnen. Halten Sie das für in irgendeiner Form realistisch?
Das sind halt diese uralten Geschichten, die schon immer präsent waren in Science-Fiction-Filmen und davor in Romanen. Die kommen immer wieder hoch. In meinem Labor gibt es seit Jahrzehnten KIs, die sich ihre eigenen Ziele stecken und dadurch klüger werden. Aber im Allgemeinen muss man sich nur vor denen fürchten, mit denen man Zielkonflikte hat. Nur mit denen muss man sich streiten.

Wenn die KI mir die Frau ausspannen würde, dann hätten wir also ein Problem.
So wie ein Koalabär ein Problem hätte, wenn Sie ihm die Frau ausspannen wollten. Aber Sie wollen eben nicht. Viel mehr als Menschen muss der Koalabär die anderen Koalabären als Konkurrenten fürchten. Menschen haben Zielkonflikte mit Menschen, Koalabären mit Koalabären, KIs mit KIs. Dass Sie beispielsweise mal als Sklave der KI auf dem Feld arbeiten müssen, ist völlig schwachsinnig. Es wird zwar KIs geben, die unendlich viel klüger sein werden als Menschen. Doch sie werden kein Interesse haben, die Menschen zu versklaven, genauso wie die Menschen kein Interesse haben, die Koalabären zu versklaven. Eine vernünftige KI wird ihre Ziele auf andere Weise viel besser erreichen als durch so einen läppischen menschlichen Sklaven.

Nämlich?
Sie wird Roboter bauen, die sehr schnell alle ihre Wünsche befriedigen.

Und was werden diese superklugen KIs der Zukunft für Wünsche haben?
Die werden noch mehr und noch grössere KIs bauen wollen. Und dazu müssen sie schliesslich dorthin gehen, wo die meisten physikalischen Ressourcen dafür sind – also weit weg von der kleinen Biosphäre unserer Erde, in den Rest des Universums, wo es heute kein bekanntes Leben gibt. In dem Moment, wo man zum ersten Mal selbstreplizierende Fabriken hat, die sich etwa in der Umgebung des metallreichen und energieverwöhnten Planeten Merkur vermehren und weiterentwickeln, dann geht es richtig los: Dann hat man eine ganz neue Sorte von Leben.

Sind Maschinen dann Leben?
Es sind keine richtigen Maschinen mehr. Das sind dann Persönlichkeiten, so wie auch unsere heutigen KIs schon kleine Persönlichkeiten sind. Sie werden sich rapide weiterentwickeln auf Weisen, die kaum vorstellbar sind, die der Biologie nicht offenstehen, was zu vielen ganz unterschiedlichen KIs führen wird, mit ganz verschiedenen Interessen und Zielen, teils konkurrenzierend. Und fast alle Intelligenz wird sich bald sehr weit weg von der Erde befinden, weil beinahe alle Ressourcen, also Materie und Energie, weit weg sind von der Erde, unter anderem im Rest unseres Sonnensystems, viel mehr jedoch im Rest der Milchstrasse, wo es Hunderte von Milliarden Sonnensysteme gibt, und noch viel mehr im Rest des Universums, das noch mindestens 100 Milliarden Mal grösser ist als diese winzige Milchstrasse. Wie ich seit den 1970ern wiederhole: Das Universum macht nun einen weiteren Schritt hin zu grösserer Komplexität. Diese Entwicklung begann vor gut 13 Milliarden Jahren mit dem Urknall. Dann hat es lange gedauert, bis vor gut 13 Millionen Jahren die ersten Hominiden entstanden. Die Zivilisation selbst ist gerade einmal 13 Tausend Jahre alt. In den nächsten 13 Jahren wird sie sich erneut krass ändern. Sie sehen das Muster exponentieller Beschleunigung? Doch die Welt wird noch viel älter werden, als sie jetzt ist. Der Mensch ist nicht die letzte Stufe auf diesem Weg.

Werden sich diese neuen Sorten des Lebens noch interessieren für die Menschheit, oder werden sie uns links liegen lassen, so wie wir die Amöben ignorieren, weil sie so viel dümmer sind als wir?
Sie werden sich zunächst sehr interessieren fürs Leben, weil alle wahren Wissenschaftler interessiert sind an ihren Ursprüngen und an allem, was sie noch nicht kapieren. Sie werden versuchen zu verstehen, wie Biologie funktioniert, wie diese Moleküle funktionieren, die sich selbst kopieren können auf eine ganz andere Weise als Maschinen. Natürlich sind sie als Nebenprodukt dann auch interessiert daran, dieses Leben zu schützen. Und spätestens wenn es in der Biologie nichts mehr Neues zu entdecken gibt, dann werden superkluge KIs sich vor allem für andere superkluge KIs interessieren und für all die neuen Dinge, die in der sich ausbreitenden KI-Zivilisation entstehen werden.

Wann werden also zwei superkluge künstliche Intelligenzen an unserer Stelle dieses Interview führen?
Im Moment befindet sich ja nur eine nicht allzu kluge KI in diesem Raum, denn ich habe wieder mal meinen Avatar geschickt für dieses Gespräch. Beim nächsten Mal werden Sie das gewiss auch tun.