Geoffrey Hinton (75) warnt vor einer unkontrollierbaren Entwicklung besonders fortgeschrittener künstlicher Intelligenz (KI). Der führende KI-Entwickler beim US-Konzern Google kündigte seinen Job und mahnte in der «New York Times» vom Montag, die Fortschritte im Feld der KI bedeuteten «ernste Risiken für die Gesellschaft und für die Menschheit». Hinton wird laut Zeitung auch «Godfather» der KI genannt.
Er sagte der Zeitung, der Wettbewerb bringe die Technologieunternehmen dazu, «in einem gefährlichen Tempo» immer neue KI zu entwickeln. Damit breiteten sich Falschinformationen aus und Arbeitsplätze gerieten in Gefahr. «Es ist schwierig, sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen», sagte Hinton.
Google und das Unternehmen OpenAI – das Startup, das den bekannten Chatbot ChatGPT entwickelt hat – begannen im vergangenen Jahr damit, lernende Systeme zu entwickeln, die dafür eine sehr viel grössere Datenmenge als zuvor nutzen. Hinton sagte der «New York Times», diese Systeme würden aufgrund der schieren Datenmenge die menschliche Intelligenz in mancher Hinsicht in den Schatten stellen.
Leitsätze für die KI-Anwendung
Mit Blick auf die Arbeitsplätze sagte Hinton etwa, künstliche Intelligenz könne die «Sklavenarbeit» überflüssig machen. «Aber sie könnte noch viel mehr wegnehmen.»
Der Zeitung zufolge kündigte der Entwickler seinen Job bei Google im vergangenen Monat. Sein Chef im Unternehmen, Jeff Dean, erklärte in einer Mitteilung an US-Medien, er danke Hinton für seine Arbeit. Dean betonte, Google habe als eines der ersten Unternehmen Leitsätze für die KI-Anwendung veröffentlicht. Google fühle sich auch weiterhin «zu einem verantwortungsvollen Umgang mit KI verpflichtet». Google lerne beim Verständnis der Risiken beständig dazu – und führe gleichzeitig weiterhin «kühn» Neuerungen ein.
Stopp der KI-Entwicklung gefordert
Erst Ende März hatten der Technologie-Milliardär Elon Musk (51) und zahlreiche Experten eine Pause bei der Entwicklung von besonders fortgeschrittener künstlicher Intelligenz gefordert. «KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können grosse Risiken für Gesellschaft und Menschheit bergen», warnten auch sie. «Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind.»
In einem offenen Brief zu einem Stopp der KI-Entwicklung verwiesen die Unterzeichner auf einen Satz von OpenAI-Gründer Sam Altman (38), demzufolge irgendwann eine «unabhängige» Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. «Wir stimmen zu», schreiben die Verfasser des Briefes. «Der Zeitpunkt ist jetzt.» (AFP)