Hinton kann sich wieder setzen. Seit wann ist das so?

Der "Vater der KI", Geoffrey Hinton, ist nach Shanghai gekommen.

Er sitzt mit geradem Rücken und konzentriert. So sitzt er schon lange.

Für den 77-jährigen Preisträger des Nobelpreises und des Turing-Awards ist diese ganz normale Geste eine der lüxuriösesten Erfahrungen in seinem Leben. Denn in den letzten fast 18 Jahren konnte er sich kaum setzen –

Eine Sitzpause hätte ihn möglicherweise für Wochen bettlägerig gemacht.

△

Bei all den entscheidenden Momenten, die die Geschichte der KI veränderten: als er seine eigene Firma an Google versteigerte, als er im Namen von Google DeepMind übernahm, als er die Turing-Award-Verleihung besuchte … hat er nie gesessen.

Eigentlich ist er eher daran gewöhnt: stehend zu arbeiten, auf den Knien zu essen, liegend zu konferenzieren und schlafend zu reisen.

Aber in Shanghai setzt er sich. Gelassen und gelinde, wie ein gewöhnlicher alter Mann, nicht anders als die Menschen um ihn herum.

Hinter dieser einfachen Geste verbirgt sich eine Geschichte über Streben, Durchbruch und Rückkehr. Für Hinton sind Sitzen, Stehen und Liegend nicht nur Körperhaltungen, sondern Metaphern für seinen Lebenszustand.

Jahrzehnte lang auf dem kalten Stuhl gesessen

Die Wurzel des Leids begann mit einer kleinen Gütehandlung.

Im Dezember 1947 wurde Hinton in Wimbledon, einer Stadt südlich von London, geboren. Mit 19 Jahren verletzte er sich am Rücken, als er für seine Mutter einen Heizofen trug. Seitdem hat er Probleme mit der Bandscheibe.

Die wiederholten Rückenschmerzen begleiteten ihn ständig, aber sie waren nicht schlimm genug, um ihn in seiner Jugend und jungen Erwachsenenzeit vom Sitzen abzuhalten.

Schlimmer als die körperlichen Qualen war die Enttäuschung, als er sich für einen Weg entschied, an den fast niemand glaubte.

Im Jahr 1972, als Hinton an der Universität von Edinburgh einen Doktor in Künstlicher Intelligenz absolvierte, war die symbolische Künstliche Intelligenz auf der Höhe ihrer Blüte, während das, was er sich vornahm, nämlich die Neuronale Netzwerke, damals eher ein "Sackgasse" war – für seine Kollegen war es "reiner Unsinn" und "bereits als falsch bewiesen", dass Computer wie das menschliche Gehirn lernen könnten, indem sie große Datenmengen analysieren.

Heute wissen wir, dass ChatGPT auf einem großen Sprachmodell basiert, das wiederum auf neuronalen Netzwerken aufbaut. Die unterste Schicht dieses Modells ist ein spezielles neuronales Netzwerk – die Transformer-Architektur.

"Alle dachten, ich sei verrückt!", erinnerte er sich später.

Sein Doktorvater riet ihm fast jede Woche, diesen "verirrten Weg" zu verlassen, um sein akademisches Kapital nicht zu verschwenden. Aber dieser "sturköpfige Esel" antwortete jedes Mal entschieden:

Gebe mir noch sechs Monate, ich werde beweisen, dass diese Methode funktioniert!

Sechs Monate hintereinander, und so hielt er sechs Jahre lang durch.

Selbst nach Abschluss seines Promotionsstudiums war der Weg vor ihm noch immer dunkel. In Großbritannien gab es damals kaum Unterstützung für die Forschung an neuronalen Netzwerken. Nach seiner Promotion im Jahr 1978 musste Hinton über den Ozean nach Nordamerika reisen, um bessere Chancen zu finden. Er arbeitete nacheinander an der University of California, San Diego, der Carnegie Mellon University und der University of Toronto.

△

Später erlebte Hinton kurzzeitig den Höhepunkt seiner akademischen Karriere.

Er und sein Partner entwickelten nacheinander das Boltzmann-Maschine-Modell und den Backpropagation-Algorithmus, was eine kleine Renaissance der neuronalen Netzwerke auslöste.

Diese beiden Beiträge, die scheinbar voneinander unabhängig sind – ein Erzeugungsmodell und ein Trainingsalgorithmus – beziehen sich tatsächlich auf dasselbe Kernproblem: wie man aus Daten interne Repräsentationen extrahieren kann, also die Fähigkeit, dass Maschinen die Welt selbst verstehen können. Dies war der Kernpunkt von Hintons Forschung seit den 1980er Jahren.

Aber dieses schwache Licht erlosch bald wieder. Bis Ende der 1990er Jahre, sogar um das Jahr 2000 herum, befanden sich neuronale Netzwerke immer noch am Rande der akademischen Welt.

"Die Datensätze waren zu klein, die Computer zu langsam, und unsere neuronalen Netzwerke waren ständig von Rauschen geplagt", gestand Hinton später. Die 1990er Jahre waren die dümmste Zeit seiner akademischen Karriere.

"Neuronale Netzwerke" waren sogar ein Tabubegriff in der akademischen Welt. Hinton musste in seinen Artikeln verschleiert schreiben – er verpackte seine Forschung in vage und umschriebene Begriffe, um nicht direkt von den Fachjournalisten abgelehnt zu werden.

△

Als wäre das alles nicht schon schlimm genug, verschlimmerte sich auch seine Rückenverletzung. Mit zunehmendem Alter wurde es ein Risiko, sich zu beugen oder zu setzen – die Bandscheibe konnte jederzeit ausweichen, und wenn es so kam, würde er wegen der Schmerzen wochenlang bettlägerig sein.

Aber Hinton hielt an seiner "verrückten" Idee fest. Damals wusste niemand, dass diese fast paranoid wirkende Beharrlichkeit in Kürze die Welt auf den Kopf stellen würde.

Stehen tut keinem weh

"Das letzte Mal, dass ich mich setzte, war im Jahr 2005. Das war ein Fehler", sagte Hinton oft.

Mit 58 Jahren war ein Wendepunkt in seinem Leben erreicht. Die Konsequenzen dieses Versuchs, sich zu setzen, waren zu schrecklich. Die Schmerzen kamen wie eine Welle, und er schwörte, diesen Fehler nie wieder zu machen.

Seitdem hat er die Welt für gewöhnlich auf andere Weise erlebt: stehend oder liegend. In den fast 18 Jahren nach 2005 setzte er sich höchstens eine Stunde hin, wenn es unbedingt erforderlich war.

△

Wer hätte gedacht, dass Hinton in dieser körperlichen Verfassung den glänzendsten Moment seines Lebens erleben würde?

Eine Versteigerung von 44 Millionen US-Dollar, die er stehend absolvierte

Im Herbst 2012 gewann der 65-jährige Hinton mit zwei Studenten – Ilya Sutskever (ehemaliger Chefwissenschaftler und Mitbegründer von OpenAI) und Alex Krizhevsky – den ImageNet Large Scale Visual Recognition Challenge und senkte die Fehlerrate auf erstaunliche 15,3%.

Dies war nicht nur ein technologischer Durchbruch, sondern der Beginn einer neuen Ära, die markierte, dass das Deep Learning (insbesondere das maschinelle Lernen auf der Grundlage von tiefen neuronalen Netzwerken) in der Bildklassifizierung einen großen Durchbruch erzielt hatte.

Sie zeigten der Welt mit Stolz, dass neuronale Netzwerke durch die Analyse von großen Datenmengen diese sehr menschlichen Fähigkeiten erlernen können.

Hinton und seine Studenten veränderten die Art und Weise, wie Maschinen die Welt sehen, und ermöglichten es ihnen, Blumen, Hunde und Autos mit bisher unerreichter Genauigkeit zu erkennen.

Tatsächlich waren die beiden Voraussetzungen für das Aufblühen des Deep Learning – starke Rechenleistung und hochwertige Big Data – um das Jahr 2010 herum allmählich reif geworden.

△

Von der Marginalität in das Zentrum – für diesen Moment hat Hinton 40 Jahre gewartet.

So begann die berühmteste und teuerste Personaljagd in der Geschichte.

Um an der Versteigerung teilzunehmen, war Hintons Reise eher wie eine "Pilgerreise". Er lag zunächst auf der Rückbank des Busses und rüttelte nach New York, fuhr dann mit dem Zug bis Kalifornien und streckte schließlich die Beine auf der Rückbank des Taxis aus, um am Lake Tahoe anzukommen.

Interessanter war noch die Versteigerungsszene. Im Hotelzimmer hatte Hinton eine geniale Idee: Er stellte einen Mülleimer umgekehrt auf den Tisch zwischen zwei Betten und stellte seinen Laptop darauf, so dass er stehend tippen konnte.

△

Google, Microsoft, Baidu und DeepMind bieten über Gmail-Remote-Bietsysteme um Hintons kurzfristig gegründete Firma – DNNResearch – an. Die Gebote stiegen in Schritten von mindestens 1 Million US-Dollar.

Als die Gebote von 12 Millionen auf 44 Millionen US-Dollar stiegen, fand selbst Hinton es unglaubwürdig: "Es fühlt sich an, als würde man in einem Film mitspielen."

Schließlich gewann Google.

Mit diesem Ereignis als Scheidewand war das Deep Learning zuvor reine akademische Forschung in der Elfenbeinturm. Danach wurde es schnell zum strategischen Kern, um den sich die globalen Tech-Riesen ringen, von Suchmaschinen bis hin zu Sprachassistenten, von Bilderkennung bis hin zu autonomem Fahren. Fast alle KI-bezogenen Geschäfte begannen, sich um das Deep Learning neu zu organisieren.

Die Akquisition, bei der er "angebunden" im Flugzeug war

Die Übernahme von Hinton war nur der Vorspeise. Um so viele Talente in der Deep Learning-Branche wie möglich zu gewinnen, setzte Google auf DeepMind an.

Diese 2010 in London gegründete KI-Firma hatte einen noch verrückteren Traum: die Entwicklung einer allgemeinen Künstlichen Intelligenz, die Maschinen alles tun lassen würde, was das menschliche Gehirn kann, und sogar besser.

Demis Hassabis, der Gründer von DeepMind, war seit seinem vierten Lebensjahr ein Schachprodigy. Seine Firma begann damit, KIs altmodische Spiele aus den 1970er und 1980er Jahren beizubringen, aber ihr Ziel war das Universum.

△

Beim Verhandlungsprozess hoffte Alan Eustace, ein Google-Engineering-Sprecher, dass Hinton mitkommen würde. Nachdem der "Vater des Deep Learning" über einzigartige Einsichten und Urteilsfähigkeiten verfügte, schien Google die Übernahme sicher zu haben.

Aber Hinton lehnte höflich ab und sagte, dass sein Rücken es ihm nicht ermöglichen würde, zu reisen. Er sagte, die Fluggesellschaften würden ihn verlangen, sich während des Startens und Landens zu setzen, aber er hatte beschlossen, nie wieder zu setzen.

Eustace gab nicht auf und hatte eine mutige Lösung: ein Privataufzug mieten und ihn "angebunden" zu transportieren.

In den letzten Tagen von Dezember 2013 sah man ein sonderbares Bild in einem privaten Gulfstream-Flugzeug über den Atlantik: Hinton lag auf einem vorübergehend angelegten Bett, das aus zwei zusammengeklappten Flugzeugsitzen bestand, und war mit zwei Bändern festgeschnallt.

△

Als sie in das