Neuestes Interview mit dem Gründer von DeepMind: Künstliche Allgemeine Intelligenz (AGI) könnte in den nächsten fünf Jahren erreicht werden, die Skala sei das Zehnfache der industriellen Revolution, und die Ideen der letzten Welle seien bereits "ausgepumpt".

Zhidongxi berichtete am 8. April, dass ein neues halbstündiges Interview mit Demis Hassabis, dem Gründer von DeepMind, online gegangen ist.

Im Interview sagte Hassabis, dass die Wahrscheinlichkeit, dass AGI in den nächsten fünf Jahren erreicht wird, sehr hoch ist. Er gab auch bekannt, dass in den letzten zehn oder sogar fünfzehn Jahren rund 90 % der entscheidenden bahnbrechenden Ergebnisse, die die moderne KI - Branche stützen, von den Teams Google Brain, Google Research oder DeepMind stammen. Er ist sich dessen sicher: "Wenn es in Zukunft noch irgendwelche fehlenden entscheidenden Durchbrüche gibt, haben wir auch die Fähigkeit, sie zu erreichen."

In Bezug auf die Kommerzialisierung der Modellfähigkeiten meint Demis Hassabis, dass der Abstand zwischen den derzeit führenden Labors tatsächlich beginnt zu wachsen, und es wird immer schwieriger, nur aus den gleichen Ideen Gewinne zu ziehen. Deshalb werden die Labors, die in der Lage sind, völlig neue Algorithmen zu entwickeln, in den nächsten Jahren einen größeren Vorteil haben, da die Ideen der letzten Welle bereits "ausgeschöpft" sind.

Im Video führte Demis Hassabis einen tiefgehenden Dialog mit dem Moderator Harry Stebbings. Sie sprachen über die Zeit für die Erreichung von AGI und die technischen Engpässe, die Kommerzialisierung von Modellen, die Zukunft der Open - Source - Bewegung, die Zeit nach den großen Sprachmodellen, ob KI wirklich das Problem der Arzneimittelentwicklung lösen kann und andere Kernfragen, teilten die Gründe für den Fortschritt von DeepMind und die zukünftigen Pläne mit und sprachen auch über das Gefühl, als er Elon Musk zum ersten Mal traf.

Die im Interview offenbarten Kernaussagen lauten wie folgt:

1. Die Wahrscheinlichkeit, dass AGI in den nächsten fünf Jahren erreicht wird, ist sehr hoch. Die Rechenleistung ist der größte Engpass.

2. Im Rahmen des Skalierungsgesetzes sinkt die Rendite bei der Investition in Rechenleistung, ist aber dennoch beachtlich.

3. Die Fähigkeit des kontinuierlichen Lernens fehlt derzeit bei KI - Systemen stark. Darüber hinaus funktionieren KI - Systeme sehr gut, wenn sie auf bestimmte Weise bestimmte Fragen beantworten müssen. Wenn man aber die Fragestellung ändert, können sie sogar bei sehr einfachen Dingen scheitern. Demis Hassabis nennt dieses Phänomen "Zackenförmige Intelligenz" (Jagged Intelligence).

4. AGI wird schließlich das mächtigste Werkzeug in den Bereichen Wissenschaft und Medizin werden. In etwa fünf Jahren werden wir eine Goldene Zeit der wissenschaftlichen Entdeckungen erleben.

5. Die zukünftige KI - Regulierung sollte mindestens ein Mindestmaß an Standards und einige Benchmarks festlegen, um die negativen Eigenschaften von Systemen zu testen.

6. Wenn die technischen und wirtschaftlichen Probleme der KI gelöst sind, bleiben nur noch philosophische Fragen.

Im Folgenden ist eine Zusammenfassung der Kerninhalte des Interviews:

01. AGI in fünf Jahren, Rechenleistung ist der größte Engpass

Moderator: Was verstehen Sie heute unter AGI? Dies kann der Ausgangspunkt unserer Diskussion sein.

Demis Hassabis: Unsere Definition war immer sehr einheitlich: AGI ist ein System, das alle kognitiven Fähigkeiten des menschlichen Geistes besitzt. Wir verwenden diesen Standard, weil das menschliche Gehirn das einzige bekannte Beispiel für die Existenz von allgemeiner Intelligenz im Universum ist. Für mich ist dies der Benchmark, den AGI erreichen muss.

Moderator: Wie weit sind wir noch von AGI entfernt? Die Meinungen in der Branche gehen auseinander. Einige bekannte Persönlichkeiten sagen sogar voraus, dass es bereits 2026 oder 2027 möglich sein könnte. Was halten Sie davon?

Demis Hassabis: Die Wahrscheinlichkeit, dass AGI in den nächsten fünf Jahren erreicht wird, ist sehr hoch.

Moderator: Ist dies näher, als Sie ursprünglich gedacht haben? Hat sich Ihre Einschätzung im Laufe der Zeit geändert?

Demis Hassabis: Eigentlich nicht. Mein Mitbegründer und Chefwissenschaftler von DeepMind, Shane Legg, hat bereits 2010, als wir das Unternehmen gegründet haben, oft in Blogs darüber spekuliert, wann AGI eintreten wird. Immerhin war damals fast niemand an KI interessiert, und die meisten dachten, es sei ein Sackgasse. Diese Blogs wurden auch kaum gelesen, aber sie sind noch immer im Internet verfügbar und können von jedem eingesehen werden. Wir haben damals auf der Grundlage des Fortschritts in der Rechenleistung und den Algorithmen extrapoliert und im Wesentlichen vorhergesagt, dass es ungefähr 20 Jahre von Beginn an dauern würde. Jetzt scheint alles nach Plan zu verlaufen.

Moderator: Welcher ist der größte technische Engpass von heute aus gesehen?

Demis Hassabis: Ich denke, die Rechenleistung ist der größte Engpass. Dies liegt nicht nur am "Skalierungsgesetz": Man muss ständig größere Architekturen aufbauen und mehr Parameter integrieren, um ein intelligenteres System zu erhalten. Ein weiterer Bereich, der ebenfalls viel Rechenleistung erfordert, ist das Experimentieren. Computer und die Cloud sind unser Arbeitsplatz. Wenn man eine neue Idee hat und sie testen möchte, muss man sie in einem angemessenen Maßstab validieren. Wenn man also viele Forscher und viele neue Ideen hat, braucht man eine enorm große Rechenleistung.

Moderator: Sie haben gerade das "Skalierungsgesetz" erwähnt. Viele Leute meinen jetzt, dass wir die Grenzen des Skalierungsgesetzes erreichen und die Leistungssteigerung beginnt, sich zu verlangsamen. Stimmen Sie zu?

Demis Hassabis: Nein, ich denke nicht. Ich denke, die Realität ist komplizierter. Natürlich hat jedes neue System einen enormen Leistungssprung gebracht, als die führenden Unternehmen mit der Entwicklung von großen Sprachmodellen begannen. Diese exponentielle Wachstumsrate wird irgendwann langsamer werden. Aber das bedeutet nicht, dass es keine guten Renditen gibt, wenn man die bestehenden Systeme weiter ausbaut. Wir und andere führende Labors erhalten immer noch sehr beachtliche Renditen aus der Skalierung der Rechenleistung. Obwohl es offensichtlich weniger ist als in der Anfangsphase der Skalierung, ist es dennoch beachtlich.

Moderator: In welchen Bereichen liegen wir hinter Ihren ursprünglichen Erwartungen zurück?

Demis Hassabis: Ehrlich gesagt liegen wir in den meisten Bereichen voraus, als ich es erwartet habe. Man kann sich die Video - Generierungsmodelle oder sogar unser neuester System, wie Genie, ein interaktives Weltmodell, ansehen. Wenn mir jemand vor fünf bis zehn Jahren diese Dinge gezeigt hätte, hätte ich mich sehr gewundert. In den meisten Bereichen liegen wir also voraus, als die Branche es ursprünglich erwartet hat. Aber es gibt immer noch einige große Lücken, wie das "kontinuierliche Lernen", was bedeutet, dass die heutigen Systeme, sobald sie trainiert und in die reale Welt eingesetzt werden, nicht mehr neue Dinge lernen.

02. Die Fähigkeit des kontinuierlichen Lernens ist einer der nächsten Pläne von DeepMind

Moderator: Bei der Recherche und Vorbereitung neuer Sendungen wähle ich heute DeepMind immer wieder aus. Aber vor zwei oder drei Jahren war das nicht der Fall. Welche Faktoren haben in Ihrer Meinung zu diesem Beschleunigung und Fortschritt von DeepMind geführt?

Demis Hassabis: Wir haben tatsächlich einige organisatorische Anpassungen vorgenommen. Tatsächlich haben Google und DeepMind immer die tiefsten und umfassendsten Forschungsreserven in der Branche gehabt. Wenn man die letzten zehn oder sogar fünfzehn Jahre betrachtet, stammen rund 90 % der bahnbrechenden Ergebnisse, die die moderne KI - Branche stützen, von Google Brain, Google Research oder DeepMind, wie AlphaGo, die verstärkte Lernmethode und natürlich die Transformer - Architektur. Dies sind alle entscheidende Meilensteine.

Deshalb bin ich überzeugt, dass wir in der Lage sind, alle fehlenden entscheidenden Durchbrüche in Zukunft zu erreichen. Wir haben im Wesentlichen alle Spitzenkräfte in unserem Unternehmen zusammengebracht und in die gleiche Richtung gearbeitet. Außerdem haben wir alle Rechenressourcen integriert, um die größten Modelle zu bauen, anstatt zwei oder drei verschiedene Versionen parallel im Unternehmen zu entwickeln. Ich denke, dass wir in hohem Maße alle vorhandenen Elemente zusammengebaut haben und mit der Fokussierung und Geschwindigkeit eines Start - Ups vorgegangen sind, um wieder an die Spitze der Technologie zu gelangen und in vielen Bereichen führend zu bleiben.

Moderator: Sie sagen, wenn jemand einen Durchbruch schaffen sollte, dann wäre es DeepMind. In Ihrer Meinung ist das kontinuierliche Lernen der nächste Durchbruch, auf den Sie am meisten warten?

Demis Hassabis: Ich denke, es fehlen noch viele Dinge. Das kontinuierliche Lernen ist eines davon. Darüber hinaus gibt es großes Potenzial in der Forschung verschiedener Gedächtnissysteme. Derzeit verlassen wir uns hauptsächlich auf lange Kontextfenster und packen alle Informationen hinein, was eigentlich etwas "gewaltig" ist. Ich denke, dass es noch viele interessante Architekturen zu entwickeln gibt. Auch bei der langfristigen Planung und der hierarchischen Planung gibt es noch viel zu tun. Die bestehenden Systeme sind nicht gut darin, langfristige Pläne zu erstellen, wie etwa für die nächsten Jahre. Der menschliche Geist kann das aber. Es gibt also noch viele Probleme zu lösen. Vielleicht ist das größte Problem, dass sie sehr gut funktionieren, wenn man sie auf bestimmte Weise bestimmte Fragen stellt, aber wenn man die Fragestellung ändert, können sie sogar bei sehr einfachen Dingen scheitern. Allgemeine Intelligenz sollte nicht so funktionieren. Ich nenne dies "Zackenförmige Intelligenz" (Jagged Intelligence).

03. "Sehr optimistisch gegenüber Open - Source - Modellen"

Moderator: Viele Leute in der Branche diskutieren derzeit die "Kommerzialisierung" der Modellfähigkeiten. Glauben Sie, dass wir diese Situation sehen werden? Oder werden ein oder zwei Labors weiterhin beschleunigen und die anderen Konkurrenten hinter sich lassen?

Demis Hassabis: Ich denke, dass es derzeit drei oder vier führende Labors gibt - wir sind eines davon. Der Abstand zwischen ihnen beginnt tatsächlich zu wachsen, weil viele bestehende Werkzeuge (wie Codierungswerkzeuge, mathematische Werkzeuge) bei der Entwicklung der nächsten Generation von Systemen helfen werden. Und ich denke, es wird immer schwieriger, nur aus den gleichen Ideen Gewinne zu ziehen. Deshalb werden die Labors, die in der Lage sind, völlig neue Algorithmen zu entwickeln, in den nächsten Jahren einen größeren Vorteil haben, da die Ideen der letzten Welle bereits "ausgeschöpft" sind.

Moderator: Eine andere Frage von mir: Sie waren in den letzten Jahren sehr offen gegenüber vielen Forschungen von DeepMind, und wir haben auch viele hochwertige Open - Source - Modelle gesehen. Wie sehen Sie die Zukunft der Open - Source - Bewegung?

Demis Hassabis: Ich denke, es wird wahrscheinlich ähnlich aussehen wie heute. Wir sind immer starke Befürworter der Open - Science und der Open - Source - Modelle. Von den ersten Transformer - Modellen bis hin zu AlphaFold haben wir viel getan, um diese Ergebnisse der Welt zu teilen und die Forschungsgemeinschaft zu unterstützen. Wir planen, dies auch weiterhin zu tun, insbesondere in Anwendungsbereichen, wie der Anwendung von KI in der Wissenschaft, was offensichtlich meine persönliche Leidenschaft ist. Aber ich denke auch, dass man immer öfter feststellen wird, dass die Open - Source - Modelle möglicherweise einen Schritt hinter den Spitzenmodellen zurückbleiben. Normalerweise braucht die Open - Source - Gemeinschaft etwa sechs Monate, um diese neuen Ideen neu zu implementieren und zu verstehen. Wir fördern jedoch auch stark ein Open - Source - Modell namens Gemma und sind entschlossen, dass es in seiner Größe das beste in seiner Klasse sein wird. Für kleine Entwickler, Wissenschaftler oder junge Start - Ups sind sie eine sehr gute Wahl und auch für Edge - Computing geeignet. Wir sind also sehr optimistisch gegenüber bestimmten Arten von Anwendungen von Open - Source - Modellen.

04. Die zukünftige AGI benötigt globale Regulierung

Moderator: Ich möchte Sie nun fragen, wie Sie die Welt nach den großen Sprachmodellen sehen. Die Ansichten verschiedener Wissenschaftler sind sehr unterschiedlich. Beispielsweise hat Yann LeCun ganz andere Ansichten.

Demis Hassabis: Ehrlich gesagt stimme ich Yann LeCun in einigen Fragen nicht zu. Ich denke, es besteht immer noch eine 50 % - Wahrscheinlichkeit, dass es noch einige fehlende entscheidende Elemente gibt, und wir müssen noch Durchbrüche in Bereichen wie Weltmodellen erzielen. Aber ich bin mir sehr sicher, dass die Basis - Modelle sich bereits als enorm erfolgreich erwiesen haben. Sie können äußerst beeindruckende Aufgaben erledigen, und ich denke nicht, dass diese Fähigkeit verschwinden wird. Wir erhalten weiterhin Renditen aus dem Skalierungsgesetz. Die eigentliche Frage ist also: Wenn wir uns die zukünftigen AGI - Systeme vorstellen, ist das LLM - Modell (großes Sprachmodell) der einzige entscheidende Bestandteil oder ein Teil des gesamten Systems? Meine Einschätzung ist, dass es nicht ersetzt werden wird, sondern die Grundlage für die obere Schicht bilden wird, wie wir es bei den Weltmodellen tun.

Moderator: Wie Sie sagten, könnte AGI zu dieser Zeit auftauchen. Wenn wir also in die Zukunft fünf Jahre vorausschauen, wie wird diese Welt aussehen? Viele Leute haben aus verschiedenen Perspektiven Bedenken geäußert. Lassen Sie uns zunächst mit dem Positiven beginnen. Wie sehen Sie diese Welt?

Demis Hassabis: Ich denke, das Positive, was ich mein ganzes Berufsleben lang angestrebt habe, ist, dass es schließlich das mächtigste Werkzeug in den Bereichen Wissenschaft und Medizin werden wird. Wir brauchen dringend solche Technologien, um die wissenschaftlichen Entdeckungen voranzutreiben und Behandlungen für Krankheiten zu finden. Ich hoffe also, dass wir in etwas mehr als fünf Jahren eine Goldene Zeit der wissenschaftlichen Entdeckungen erleben werden.

Ich denke, dass wir bald dieses Ziel erreichen werden. Zunächst haben wir nach Abschluss des AlphaFold - Projekts zur Proteinfaltung ein Unternehmen namens Isomorphic Labs gegründet, das derzeit sehr gut läuft. Die Kernidee ist: uns auf die restlichen Schritte des Arzneimittelentwicklungs - Prozesses zu konzentrieren, einschließlich vieler chemischer Arbeiten, der Entwurf von Verbindungen, der Toxizitätsprüfung und der Bewertung aller erforderlichen Eigenschaften für die Arzneimittelsicherheit. Wir erwarten, dass der gesamte Arzneimittelentwicklungs - Motor in den nächsten fünf bis zehn Jahren fertig sein wird.

Der nächste Engpass ist die klinische Prüfung, die noch viele Jahre dauern wird. Aber ich glaube, dass KI helfen kann, beispielsweise indem sie bestimmte Teile des menschlichen Stoffwechsels simuliert und die Patienten präzise einteilt, um sicherzustellen, dass bestimmte Patienten die Arznei bekommen, die am besten zu ihrer genetischen Zusammensetzung passt. KI kann also auch in diesem Bereich einen Wert schaffen. Aber ich denke, dass die echte Revolution möglicherweise erst eintreten wird, nachdem ein Dutzend von KI - entworfenen Arzneimitteln den gesamten Prozess erfolgreich durchlaufen haben. Dann werden die Regierungen und Aufsichtsbehörden diese Ergebnisse sehen und genügend Daten haben, um die Modellvorhersagen rückwirkend zu überprüfen. Vielleicht in noch zehn Jahren können wir diesen Modellen wirklich vertrauen und einige Schritte überspringen, wie etwa Tierversuche, oder die Dosierung schneller erhöhen, weil die Zuverlässigkeit der Modelle bereits bestätigt wurde. Ich denke also, dass man es in zwei Schritten angehen muss: zunächst das Problem der Arzneimittelentwicklung lösen und dann das Problem der Zeitdauer des Regulierungs - Prozesses.

Moderator: Wenn wir über die Regulierung sprechen, ist die KI - Sicherheit zweifellos ein wichtiges Thema und hat auch viele Bedenken ausgelöst. Ich erinnere mich, dass Stephen Hawking einmal gesagt