KI könnte innerhalb weniger Jahre alle Menschen übertreffen, prognostizieren die Kernforscher von Claude

Künstliche Intelligenz, die alle menschlichen Fähigkeiten übertrifft, wird höchstwahrscheinlich in wenigen Jahren entstehen.

Das sagte Sholto Douglas, Leiter des Bereichs für Reinforcement-Learning-Technologie bei Anthropic.

Sholto Douglas, Leiter des Bereichs für Reinforcement-Learning-Technologie bei Anthropic: Modelle mit Fähigkeiten, die alle Menschen übertreffen, werden höchstwahrscheinlich in den nächsten Jahren entstehen.

Seiner Vorstellung nach kann zukünftige KI alle Aufgaben erledigen, die Menschen am Computer ausführen, und den technologischen Fortschritt, der normalerweise Jahrhunderte dauern würde, auf ein bis zwei Jahrzehnte komprimieren.

Er berechnete außerdem, dass die jährlichen Kapitalausgaben für KI im Jahr 2028 4 Billionen US-Dollar erreichen könnten, und das globale BIP könnte Anfang der 2030er Jahre verdoppelt werden.

In der von ihm beschriebenen Zukunft kann jeder Mensch auf der Erde einen Wohlstand genießen, den selbst die reichsten Menschen von heute nicht erreichen können.

Aber der andere anwesende Forscher Nick Marwell erinnerte ebenfalls: Wenn KI keinen menschlichen Partner mehr benötigt, sind selbst sie "sehr besorgt" über die Folgen.

Dieses Interview wurde im August aufgenommen und erst am 2. Oktober veröffentlicht.

Laut dem Moderator Joe Lonsdale wurde die Veröffentlichung des Videos verschoben, weil die PR-Abteilung von Anthropic gegen die Freigabe einiger Inhalte Einwände erhoben hatte.

Nach der Ausstrahlung des Programms verbreiteten sich mehrere Ausschnitte des Interviews schnell auf X.

Vor nur einem Monat, als OpenAI das "Zeitalter der AGI" ausrief, äußerte Sholto auf X eine gegenteilige Meinung: "AGI ist offensichtlich noch nicht erreicht."

Allerdings glaubt er nicht, dass AGI noch in weiter Ferne liegt.

Seiner Meinung nach sind es möglicherweise nur noch wenige Jahre, bis KI alle Aufgaben erledigen kann, die Menschen am Computer ausführen, und die Schwelle zur echten AGI überschritten wird.

In wenigen Jahren 

Künstliche Intelligenz könnte alle Menschen übertreffen 

Nick Marwell, der dieses Mal gemeinsam mit Sholto interviewt wurde, leitet das Team für langfristige Aufgaben und erforscht, wie KI komplexe Arbeiten kontinuierlich vorantreiben kann.

V.l.n.r.: Moderator Joe Lonsdale, Nick Marwell, Sholto Douglas. Joe Lonsdale ist Mitbegründer von Palantir, das Programm wurde in einem Weingut in Napa, Kalifornien, aufgenommen.

Als Joe fragte: "Was ist die nächste Mission von Anthropic?", antwortete Sholto:

Wir glauben, dass AGI in den nächsten Jahren erreicht werden kann: Modelle mit Fähigkeiten, die allen Menschen gleichkommen oder sie sogar übertreffen, werden höchstwahrscheinlich in den nächsten Jahren entstehen.

Anschließend erklärte er, dass solche Modelle alles erledigen können, was Menschen am Computer tun können; wenn Roboter ausreichend fortschrittlich sind, können sie auch Aufgaben in der physischen Welt übernehmen.

Kurz nach der Aufnahme dieses Programms veröffentlichte OpenAI GPT-6 Astra, dessen Präsident Greg Brockman erklärte, dass wir in das Zeitalter der AGI eintreten, und Jensen Huang postete direkt, dass "AGI bereits angekommen ist".

Am 23. September fragte ein Nutzer auf X nach: Warum kündigt Anthropic die Erreichung von AGI so spät an – haben sie strengere Standards, oder fürchten sie sich, dass eine solche Ankündigung den Forderungen nach einer Verlangsamung der KI-Entwicklung widerspricht?

Sholto antwortete nur mit einem Satz: "AGI ist offensichtlich noch nicht erreicht."

Kurz darauf antwortete sein Kollege Jackson Kernion, der bei Anthropic an der Feineinstellung von Modellen arbeitet, unter demselben Beitrag: Wenn man Experten vor zehn Jahren die heutigen Modelle gezeigt hätte, hätten sie direkt erklärt, dass dies AGI ist.

Sogar Forscher im selben Labor haben unterschiedliche Meinungen darüber, ob AGI bereits eingetreten ist.

Die Schwelle, die Sholto für AGI festgelegt hat, ist, dass KI alle Aufgaben erledigen kann, die Menschen am Computer ausführen.

Und die Veränderungen, die er wahrnimmt, finden in seiner täglichen Arbeit statt.

Vor 18 Monaten hat er jede Zeile Code, die er schrieb, manuell eingegeben.

Einige Monate nach seinem Eintritt bei Anthropic konnte das Modell ihm beim Schreiben helfen, aber er musste alle paar Minuten eingreifen.

Als das Programm aufgenommen wurde, konnte er bereits Arbeiten von ein bis zwei Tagen vollständig dem Modell übergeben – "im Grunde wie ein Mitglied eines Anfängerteams".

Joe fragte nach: "Während wir sprechen, erledigt die KI auch Aufgaben für dich?" Sholto antwortete: "Ja, es gibt eine Menge Aufgaben, die sie gerade für mich erledigt."

Der Fortschritt im Bereich der Mathematik ist besonders beeindruckend.

Er führte das Beispiel der Mathematik-Bewertung FrontierMath an: Bei diesem Test, der von Professoren verschiedener Fachbereiche erstellt wurde, stieg die Punktzahl des Modells innerhalb eines Jahres von 0 % auf über 60 %.

1 Billion, 2 Billion, 4 Billion US-Dollar 

Wie hoch werden die Kosten sein, um in wenigen Jahren eine KI zu bauen, die alle Menschen übertrifft?

Sholto hat eine Rechnung aufgestellt.

Seinen Schätzungen zufolge hat sich die für KI eingesetzte Rechenleistung in den letzten vier bis fünf Jahren jedes Jahr verdoppelt oder verdreifacht. In diesem Jahr belaufen sich die KI-bezogenen Kapitalausgaben mehrerer großer Cloud-Anbieter zusammen auf etwa 1 Billion US-Dollar.

Er fragte weiter:

Kann diese Trendlinie fortgesetzt werden? Werden es nächstes Jahr 2 Billionen US-Dollar und 2028 sogar 4 Billionen US-Dollar sein?

Seiner Meinung nach könnten die jährlichen Kapitalausgaben für KI im Jahr 2028 4 Billionen US-Dollar erreichen, wenn sich der Wachstumstrend der Investitionen im Großen und Ganzen fortsetzt; zusammen mit der Entwicklung der Roboterindustrie könnte das globale BIP Anfang der 2030er Jahre verdoppelt werden.

Wie radikal diese Zahl ist, zeigt sich an NVIDIA.

NVIDIA hat prognostiziert, dass die jährlichen Investitionen in die globale KI-Infrastruktur bis 2030 zwischen 3 und 4 Billionen US-Dollar erreichen könnten.

Sholto hat den von NVIDIA prognostizierten Zeitraum um zwei Jahre vorverlegt.

Aber er gibt selbst zu, dass eine Verdopplung des BIP absurd klingt und viele Dinge richtig laufen müssen – das ist keine spontane Idee von ihm.

Am 14. August schrieb er bereits auf X: "So verrückt es jetzt auch klingt, es lohnt sich, eine Verdopplung der Wirtschaft in Ihre Erwartungen für die 2030er Jahre einzubeziehen."

Nick sprach über eine andere Rechnung: Für das zukünftige Training eines einzelnen Modells könnten Kosten von 10 Milliarden, 100 Milliarden oder sogar 1 Billion US-Dollar anfallen.

Die wirtschaftlichen Erträge der Intelligenz steigen exponentiell: Von der Vervollständigung von Tab-Ausdrücken bis zu Claude Code, das unabhängig arbeiten kann, erzeugt jede Fähigkeitserweiterung einen Wert, der weit größer ist als der der vorherigen Generation.

Sholto ergänzte eine Zahl: Die gesamten weltweiten Einnahmen aus KI betragen heute nur etwas mehr als 100 Milliarden US-Dollar, was ein sehr kleiner Teil der globalen Wirtschaft mit Hunderten Billionen US-Dollar ist.

In ihrer Rechnung sind die Billionen von US-Dollar, die jetzt investiert werden, nur eine Anzahlung.

Sobald diese Rechnung veröffentlicht wurde, brach auf X sofort eine heftige Debatte aus.

Gary Marcus, emeritierter Professor an der New York University und führender KI-Kritiker, nannte diese Aussage direkt Unsinn.

Er deckte auch die dahinterstehende Taktik auf.

Man beginnt mit einer sehr plausiblen Sache – den Kapitalausgaben, die auf 4 Billionen US-Dollar steigen – und geht dann zu einer fast unmöglichen Sache über: die Verdopplung des BIP in weniger als zehn Jahren, und gibt dann vor, dass beide Aussagen gleichermaßen zuverlässig sind.

Jürgen Schmidhuber, Vater von LSTM, äußerte sich noch schärfer: Er sagte, eine nominelle Verdopplung des BIP Anfang der 2030er Jahre sei bei der derzeitigen Inflation kein Problem.

Jeder ist wohlhabender als der reichste Mensch der Welt 

Mit 4 Billionen US-Dollar Investitionen wird eine "Post-Scarcity"-Welt erreicht, wie Sholto sie beschreibt.

Bei der heutigen Bevölkerungsgröße können Technologien, deren Entwicklung normalerweise Jahrhunderte dauert, in den nächsten zehn bis zwanzig Jahren realisiert werden.

Die produktiven geistigen und körperlichen Fähigkeiten der Menschen könnten sich dadurch verdoppeln, und die Kosten vieler Dinge werden schließlich auf das Niveau der Energiekosten sinken – auch beim Bau von Häusern.

Joe stellte sich vor, dass die Mittelschicht bis dahin ein 500.000 Quadratfuß großes Herrenhaus auf einem Hügel bauen kann.

Die von Sholto beschriebene Zukunft umfasst auch die Heilung von Krankheiten und sogar die Überwindung des Alterns:

Jeder Mensch auf der Erde kann einen Wohlstand genießen, den selbst die reichsten Menschen der Welt heute nicht haben. Das ist die Welt, für die wir kämpfen.

Der Begriff "Post-Scarcity" tauchte früher meist nur in Science-Fiction-Romanen auf.

Heute wird er von jemandem ausgesprochen, der bei einem Unternehmen mit einer Bewertung von fast 1 Billion US-Dollar an der Entwicklung von Claude arbeitet.

Der Tag, an dem kein menschlicher Partner mehr benötigt wird 

Die "Post-Scarcity"-Welt ist noch weit entfernt, aber die Arbeit vieler Menschen verändert sich bereits jetzt.

Sholto sagte, er habe beobachtet, dass die Beschäftigung in ausgelagerten Callcentern auf den Philippinen nicht zurückgeht, sondern steigt, und auch die Zahl der Softwareentwickler wächst. Seiner Meinung nach erhöht KI die Effizienz der Menschen und gibt Unternehmen einen Grund, mehr Mitarbeiter einzustellen.

Nick fügte eine Voraussetzung für diese