Zwei Doyens verbreiten "schlechte Nachrichten": Praktikanten geraten in die "Tötungszone" der KI.

Auf dem Weltwirtschaftsforum in Davos 2026 hatte ein Gespräch zwischen Dario Amodei, Mitbegründer von Anthropic, und Demis Hassabis, CEO von DeepMind, stattgefunden.

Bezüglich der Frage, wann die allgemeine künstliche Intelligenz (AGI) erreicht werden wird, sind beide davon überzeugt, dass es nicht mehr lange dauern wird. Dennoch gibt es Unterschiede in den Details ihrer Ansichten.

Amodei meint, dass bis 2026 oder 2027 Modelle existieren werden, die auf den meisten Gebieten auf das Niveau von Nobelpreisträgern kommen. Sein Kerngedanke basiert auf der „Schleife der Selbstverbesserung“. Die Modelle können bereits gut Code schreiben und AI-Forschung betreiben, was es ihnen ermöglicht, noch stärkere Modelle der nächsten Generation zu entwickeln.

Er hat bekanntgegeben, dass die Ingenieure bei Anthropic aufhörten, selbst Code zu schreiben, und stattdessen zu „Bearbeitern“ der Modelle wurden. Er prophezeit, dass die von AI angetriebene Beschleunigung der Forschung und Entwicklung schneller voranschreiten wird, als die Menschen erwarten. Innerhalb der nächsten 6 bis 12 Monate könnten die Modelle bereits die meiste Arbeit eines Softwareingenieurs, von Anfang bis Ende, erledigen.

Obwohl Hassabis zustimmt, dass die Fortschritte in Gebieten wie Coding und Mathematik, bei denen die Ergebnisse verifizierbar sind, erstaunlich sind, betont er die Komplexität der „Naturwissenschaften“.

Er weist darauf hin, dass in den Gebieten Biologie, Chemie oder Physik die Vorhersagen von AI durch Experimente überprüft werden müssen, was die Iterationsgeschwindigkeit von Natur aus einschränkt.

Darüber hinaus ist in seinen Augen das derzeitige System noch nicht in der Lage, „Fragen zu stellen“ und völlig neue Theorien zu entwickeln, was die höchste Stufe der wissenschaftlichen Kreativität darstellt. Eine echte AGI sollte nicht nur ein Chatbot sein, der Code schreiben kann, sondern auch die Fähigkeit besitzen, die Naturwissenschaften zu erforschen und unbekannte Probleme zu lösen.

Trotzdem hält er fest, dass bis Ende dieses Jahrzehnts (vor 2030) mit einer Wahrscheinlichkeit von 50 % ein System entstehen wird, das alle kognitiven Fähigkeiten des Menschen aufweist.

Ein zentrales technisches Thema dieses Gesprächs war das „Schließen der Schleife“ (Closing the Loop), d.h. ob AI in der Lage sein wird, sich ganz ohne menschliche Intervention weiterzuentwickeln.

Amodei ist in dieser Hinsicht optimistisch. Er glaubt, dass sich diese Schleife auf der Ebene von Software und Logik schnell schließt, da die Fähigkeit der Modelle, Code zu schreiben, exponentiell zunimmt.

Nach seiner Meinung schließt sich die Schleife auf der Softwareebene schnell. Mit der exponentiellen Verbesserung der Codierungskapazität der Modelle wird die Notwendigkeit des Menschen in der Forschungs- und Entwicklungslinie geringer, was direkt zu einer drastischen Verkürzung des technologischen Iterationszyklus führt.

Hassabis hingegen weist darauf hin, dass die Gesetze der physischen Welt die Entwicklung der AI-Technologie einschränken.

Er meint, dass eine echte AGI auch physische AI und Robotiktechnologie umfassen sollte. Sobald es um die Herstellung von Hardware, die Produktion von Chips und physische Experimente geht, wird die Iterationsgeschwindigkeit durch die physikalischen Gesetze und die Lieferkette eingeschränkt.

Wichtiger noch ist, dass in den Gebieten Biologie, Chemie und Physik die Vorhersagen von AI in der realen Welt durch Experimente verifiziert werden müssen. Dieser Prozess ist von den physikalischen Gesetzen und der Zeit abhängig und kann nicht so schnell wie reiner Code abgeschlossen werden.

Deshalb, obwohl der Singularitätspunkt im reinen digitalen Bereich möglicherweise nahe ist, wird es wahrscheinlich noch länger dauern, bis ein sich selbst verbesserndes System, das die physische Welt vollständig übernimmt, diese Hindernisse überwinden kann.

Beide stimmen jedoch darin überein, dass sobald ein System diese kritische Schwelle überschritten hat, es nicht mehr ein gewöhnliches Werkzeug sein wird, sondern eine Superintelligenz, die die Grenzen der Wissenschaft neu definieren kann.

Wenn es um die Auswirkungen von AI auf den Arbeitsmarkt geht, haben beide zwar unterschiedliche Perspektiven, aber den gleichen Standpunkt.

Amodei sagt, dass innerhalb der nächsten 1 bis 5 Jahre die Hälfte der Einstiegsjobs im Büroberuf verschwinden könnten.

Er erklärt, dass auch bei Anthropic der Bedarf an Einstiegs- und mittleren Angestellten abnimmt. Obwohl der Arbeitsmarkt anpassungsfähig ist (wie die Umstellung von der Landwirtschaft auf die Industrie), wird die exponentielle Geschwindigkeit des technologischen Fortschritts diesmal die Anpassungsfähigkeit der Gesellschaft überwältigen, was zu einer beispiellosen Krise führen könnte.

Nach seiner Meinung liegt der Unterschied diesmal in der Geschwindigkeit. Wenn das exponentielle Wachstum der Technologie die Anpassungsgeschwindigkeit der menschlichen Gesellschaft übertrifft, wird das alte Wirtschaftsmodell völlig versagen. Wir könnten innerhalb ein oder zwei Jahren mit einer AI konfrontiert sein, die in allen Aspekten stärker als der Mensch ist, und die Zeit, die uns für die Umstellung bleibt, ist fast Null.

Obwohl Hassabis zustimmt, dass kurzfristig die Einstiegsjobs betroffen sein werden, interessiert er sich eher für die langfristigen philosophischen Dilemmata.

Er meint, dass die wirtschaftlichen Probleme möglicherweise leichter zu lösen sind (vielleicht durch eine Verteilungsmechanik), und was ihn wirklich „nicht schlafen lässt“ ist das Verlust von „Sinn und Ziel“.

Hassabis sagt, dass wir aus der Arbeit nicht nur das Gehalt erhalten, sondern auch Würde, soziale Kontakte und ein Gefühl von Zielsetzung.

Er meint pessimistisch, dass wenn die AI den Menschen in Intelligenz, Kreativität und Produktivität völlig übertrifft, wenn die Intelligenz, auf die sich der Mensch am stolzesten ist, nicht mehr selten ist, der Mensch sich nicht mehr selbst definieren kann.

Wenn die AI den Menschen in Intelligenz und Produktivität übertrifft, wie wird der Mensch seinen eigenen Wert definieren? Er schlägt vor, dass die junge Generation die AI-Werkzeuge beherrschen sollte, durch die Zusammenarbeit von Mensch und Maschine ihren Fähigkeiten einen Sprung geben und außerhalb der wirtschaftlichen Belohnung neue Lebenssinn wie Kunst, die Erforschung des Universums suchen.

Am Ende des Gesprächs fragte der Moderator beide, welche Dinge im Bereich der AI am wichtigsten zu beobachten sind.

Hassabis meint, dass Technologien wie Weltmodelle (world models) und kontinuierliches Lernen (continual learning) beobachtet werden sollten. Sobald diese Technologien reif sind, wird die Branche der eingebetteten Intelligenz einen Boom erleben.

Amodei meint, dass man sich auf die Frage konzentrieren sollte, wie AI AI baut. Er glaubt, dass die Entwicklung dieser Sache entscheiden wird, ob wir noch einige Jahre brauchen, um die AGI zu erreichen.

Volle Übersetzung:

Zanny: Herzlich willkommen, auch an alle, die diese Liveübertragung verfolgen. Ehrlich gesagt habe ich mich auf dieses Gespräch seit Monaten gefreut. Letztes Jahr in Paris hatte ich das Vergnügen, ein Gespräch zwischen Amodei und Hassabis zu moderieren. Das auffälligste daran war wohl, dass Sie beide auf einem winzigen Zweisitzer zusammengedrängt waren, während ich auf einem riesigen Sofa saß. Das war vielleicht mein Fehler. Aber damals habe ich gesagt, dass es für mich wie die Moderation eines Gesprächs zwischen den Beatles und den Rolling Stones war. Seitdem haben Sie sich nicht mehr gemeinsam im Gespräch befunden. Also, dies ist der Nachfolger, die Band ist wieder vereint. Ich bin sehr froh darüber.

Der Titel unseres Gesprächs ist „Der Tag nach der AGI“. Ich denke, das ist vielleicht etwas voreilig, denn wir sollten zunächst darüber sprechen, wie schnell und einfach wir dorthin gelangen können. Ich möchte zunächst einen Update geben und dann über die Folgen sprechen.

Zunächst zur Zeitlinie. Amodei, Sie sagten letztes Jahr in Paris, dass wir bis 2026 oder 2027 ein Modell haben würden, das auf vielen Gebieten auf das Niveau von Nobelpreisträgern kommt. Wir sind jetzt 2026. Halten Sie noch an dieser Zeitlinie fest?

Amodei: Sie wissen, es ist immer schwierig, genau vorherzusagen, wann etwas passiert. Aber ich denke, diese Vorhersage wird nicht weit daneben liegen. Ich stelle mir die Realisierung so vor, dass wir Modelle entwickeln, die gut im Coding und in der AI-Forschung sind, und dann diese Modelle nutzen, um die nächste Generation von Modellen zu produzieren und diesen Prozess zu beschleunigen. Dadurch entsteht eine Schleife, die die Entwicklung von Modellen beschleunigt.

Was die derzeitigen Code schreibenden Modelle angeht, haben einige unserer Ingenieure bei Anthropic gesagt, dass sie keinen Code mehr selbst schreiben, sondern nur noch die Modelle schreiben lassen und dann bearbeiten und die umliegenden Aufgaben erledigen. Ich weiß nicht, vielleicht können die Modelle in 6 bis 12 Monaten die meiste oder sogar die gesamte Arbeit eines Softwareingenieurs von Anfang bis Ende erledigen.

Die nächste Frage ist, wie schnell diese Schleife geschlossen wird. Nicht jeder Teil der Schleife kann von der AI beschleunigt werden, richtig? Es gibt noch Chips, die Herstellung von Chips, die Trainingszeit der Modelle und so weiter.

Es gibt also viele Unsicherheiten. Es ist leicht vorstellbar, dass es einige Jahre dauern könnte. Aber ich kann es schwer vorstellen, dass es länger dauert. Wenn ich raten müsste, würde ich raten, dass dieser Prozess schneller voranschreiten wird, als die Menschen erwarten. Das Coding und die zunehmende Forschung werden schneller voranschreiten, als wir uns vorstellen können, und dies wird der Schlüsselantrieb sein. Nochmals betont, es ist schwierig, vorherzusagen, wie stark uns dieses exponentielle Wachstum beschleunigen wird, aber einige schnelle Veränderungen stehen bevor.

Zanny: Hassabis, Sie waren letztes Jahr etwas vorsichtiger. Sie sagten, dass bis Ende dieses Jahrzehnts mit einer Wahrscheinlichkeit von 50 % ein System entstehen würde, das alle kognitiven Fähigkeiten des Menschen aufweist. Offensichtlich, wie Amodei sagte, sind die Fortschritte im Bereich des Codings erstaunlich. Was halten Sie von Ihrer Vorhersage? Was hat sich im vergangenen Jahr geändert?

Hassabis: Ja, ich denke, ich halte noch an meiner ursprünglichen Zeitlinie fest. Die Fortschritte sind wirklich erstaunlich. Aber ich denke, dass einige technische Bereiche, wie Coding oder Mathematik, leichter zu automatisieren sind, teilweise weil ihre Ergebnisse verifizierbar sind.

Einige Bereiche der Naturwissenschaften sind hingegen viel schwieriger. Man weiß nicht unbedingt, ob die synthetisierten Chemikalien oder die Vorhersagen in der Physik richtig sind. Man muss möglicherweise durch Experimente testen, und all dies dauert länger.

Ich denke auch, dass es noch einige Fähigkeiten fehlen, wie die Fähigkeit, nicht nur bestehende Vermutungen oder Probleme zu lösen, sondern zunächst Fragen, Theorien oder Hypothesen zu stellen. Ich denke, das ist viel schwieriger und die höchste Stufe der wissenschaftlichen Kreativität. Derzeit ist es unklar, ob wir das erreichen können. Ich glaube, dass wir ein solches System haben werden, also ich denke nicht, dass es unmöglich ist, aber es fehlen vielleicht ein oder zwei Schlüsselkomponenten.

Es bleibt abzuwarten, ob die von uns alle untersuchte Schleife der Selbstverbesserung tatsächlich ohne menschliche Intervention geschlossen werden kann. Übrigens gibt es auch Risiken bei einem solchen System, und wir sollten darüber sprechen, ich bin sicher, dass wir das tun werden. Aber wenn ein solches System tatsächlich funktionieren würde, könnte es den gesamten Prozess beschleunigen.

Zanny: Wir werden später über die Risiken sprechen. Aber ich denke, ein weiterer Unterschied im vergangenen Jahr ist, dass die „Rangfolge“ in diesem Wettlauf sich geändert hat. Vor einem Jahr an diesem Zeitpunkt hatten wir gerade den DeepSeek-Moment erlebt, und jeder war unglaublich aufgeregt über das, was dort passierte.

Damals gab es auch das Gefühl, dass DeepMind hinter OpenAI zurücklag. Ich möchte sagen, dass es jetzt ganz anders aussieht. Ich meine, sie haben eine „Rote Alarmstufe“ (codered) ausgerufen, richtig? Es war ein bemerkenswertes Jahr.

Also, erzählen Sie mir, was Sie besonders überrascht hat und wie gut Sie dieses Jahr abgeschnitten haben.

Hassabis: Ich war immer sehr zuversichtlich, dass wir wieder an die Spitze der verschiedenen Rankings gelangen und die fortschrittlichsten Modelle entwickeln können. Denn ich denke, dass wir immer über die tiefsten und umfassendsten Forschungsgrundlagen verfügen haben. Der Schlüssel liegt darin, all dies zusammenzuführen und der gesamten Organisation wieder jene Intensität, den Fokus und den Geist eines Start - ups zu geben.

Dafür ist eine Menge Arbeit erforderlich, und es gibt noch viel zu tun. Aber ich denke, Sie beginnen bereits die Fortschritte zu sehen, sei es beim Gemini 3 - Modell oder im Bereich der Produkte, wo der Marktanteil der Gemini - Anwendungen stetig zunimmt. Also ich denke, wir machen enorme Fortschritte, aber es gibt noch viel zu tun. DeepMind wird zur „Motorräumlichkeit“ von Google, und wir gewöhnen uns daran, unsere Modelle schneller in die Produkt - Oberflächen zu integrieren.

Zanny: Amodei, ich habe eine Frage an Sie in Bezug auf diesen Bereich. Denn Sie haben gerade oder sind im Begriff, eine neue Finanzierungsrunde durchzuführen, und der Unternehmenswert ist erstaunlich hoch. Im Gegensatz zu Hassabis sind Sie eine „unabhängige Modellherstellerin“. Ich denke, immer mehr Menschen befürchten, dass unabhängige Modellhersteller möglicherweise nicht lange genug überleben können, bevor sie Gewinne erzielen. Dies wird auch öffentlich in Bezug auf OpenAI diskutiert. Erzählen Sie mir, wie Sie diese Frage sehen, und dann sprechen wir über die AGI selbst.

Amodei: Ja, so denken wir: Wenn wir immer bessere Modelle entwickeln, stellen wir fest, dass nicht nur zwischen der eingesetzten Rechenleistung und der kognitiven Fähigkeit der Modelle ein exponentielles Verhältnis besteht, sondern auch zwischen der kognitiven Fähigkeit der Modelle und dem erzielbaren Umsatz. Unser Umsatz hat sich in den letzten drei Jahren verzehnfacht: 2023 von 0 auf 100 Millionen US - Dollar, 2024 von 100 Millionen auf 1 Milliarde US - Dollar, und 2025 wird er voraussichtlich von 1 Milliarde auf 10 Milliarden US - Dollar steigen.

Diese Umsatzzahlen, ich weiß nicht, ob diese Kurve tatsächlich so weitergehen wird. Wenn ja, wäre das verrückt. Aber diese Zahlen nähern sich bereits der Größe der größten Unternehmen der Welt. Es gibt also immer Unsicherheiten. Wir versuchen, all dies von Grund auf zu lenken, und das ist verrückt. Aber ich bin zuversichtlich, dass alles gut gehen wird, wenn wir in den Bereichen, auf die wir uns konzentrieren, die besten Modelle produzieren können.

Ich sage normalerweise, dass es sowohl für Google als auch für Anthropic ein gutes Jahr war. Ich denke, unser Gemeinsames ist, dass wir Unternehmen sind