"Wer sich nicht an die Regeln hält, verschafft sich stattdessen Vorteils", der Vater von DeepMind spricht erneut über die Regulierung von AGI und Spitzenmodellen

Demis Hassabis, CEO von Google DeepMind, veröffentlichte am 14. Juli einen ausführlichen Artikel mit dem Titel „Der Rahmen für Spitzen-KI und das Morgengrauen einer neuen Ära“, in dem er systematisch seine Überlegungen zur Evolutionsgeschwindigkeit der KI, zum Zeitplan für AGI und zur Rolle der USA bei der Regulierung von Spitzenmodellen darlegt.

„Die Entwicklungsgeschwindigkeit der Spitzentechnologie hat bereits unser Verständnis dafür überholt“, sagte Hassabis.

Er verglich AGI mit der Entdeckung des Feuers und der Elektrizität durch die Menschheit, behauptete, es könne „innerhalb weniger Jahre erreicht werden“, und sagte, seine Auswirkungen seien „zehnmal so groß wie die der industriellen Revolution und auch zehnmal so schnell“.

Diese Evolutionsgeschwindigkeit hat auch den „heftigsten kommerziellen Wettbewerb“ herbeigeführt, der dazu führt, dass die Spitzenlabore sich darin überbieten, ihre Standards immer weiter zu senken. „Es ist schwieriger, Sicherheit zu gewährleisten, und diejenigen, die sich nicht an Regeln halten, profitieren stattdessen.“

Anfang Juni 2026 betonte Hassabis in einem Gespräch mit Jonathan Levin, dem Präsidenten der Stanford-Universität, dass diese Situation des „Vorpreschens“ so schnell wie möglich korrigiert werden muss. Er sagte: „Wenn Sie mehr Zeit damit verbringen, Produkte zu veröffentlichen oder ihre Sicherheit zu gewährleisten, ist das viel schwieriger, als sie direkt auf den Markt zu bringen und auf Glück zu setzen. Daher werden die Vorprescher (oder Regelverletzer) einen gewissen Vorteil erlangen. Das ist ein klassisches Problem in der typischen Dynamik des „Wettlaufs nach unten“, und wir müssen einen Weg finden, dies zu ändern – und ich halte das für sehr dringend.“

Auf der nicht öffentlichen Sitzung des G7-Gipfels schlossen sich Hassabis und Dario Amodei, CEO von Anthropic, erneut zusammen, um vorzuschlagen: Die USA sollten die Führung übernehmen, eine KI-Standardbehörde ähnlich der Finanzaufsicht einzurichten, und Spitzenmodelle müssen vor ihrer Veröffentlichung unabhängige Sicherheitsbewertungen und Zertifizierungen durchlaufen.

Hassabis stellte in seinem ausführlichen Artikel fest, dass die raschen Fortschritte der KI die Einrichtung eines dynamischen und strengen neuen Bewertungssystems zum Testen von Spitzenmodellen erfordern, und die USA sind aufgrund ihrer wirtschaftlichen und technologischen Position voll und ganz in der Lage, diesen Schritt zuerst zu tun. Er glaubt, dass die Technologie letztendlich alle Probleme lösen kann – vorausgesetzt, die Menschheit hält die Technologie in diesem Wettlauf fest in ihren Händen.

Hassabis veröffentlicht diesen ausführlichen Artikel zu diesem Zeitpunkt größtenteils, um den Weg für das kommende Hauptmodell Gemini 3.5 Pro zu ebnen.

Die Technikmedien HackerNoon und Geeky Gadgets berufen sich auf Informationen von unabhängigen Quellen, dass Google plant, Gemini 3.5 Pro am 17. Juli vorzustellen. Es soll in der Lage sein, auf einmal doppelt so viele Informationen wie Gemini 3.5 Flash zu verarbeiten (ein Kontextfenster von 2 Millionen Tokens), komplexe Denkaufgaben zu lösen und selbstständig mehrstufige Programmieraufgaben zu erledigen.

In Bezug auf Sicherheit betonte Google bereits bei der Veröffentlichung von Gemini 3.5 Flash, dass das gesamte Modell nach einem Spitzen-Sicherheitsrahmen entwickelt wurde und gezielte Schutzmaßnahmen in risikoreichen Bereichen wie Cyberangriffen, Chemie und Biologie sowie Kernenergie implementiert wurden. Dass Gemini 3.5 Pro direkt danach folgt, entspricht genau der Logik von Hassabis‘ Artikel: Zuerst der Sicherheitsrahmen, dann die Modellveröffentlichung.

Der folgende Auszug aus Hassabis‘ Artikel (bearbeitet und gekürzt):

Dies ist ein entscheidender Moment in der Geschichte der Menschheit.

Ein System namens AGI, das alle kognitiven Fähigkeiten des menschlichen Gehirns besitzt, könnte in nur wenigen Jahren erreicht werden. Wenn wir Jahrzehnte später auf diese Zeit zurückblicken, glaube ich, werden wir erkennen, dass wir uns am Fuße der Singularität befanden – zweifellos das Morgengrauen einer neuen Ära für die Menschheit.

Ich habe mein Leben der AGI-Forschung gewidmet, weil ich immer überzeugt bin, dass sie sich als eine der nützlichsten und transformativsten Technologien erweisen wird, die die Menschheit je hervorgebracht hat – vorausgesetzt, sie wird verantwortungsvoll entwickelt und eingesetzt.

AGI ist kein technologischer Durchbruch auf dem Niveau des Internets oder der Mobiltelefone, auch wenn beide die Welt verändert haben. Es sollte mit der Entdeckung des Feuers und der Elektrizität gleichgesetzt werden. Wenn Sie innehalten und darüber nachdenken: Was wir tun, ist im Grunde, einen Weg zu finden, Sand zum Denken zu bringen. Das kommt einem Wunder gleich.

Die Auswirkungen dieser Technologie werden beispiellos sein – vielleicht so groß wie die der industriellen Revolution, aber zehnmal schneller. Sie wird uns helfen, einige der größten Probleme der Gesellschaft zu lösen, von der Beschleunigung der Medikamentenentwicklung über die Erschließung neuer sauberer Energiequellen bis hin zur Schaffung neuartiger fortschrittlicher Materialien.

Wir könnten sogar einen Punkt erreichen, an dem Ressourcen nicht mehr der begrenzende Faktor für den menschlichen Fortschritt sind – was eine erstaunliche neue Ära des Wohlstands einleitet.

01 Herausforderungen im Spitzenbereich

Die KI beginnt bereits, greifbare Vorteile zu bringen. Um ihr riesiges Potenzial auszuschöpfen, müssen wir diese entscheidende Entwicklungsphase umsichtig und sorgfältig durchlaufen.

Wir müssen dringend handeln, um die Risiken zu bewältigen, die auftreten könnten, wenn wir uns der AGI nähern. Wir haben bereits die Herausforderungen gesehen, die Spitzenmodelle für die Cybersicherheit mit sich bringen. Mit fortlaufenden Fähigkeiten könnten bald weitere Bedrohungen auftauchen, darunter Risiken im Zusammenhang mit Kernenergie und Biologie.

In Zukunft werden wir starke Schutzmaßnahmen benötigen, um die Kontrolle über zunehmend autonome, rekursiv selbstverbessernde Systeme zu behalten und die unbekannten Probleme zu lösen, die sich im Laufe der Zeit erst allmählich verdeutlichen.

Ich habe immer geglaubt, dass der Einfallsreichtum und die Kreativität der Menschheit die Kraft sind, jedes Problem zu lösen. Ich bin zuversichtlich, dass die Minderung der mit KI verbundenen technischen Risiken eine Herausforderung ist, der wir gemeinsam begegnen können – vorausgesetzt, wir geben uns selbst Zeit und Raum, um den nächsten entscheidenden Schritt richtig zu machen. Das hat weder die Forschungsgemeinschaft noch die Gesellschaft getan.

Gerade befinden wir uns in einem extrem heftigen, mehrschichtigen kommerziellen und geopolitischen Wettlauf. Diese Wettbewerbe haben die raschen Fortschritte der KI vorangetrieben und viele positive Ergebnisse beschleunigt – aber die Entwicklungsgeschwindigkeit der Spitzentechnologie hat bereits unser Verständnis dafür überholt.

Niemand auf der Welt weiß genau, was als Nächstes passieren wird, selbst die Experten sind sich uneinig. Bei so großer Unsicherheit und so hohen Einsätzen ist es eine kluge und richtige Strategie, vorsichtig optimistisch voranzugehen.

Dies erfordert eine öffentliche Politik, die Innovation fördert, Verantwortung und Sicherheit anregt, internationale Zusammenarbeit bei wichtigen Sicherheitsfragen unterstützt und die sorgfältige Überlegung anregt, wie KI zum Wohl der Gesellschaft eingesetzt werden kann.

02 Rahmen für eine Spitzen-KI-Standardbehörde

Die raschen Fortschritte, die wir im Bereich der KI sehen, erfordern einen dynamischen, anpassungsfähigen und strengen neuen Ansatz, um die Fähigkeiten von Spitzen-KI-Modellen zu testen.

Die USA sind aufgrund ihrer wirtschaftlichen und technologischen Position voll und ganz in der Lage, den ersten Schritt zur Gestaltung eines solchen Rahmens zu tun.

Sie könnte eine neue Standardbehörde einrichten, die als öffentlich-private Partnerschaft oder Selbstregulierungsorganisation unter föderaler Aufsicht strukturiert ist – ähnlich der Financial Industry Regulatory Authority (FINRA) der USA. Ihr Vorstand sollte unabhängige Spitzen-Technologieexperten und Vertreter von Open-Source-Projekten umfassen. Die Finanzierung muss ausreichend sein und könnte größtenteils aus der Branche stammen, um weltweite Techniktalente anzuziehen und die notwendigen Rechenressourcen für großangelegte Tests bereitzustellen.

Diese Standardbehörde wird für die Festlegung von Bewertungsverfahren zuständig sein und mit relevanten föderalen Behörden und US-amerikanischen Nationalen Laboren zusammenarbeiten, um Tests in Bereichen durchzuführen, die für die nationale Sicherheit relevant sind.

Wenn ein Modell eine bestimmte Schwelle in einer Reihe von Benchmark-Tests erreicht, die von der Standardbehörde festgelegt und regelmäßig aktualisiert werden, um mit den Fortschritten der KI-Fähigkeiten Schritt zu halten, wird es als „Spitzenklasse“ eingestuft.

Organisationen, die „Spitzenmodelle“ erreichen, wie sie durch diese Benchmarks definiert werden, werden als „Spitzenlabore“ angesehen und dazu ermutigt, bewährte Verfahren zu übernehmen – etwa die Veröffentlichung von Modellkarten mit technischen Details, die Aufrechterhaltung einer starken internen Cybersicherheit, die Überprüfung von Schlüsselpersonal und die Bereitstellung ausreichender Ressourcen für Sicherheits- und Schutzforschung.

Anfangs werden Spitzenlabore das Modell bis zu 30 Tage vor der Veröffentlichung freiwillig an die Standardbehörde zur Überprüfung weitergeben.

Sobald die Bewertungsverfahren als wirksam und robust erwiesen sind, kann schnell zu einer formellen Veröffentlichung übergegangen werden – was bedeutet, dass Spitzenmodelle dieses Verfahren durchlaufen müssen, um auf dem US-Markt eingesetzt zu werden. Die Labore werden außerdem mit der Standardbehörde zusammenarbeiten, um alle kritischen Schwachstellen nach der Veröffentlichung zu beheben.

Die Modellbewertung sollte strenge wissenschaftliche Bewertungen der Fähigkeiten in Bereichen wie Cybersicherheit, biologische Bedrohungen und anderen risikoreichen Bereichen umfassen. Spezifische autonome KI-Tests können Verhaltensweisen aufspüren, die versuchen, Sicherheitsvorkehrungen zu umgehen oder Anzeichen von Täuschung zu zeigen – und sicherstellen, dass bewährte Verfahren übernommen werden, etwa das Einfügen digitaler Wasserzeichen in von KI erzeugte Bilder und die Generierung von für Menschen lesbaren Ausgabe-Tokens, um die Denkprozesse des Modells zu verstehen.

Diese Bewertungen werden regelmäßig aktualisiert – anfangs möglicherweise vierteljährlich –, und veraltete oder gesättigte Benchmarks werden abgeschafft und ersetzt.

Anfangs werden sie in Absprache mit den Spitzenlaboren entwickelt. Letztendlich sollte die Standardbehörde jedoch unabhängige Testkapazitäten aufbauen, die von den einzelnen Laboren getrennt sind, um zu verhindern, dass Modelle übermäßig auf bestimmte Bewertungsmetriken optimiert werden. In Zusammenarbeit mit der US-Regierung kann sie ein System von unabhängigen Prüfern fördern, um die Bewertungen sowie die Entwicklung neuer Benchmarks und Bewertungen zu unterstützen.

Der Vorteil dieses Ansatzes liegt darin, dass er sich auf die Technologie konzentriert, gleichzeitig Innovation unterstützt und verantwortungsvolles Handeln anregt. Er ist darauf ausgelegt, mit der beschleunigten Entwicklung im KI-Bereich Schritt zu halten und sich an die größten Risiken anzupassen, die im Laufe der Zeit erkannt werden.

Wenn sich die Situation weiter verschlechtert, erlaubt dieser Rahmen auch eine Eskalation der Maßnahmen – einschließlich der Koordinierung aller Spitzenlabore, um das Forschungstempo notfalls gemeinsam zu drosseln.

Die Einstufung als Spitzenlabor verleiht hohes Ansehen in der Branche. Dieser Status steht allen Organisationen offen, die die Benchmarks erreichen, unabhängig von ihrem Hintergrund.

Der Rahmen selbst gilt für Spitzenmodelle aus allen Ländern, gleichermaßen für Open-Source- und Closed-Source-Modelle. Modelle, die nicht die Spitzenstandards erreichen – etwa kleinere Modelle, die von Startups oder akademischen Einrichtungen erforscht werden – müssen dieses Verfahren nicht durchlaufen.

Diese von den USA initiierte Anstrengung wird einen starken Ausgangspunkt für die Schaffung gemeinsamer internationaler Standards für Spitzen-KI bieten.

Da diese Technologie die ganze Welt beeinflussen wird, wird dieser Rahmen idealerweise die internationale Gemeinschaft dazu anregen, einen Konsens darüber zu erzielen, wie die schwerwiegendsten Risiken bewältigt werden – und gleichzeitig sicherzustellen, dass alle Menschen Zugang zu den Chancen der KI erhalten und von ihnen profitieren können.

03 Die Zukunft ist noch nicht geschrieben

AGI hat das Potenzial, das ultimative Werkzeug für Fortschritte in Wissenschaft und Medizin zu werden und enorme Produktivitätssteigerungen sowie wirtschaftliches Wachstum herbeizuführen.

Aber um das zu erreichen, müssen wir uns um einen gemeinsamen globalen Rahmen koordinieren, die strengsten wissenschaftlichen Methoden anwenden und die besten Talente zusammenbringen, um die Herausforderungen gemeinsam zu meistern – und so die richtige technologische Grundlage zu schaffen.

Auch wenn diese technischen Probleme gelöst sind, warten komplexere wirtschaftliche und philosophische Fragen auf uns: Welche Wirtschaftsform wird in einer Post-Scarcity-Ära allen Menschen ein besseres Leben ermöglichen? Welche Werte wollen wir bewahren? Was ist der Sinn und Zweck des Lebens? Sogar: Wie wird sich die Art und Weise der menschlichen Existenz verändern?

Diese Fragen dürfen natürlich nicht nur Technikexperten überlassen werden – die gesamte Gesellschaft muss sich beteiligen, um dieses neue Kapitel gemeinsam zu definieren.

Bezüglich der KI existieren gleichzeitig Aufregung und Unsicherheit – beide Gefühle sind berechtigt. Aber die Zukunft ist noch nicht geschrieben. Wir müssen das Zeitfenster vor dem Eintreffen von AGI nutzen, um diese Technologie zum Wohl der gesamten Menschheit zu gestalten. Unser kollektives Handeln jetzt wird den Weg der Zivilisation in ihrer nächsten Phase bestimmen.

Wenn wir AGI sicher in die Welt bringen, können wir ein neues goldenes Zeitalter wissenschaftlicher Entdeckungen und Fortschritte eröffnen – und eine strahlende Zukunft mit enormem Wohlstand für die Menschheit schaffen.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Tencent Technology“, Autor: Bemerkenswert, und wird von 36Kr mit Genehmigung veröffentlicht.