Sam Altman: Wer entscheidet, um wie viel intelligenter KI sein soll als Menschen?

Wie viel klüger als der Mensch darf KI eigentlich sein?

In dem am 3. November veröffentlichten Interview mit Raj Shamani hat Sam Altman, CEO von OpenAI, diese Frage selbst aufgeworfen.

Das klingt wie eine Handlung aus Science-Fiction-Filmen, ist aber für normale Menschen keineswegs fern.

Altman fragte im Interview nach: Wie viel klüger als der Mensch darf KI eigentlich sein?

Die Bewertungsstelle METR hat einen Indikator: Er misst, wie lang eine Softwareaufgabe ist, die KI mit 50-prozentiger Wahrscheinlichkeit selbstständig erledigen kann, gemessen an der Arbeitszeit, die menschliche Experten dafür benötigen.

Anfang 2025 lag dieser Wert bei etwa 50 Minuten; bis April 2026 schätzt METR, dass der Wert bereits über 16 Stunden liegt.

Noch entscheidender ist die Veränderung der Wachstumsgeschwindigkeit.

Von 2019 bis Anfang 2025 hat sich dieser Indikator etwa alle 7 Monate verdoppelt; ein Bericht vom Mai 2026 ergab, dass sich dieser Wert bei den seit 2024 veröffentlichten Spitzenmodellen nur etwa alle 105 Tage verdoppelt.

Auf der menschlichen Seite sind die durchschnittlichen Ergebnisse von IQ-Tests im 20. Jahrhundert um etwa 3 Punkte pro Jahrzehnt gestiegen. Dieses Phänomen wurde nach dem Forscher James Flynn benannt und als „Flynn-Effekt“ bezeichnet.

Doch diese Kurve zeigt bereits Anzeichen einer Umkehr:

Norwegische Forscher analysierten etwa 730.000 IQ-Tests von Rekruten und stellten fest, dass die Punktzahlen von Menschen, die nach 1975 geboren wurden, zu sinken begannen – der Rückgang entspricht etwa 7 Punkten pro Generation.

Sogar Flynn selbst hat einen ähnlichen Rückgang bei britischen Jugendlichen beobachtet.

Auf der einen Seite verdoppelt sich die Länge der Aufgaben, die KI erledigen kann, laut den oben genannten Statistiken etwa alle 105 Tage; auf der anderen Seite liegt der historische Anstieg der menschlichen IQ-Testergebnisse normalerweise bei etwa 3 Punkten pro Jahrzehnt, und in einigen Ländern ist er sogar gesunken.

Mit diesen beiden Maßstäben lässt sich die „Intelligenzlücke“ nicht direkt berechnen. Doch eine Frage steht bereits im Raum:

Je mehr Arbeiten KI übernehmen kann, desto mehr muss die Fähigkeit der Menschen, sie zu verstehen, zu prüfen und zu kontrollieren, Schritt halten.

Was hat das mit uns zu tun?

Wenn Sie normalerweise KI zum Schreiben von Code, zum Nachschlagen von Informationen oder zum Überarbeiten von Plänen verwenden, und sie nur ein kleines bisschen klüger ist als Sie, ist sie ein praktisches „Cheat-Tool“.

Doch sobald sie viel klüger ist als Sie, ändert sich die Situation grundlegend: Sie haben nicht einmal mehr die Fähigkeit, Fehler in ihr zu finden.

Sie können sie zwar weiterhin hinterfragen, aber Sie brauchen zunehmend zuverlässige Tools und andere Personen, um ihre Ergebnisse zu überprüfen.

Sogar die Menschen, die KI entwickeln, sind von ähnlichen Problemen geplagt.

Für Altman hat sich der Preis für die Entwicklung von Superintelligenz bereits in seinem eigenen Leben manifestiert.

Im Interview fragte der Moderator ihn: Welche Version von Ihnen ist bereits „gestorben“?

Altman gab offen zu: Als er gerade OpenAI gründete, war er noch der Mensch, der ein entspanntes Leben führte und voller Hobbys war. Heute ist sein Zeitplan exakt durchgeplant, und er hat schon lange keine spontane Handlung mehr ausgeführt.

Er sagte, wenn man Superintelligenz (ASI) entwickeln will, komme man nicht um ein verrücktes Leben herum.

Altman über den Preis für die Entwicklung von Superintelligenz: Das Leben ist exakt geplant, Spontaneität ist zu einem Luxus geworden.

Als er über die Technologie sprach, die OpenAI gerade entwickelt, betonte Altman, dass sie zu einer Kraft werden wird, die die Gesellschaft tiefgreifend beeinflusst, mit großer Verantwortung und hohen Einsätzen.

Im Prozess des rekursiven Selbstverbesserungsprozesses (RSI) erinnerte er daran, dass zwei Arten von Risiken gleichzeitig abgewehrt werden müssen:

Die eine ist, dass die Menschen die Kontrolle über die KI verlieren; die andere ist, dass die Macht übermäßig auf eine Person, ein Unternehmen oder ein Land konzentriert wird.

Ersteres betrifft die Frage, ob die Menschen die KI kontrollieren können, und Letzteres betrifft, wer diese Kraft letztendlich in den Händen hält.

Je besser KI KI entwickelt

Können die Menschen noch Schritt halten?

Nach dem Training von GPT-4 hat OpenAI einst das Schicksal des Unternehmens aufs Spiel gesetzt, um massiv Rechenkapazität zu horten.

Die damalige Logik war einfach: Großer Einsatz führt zu Wundern.

Doch heute, wenn es um RSI geht, steckt hinter Altmans Frage eine Variable, die am schwierigsten zu beschleunigen ist: die Geschwindigkeit, mit der das menschliche Gehirn die Ergebnisse der KI verarbeitet.

Wenn diese Geschwindigkeit nicht mithalten kann, wird die Intelligenzlücke zwischen Mensch und KI nur immer größer.

Bei RSI geht es darum, dass KI die nächste Generation von KI entwickelt. Nachdem eine stärkere KI erzeugt wurde, übernimmt sie mehr Entwicklungsarbeiten und treibt sich selbst wie ein Schneeball voran.

In einem Artikel vom 21. September hat OpenAI eine Sicherheitslinie gezogen:

Vollständig autonomes RSI ist heute noch nicht eingetreten und sollte nicht erzwungen werden, bevor die Sicherheit gewährleistet ist; ob man voranschreitet und wie, hängt davon ab, ob die Menschen die Kontrolle behalten können.

OpenAI betonte am 21. September, dass die Weiterentwicklung von vollständig autonomem RSI unter der Voraussetzung von Sicherheit und Erhalt der menschlichen Kontrolle erfolgen muss.

Doch um diese Sicherheitslinie zu wahren, muss diese „Geschwindigkeitsdifferenz“ verringert werden: Die menschliche Überprüfung der neuen Vorschläge der KI muss Schritt halten.

Angenommen, ein System kann 24 Stunden am Tag ohne Pause hunderte von Algorithmusverbesserungen vorlegen. Bevor menschliche Forscher die Auswirkungen der Änderungen der letzten Runde verstanden haben, läuft bereits der Countdown für das nächste Experiment.

Wenn man in diesem Fall nur darauf achtet, wie stark die Leistungswerte gestiegen sind, um den Vorschlag zu genehmigen, kann die manuelle Prüfung zu einer reinen Formalität werden.

Obwohl der Mensch noch im Prozess involviert ist, hat er die Kontrolle nicht unbedingt noch in der Hand.

Wenn die Geschwindigkeit, mit der die KI Vorschläge vorlegt, größer ist als die Geschwindigkeit, mit der die Menschen sie verstehen und überprüfen, können sich Risiken in dieser Zeitdifferenz ansammeln.

Wenn man die Fähigkeit der KI als einen Drehknopf auf einem Bedienfeld vergleicht, kann man nicht nur darauf achten, wie stark die Rechenkapazität ist, um zu entscheiden, bis zu welcher Stufe man ihn drehen darf, sondern auch darauf, ob die Menschen ihn verstehen, überprüfen und bei Bedarf anhalten können.

Die Governance, Überwachung und Ausrichtung, nach denen Altman im Live-Stream fragte, lassen sich nicht um drei Fragen herum umsetzen:

Wer bewertet? Wer überprüft erneut? Wer hat das Recht, die Richtung zu ändern?

In demselben Artikel vom 21. September schlug OpenAI außerdem vor, dass die Ausrichtungsforschung und ihre praktische Anwendung vor dem Wachstum der Fähigkeiten liegen müssen.

Im Oktober erklärte Altman weiter im Interview mit Matthew Berman, dass die Fortschrittsgeschwindigkeit von RSI eine Art „Geschwindigkeitsbegrenzung“ benötigt.

Altman erklärte im Interview mit Matthew Berman, dass eine Art Begrenzung für die Fortschrittsgeschwindigkeit von RSI festgelegt werden muss.

Diese Diskussionen geben keine konkrete Obergrenze für die Intelligenz und kein vollständiges Konzept für Geschwindigkeitsbegrenzungen.

Aber bei der zukünftigen Bewertung des Fortschritts der KI darf nicht nur berechnet werden, „wie stark die Fähigkeiten gestiegen sind“, sondern auch die zweite Sicherheitsrechnung, ob „die Menschen noch genug Zeit haben, einzugreifen“.

KI überwacht KI

Wer übernimmt, wenn der Alarm losgeht?

Wie soll diese Sicherheitsrechnung berechnet werden?

Am 29. Oktober hat OpenAI das mehrstufige Überwachungsmechanismus für Spitzenmodelle vorgestellt.

Das gesamte System sieht aus wie eine stufenweise verschärfte Flughafenkontrolle, und zwar im „Matroschka-Modus“, bei dem KI KI überwacht:

Die erste Ebene ist das „Sicherheitstor“, das mit leichten Sonden die Aktivierungssignale im Inneren des Modells in Echtzeit scannt, nach dem Prinzip: Lieber tausend fälschlicherweise blockieren, als eine einzige übersehen;

Die zweite Ebene ist der „Vernehmer“, der ein Modell speziell damit beauftragt, die letzten Gespräche, Denkketten und Tool-Aufrufe des Agenten zu durchsuchen, um Betrug, Überschreitung von Befugnissen und Schlupflöcher bei Bewertungen aufzudecken;

Die dritte Ebene ist die „Sonderkommission“, die den Untersuchungsagenten damit beauftragt, den Kontext zurückzuverfolgen und den Tatort zu rekonstruieren, und bei Bedarf direkt in eine isolierte Sandbox eintritt, um Code zur Beweiserhebung auszuführen.

Schließlich ist es etwas völlig anderes, nur einen einzelnen Satz zu betrachten, als eine Überschreitung von Befugnissen vollständig aufzuklären.

Viele gefährliche Handlungen wirken für sich genommen harmlos – nur wenn man sie wieder in den Aufgabenkontext und die Kette vorheriger und nachfolgender Handlungen einordnet, erkennt man, ob sie heimlich etwas Verstecktes tun.

In hochriskanten Kernbereichen wie Training, Bewertung und internem Codex gibt es eine vierte Ebene, die „Grenzwächter“.

Sie verlässt den Gesprächskontext, prüft die zugrundeliegenden Netzwerkprotokolle und Systemaufzeichnungen und entscheidet schließlich, ob der Alarm ausgelöst werden soll, um die Menschen zu wecken.

Interner Überwachungsprozess von OpenAI: Stufenweise Überprüfung des Modellverhaltens, Durchführung von Sicherheits- und Ausrichtungsuntersuchungen, anschließende menschliche Reaktion oder erneute Prüfung.

Das Problem ist, dass Modelle 7 Tage die Woche, 24 Stunden am Tag ununterbrochen laufen können, aber der menschliche Sicherheitsdienst zwischen „Arbeitszeit“ und „Feierabend“ unterscheidet.

OpenAI gibt selbst zu, dass es zu viele Fehlalarme gibt, sodass es nicht möglich ist, für alle Aufgaben rund um die Uhr Menschen zu rufen.

Um diese Lücke zu schließen, lässt OpenAI einige kritische Alarme nicht auf Menschen warten, sondern löst direkt einen Notstopp aus, um die Aufgabe anzuhalten, und arbeitet gleichzeitig an einem 30-minütigen Auffangmechanismus:

Wenn innerhalb von 30 Minuten nach Auslösen des Alarms niemand das Problem behebt, werden die betreffenden Aktivitäten direkt zwangsweise stillgelegt.

Wer kontrolliert KI

Wer kann an der Entscheidung teilnehmen?

Um einen Schritt zurückzugehen: Selbst wenn das Modell nicht außer Kontrolle gerät, könnten die Menschen immer noch in eine andere tiefe Grube fallen: übermäßige Machtkonzentration.

Altman erwähnte im Interview zwei fast „karikaturhafte“ schlechte Endzustände:

Der eine ist die Kontrolllosigkeit: Die Menschen übergeben absichtlich oder unabsichtlich die Zukunft an Systeme, die weit stärker sind als sie selbst, und können sie nie wieder zurückerhalten;

Der andere ist die Konzentration: Eine