Wird KI die letzte Erfindung der Menschheit sein?

Überblick

Dieser Artikel untersucht das Phänomen der rekursiven Selbstverbesserung im Bereich der künstlichen Intelligenz, bei dem KI tief in die Entwicklung der nächsten Generation von Systemen einbezogen wird, die leistungsfähiger sind als sie selbst.

Der Artikel weist darauf hin, dass dies nicht nur zu einer exponentiellen Beschleunigung der technologischen Evolution führen wird, sondern auch das F&E-Paradigma und die Organisationsformen der menschlichen Gesellschaft grundlegend verändern wird.

Gleichzeitig analysiert der Autor eingehend die realen Einschränkungen, mit denen rekursive Systeme konfrontiert sind, wie den Validierungsengpass, lokale Optima und Überanpassung. In der Zukunft der Mensch-Maschine-Kooperation wird sich der Kernwert des Menschen von der reinen „Ausführung“ hin zu Zielsetzung, Erhaltung ästhetischer Urteilskraft und Übernahme der endgültigen Verantwortung verlagern.

Abschließend betont der Artikel, dass sich Einzelpersonen und Organisationen unabhängig von der technologischen Entwicklung ehrliche Feedback-Schleifen aufbauen, die Schwelle des selbstschützenden Selbstwertgefühls überwinden und eine ständig aktualisierte Evolutionsfähigkeit bewahren müssen.

01

Das wirklich Beängstigende ist nicht, dass „KI schlauer wird“, sondern dass „KI beginnt, das Tempo zu bestimmen, mit dem sie selbst schlauer wird“

Eines der Wörter, das im KI-Bereich in letzter Zeit am faszinierendsten ist und gleichzeitig starke Selbstzweifel bei Menschen auslöst, heißt Recursive Self-Improvement (rekursive Selbstverbesserung, kurz RSI).

Es klingt geheimnisvoll, aber im Grunde lässt es sich zunächst als ein einfacher Satz verstehen:

KI beginnt, an der Entwicklung der nächsten Generation von KI teilzunehmen.

Aber heute wird der Begriff „Selbstverbesserung“ mehr oder weniger missbraucht:

Ein großes Modell nach der Beantwortung einer Frage noch einmal selbst nach Tippfehlern prüfen zu lassen, ist keine RSI;

Einen Agenten ein paar Zeilen Geschäftscode nach Fehlermeldungen korrigieren zu lassen, zählt auch nicht als echte RSI;

Sogar KI den Ingenieuren von OpenAI, Anthropic oder Google beim Schreiben von Trainingscode helfen zu lassen, kann immer noch nur als „Halb-geschlossene Schleife“ eingestuft werden.

RSI im strengsten Sinne ist ein solcher Prozess:

Ein KI-System kann an der Konzeption und Herstellung von Nachfolgesystemen teilnehmen, die leistungsfähiger sind als es selbst; und nachdem das neue System entstanden ist, erlangt es stärkere Fähigkeiten, um die nächste Generation von Nachfolgern zu entwerfen; diese Verbesserung kann kontinuierlich stattfinden und wird immer weniger von Menschen abhängig.

Das heißt, der eigentliche Schlüssel liegt nicht bei Self-Improvement (Selbstverbesserung), sondern bei Recursive (Rekursiv) – die erste Generation modifiziert die zweite, die zweite Generation ist besser als die erste darin, die dritte zu modifizieren, und die dritte Generation ist wiederum besser als die zweite darin, die vierte zu formen.

Wenn das Intelligenzniveau als C notiert wird, haben wir uns in der Vergangenheit nur gefragt: Wie groß ist C? (Wie viele Punkte erzielt diese Maschine heute bei der Prüfung?) Und was RSI wirklich verändert, ist die Änderungsrate:

Sogar weitergehend wird daraus: Das vorhandene Intelligenzbestand C selbst beginnt, die Wachstumsrate dC/dt direkt zu vergrößern.

Wenn „Intelligenz“ selbst zum „Produktionsmittel“ für die Erzeugung weiterer Intelligenz wird, ändert sich die Natur des Spiels grundlegend.

02

Warum gewöhnliche geschlossene Schleifen dich nur geübt machen können, aber Rekursion den Singularität auslösen kann?

Schon vor der Welle der generativen KI hat Elon Musk in einem Interview sein grundlegendes Konzept verraten: „Ich denke, ein äußerst wichtiger Ratschlag ist, eine korrigierbare Feedback-Schleife (Feedback Loop) zu haben, ständig darüber nachzudenken, was man getan hat und wie man es besser machen kann.“

Das klingt sehr ähnlich wie der uns bekannte PDCA-Zyklus (Planen-Ausführen-Prüfen-Handeln) oder „Lean Startup“ (Entwickeln-Messen-Erkennen), nicht wahr? Warum führt der PDCA-Zyklus normaler Menschen nur dazu, dass man zu einem geübten Arbeiter wird, während die rekursive Selbstverbesserung eine exponentielle Explosion auslösen kann?

Denn nicht alle Kreise drehen sich in derselben Dimension.

„Anstrengung und Verbesserung“ in der menschlichen Welt unterteilen sich tatsächlich in vier grausame Stufen:

Stufe 0: Offene Schleife mit hartem Arbeiten (Open Loop). Man arbeitet nur verbissen, ohne jemals auf das Ergebnis-Feedback zu achten. Die Arbeitserfahrung des ersten Jahres wird mechanisch zehn Jahre lang wiederholt – das heißt nicht, dass man zehn Jahre Erfahrung hat, sondern dass man denselben Bug 3650 Mal ausführt.

Stufe 1: PDCA und Konstantklimaanlage (Erstordnung-geschlossene Schleife). Die Klimaanlage zu Hause ist auf 25 °C eingestellt, bei zu hoher Temperatur bläst sie kalte Luft, bei zu niedriger schaltet sie sich ab. Das Ziel ist festgelegt, die Regeln sind festgelegt. Wenn man bei Prüfungen oder beim Spielen von Sportarten die Aktionen nach den Ergebnissen feinjustiert, hilft das, Fehler zu beseitigen, aber sein mathematisches Schicksal ist abnehmender Grenznutzen – je näher man an der vollen Punktzahl ist, desto langsamer schreitet der Fortschritt voran, bis man schließlich an der Obergrenze steckenbleibt.

Stufe 2: Lean Startup (Doppelschleifen-Lernen). Man justiert nicht nur die Aktionen fein, sondern traut sich auch, die ursprünglichen Ziele und Annahmen nach dem Feedback des Marktes zu ändern (Pivot-Transformation). Ursprünglich wollte man ein Spiel entwickeln, aber man stellte fest, dass die Leute nur das Chat-Tool darin mögen, also schneidet man das Spiel komplett weg und entwickelt stattdessen Slack.

Stufe 3: Rekursive Selbstverbesserung (RSI).

Die ersten drei Stufen haben eines gemeinsam:

„Der Verbesserer (Subjekt)“ und „das zu verbessernde Objekt (Objekt)“ sind getrennt. Du nimmst einen Hammer, um externe Produkte oder Fähigkeiten zu bearbeiten; das Werk wird besser, aber die grundlegende Rechenleistung von dir, der den Hammer hält, ändert sich nicht.

Ausgedrückt in einer mathematischen Formel ist der gewöhnliche PDCA-Zyklus:

Dabei ist x dein Output, f dein Gehirn oder dein Arbeitsablauf. Du optimierst ständig x, aber der Operator f ist festgeschrieben.

Und die rekursive Selbstverbesserung ist:

Der Algorithmus f, der verwendet wird, um Dinge zu verbessern, richtet wie ein Gott das Skalpell auf sich selbst.

In der ersten Runde nutzt du die Version 1.0 von dir selbst, um dich selbst auf Version 1.1 zu aktualisieren;

In der zweiten Runde arbeitest du nicht mehr mit den Fähigkeiten von Version 1.0, sondern mit dem Wissen und den Werkzeugen von Version 1.1, um dich selbst auf Version 1.3 zu bringen;

In der dritten Runde bringst du dich selbst mit Version 1.3 direkt auf Version 1.8 …

Gewöhnliche Feedback-Schleifen verbessern die Position (Position);

Rekursive Selbstverbesserung verbessert die Beschleunigung (Acceleration).

03

Der erste „Bootstrapping“-Mythos in der Computergeschichte und die beschleunigte historische Uhr

Dieses Wunderwerk, bei dem „die linke Hand die rechte ergreift und sich selbst an den Schnürsenkeln vom Boden hebt“, hat sich in der Computergeschichte schon einmal tatsächlich ereignet, der Fachbegriff lautet Bootstrapping (Hochziehen aus dem Nichts).

Viele Programmieranfänger stellen eine Frage nach dem „Huhn-Ei-Problem“: In welcher Sprache ist der Compiler der C-Sprache geschrieben?

Die Antwort lautet: In der C-Sprache selbst.

Wer soll diesen Code kompilieren, bevor es einen C-Compiler gibt? Die Vorgehensweise der Pioniere ist äußerst elegant:

Zuerst schreibt man mit der umständlichen Assemblersprache von Hand einen äußerst einfachen „Samen-Compiler v0“, der nur ein paar grundlegende Anweisungen versteht;

Mit diesen wenigen grundlegenden Anweisungen schreibt man den Quellcode eines etwas intelligenteren Compilers, gibt ihn an v0 weiter und kompiliert daraus den „Compiler v1“;

Man wirft den Assembler direkt weg! Mit den neuen Funktionen, die v1 unterstützt, schreibt man den Quellcode eines leistungsfähigeren Compilers neu, kompiliert ihn dann mit v1 zu v2; dann kompiliert man v3 mit v2 …

In jedem Zyklus kaut und schmiedet der Compiler mit den Zähnen, die er gerade im vorherigen Moment ausgebildet hat, sich selbst im nächsten Moment schärfer.

1965 stellte I.J. Good, der alte Partner von Turing in Bletchley Park und Statistiker, die Hypothese der „Intelligenzexplosion (Intelligence Explosion)“ auf:

Solange der Mensch die erste Maschine baut, die auch nur ein bisschen klüger ist als der Mensch und die Fähigkeit hat, Maschinen zu entwerfen, kann sie eine zweite Generation von klügeren Maschinen entwerfen und damit eine Kettenreaktion auslösen.

Goods Originalton lautet: Die erste überintelligente Maschine wird die letzte Erfindung sein, die der Mensch machen muss, vorausgesetzt, sie ist genug sanftmütig, um uns zu sagen, wie wir sie kontrollieren können.

Aber heute müssen wir die „Intelligenzexplosion“ kritisch entzaubern: Wenn RSI wirklich realisiert wird, ändert sich zuerst nicht, dass eine Maschine um 3 Uhr morgens plötzlich einen IQ von 140 auf 10000 steigert, sondern dass „die Zeit selbst“ komprimiert wird.

Heute dauert das Training einer Generation von Spitzenmodellen noch Monate oder sogar Jahre. Sobald die Hypothesenbildung, das Versuchsdesign, die Codierung und die Ergebnisanalyse größtenteils von KI übernommen werden, wird der Forschungszyklus von „einmal pro Jahr“ auf „einmal pro halbes Jahr“, dann auf „einmal pro Monat“ und „einmal pro Woche“ komprimiert. Wie Leopold Aschenbrenner in „Situational Awareness“ beschreibt:

Millionen von „KI-Forschern“ arbeiten rund um die Uhr parallel und machen Versuche und Fehler, um die Algorithmenentwicklung, die ursprünglich zehn Jahre dauern würde, in nur ein Jahr zu komprimieren.

Was RSI wirklich verändert, ist die „Taktfrequenz“ des menschlichen technischen Fortschritts – die Geschichte selbst beginnt zu beschleunigen.

04

Mythen beseitigen: „Rekursion“ bedeutet nicht gleich „unendliche exponentielle Explosion“

Hier entsteht leicht ein Missverständnis: Solange A ein besseres A herstellen kann, wird es zwangsläufig zu einer unendlichen exponentiellen Explosion kommen?

Nicht unbedingt. Denn jedes reale System kann dem Amdahlschen Gesetz (Amdahl's Law) und den Engpässen der physischen Welt nicht entkommen:

KI kann an einem Tag eine Million Versuchsvorschläge machen, aber du hast nicht unbedingt eine Million GPUs, um sie auszuführen;

KI kann an einem Tag hundert neue Chiparchitekturen entwerfen, aber die Wafer-Fabrik von TSMC kann nicht an einem Tag gebaut werden;

KI kann an einem Tag tausend Kandidaten-Moleküle für Medikamente filtern, aber die Phase-III-Klinischen Prüfungen am menschlichen Körper müssen immer noch dem biologischen Rhythmus folgen.

Ein System wird nicht automatisch 100 Mal schneller, wenn 90 % seiner digitalen Glieder 100 Mal schneller werden – die verbleibenden 10 % der physischen und rechnerbezogenen Engpässe werden plötzlich zu dem Punkt, der das gesamte System bestimmt.

Daher ist der genaueste ökonomische Ausdruck für das Verständnis von RSI nicht „unbegrenztes exponentielles Wachstum“, sondern:

RSI verwandelt die „F&E-Fähigkeit“ von einer exogenen Variablen (Exogenous Variable) in eine endogene Variable (Endogenous Variable).

Früher hing die Geschwindigkeit des technischen Fortschritts davon ab, wie viele menschliche Doktoren und wie viel Kapital es extern gibt;

In der Zukunft bildet sich innerhalb des Systems eine autokatalytische Schleife (Autocatalysis): „Je stärker die KI ist, desto schneller die F&E, desto stärker die nächste Generation von KI“.

Ob es unendlich zirkulieren wird, hängt von den externen physischen Engpässen ab, aber allein das Schließen dieser endogenen Schleife einmal reicht aus, um das gesamte Spiel auf den Kopf zu stellen.

05

Wo stehen wir bis Oktober 2026? Drei ineinandergreifende Zahnräder und „kleine geschlossene Schleife“

Warum hat I.J. Goods Prophezeiung sechzig