AI erzeugt selbst AI? Das überall in den sozialen Medien virale RSI ist nicht so furchterregend.

Von den durch ChatGPT populär gemachten Prompts bis hin zu den in diesem Jahr viral gehenden OpenClaw und AI Agenten: Die neuen Begriffe, die im KI-Bereich populär werden, stehen den Insider-Jargons von Internetunternehmen in nichts nach.

Kürzlich kursierten Gerüchte, dass zu Google gehörende DeepMind kurz davor stehe, die übermenschliche KI-Fähigkeit RSI (Rekursive Selbstverbesserung) zu realisieren.

In einer Zeit, in der Branchengrößen wie Microsoft, Anthropic, OpenAI und Elon Musk wiederholt dazu aufrufen, die Entwicklungsgeschicklichkeit der fortgeschrittenen künstlichen Intelligenz zu verlangsamen, taucht RSI zunehmend in zahlreichen Berichten auf.

Um RSI mit einer nicht ganz strengen Aussage zu erklären: Es bedeutet „KI erzeugt selbst KI“. Mit anderen Worten: Ein ausgereiftes KI-System hilft bei der Entwicklung leistungsstärkerer Modelle der nächsten Generation und steigert die Effizienz der Modellentwicklung in der Zukunft. Sobald dieser Zyklus in Gang kommt, könnte die Fortschrittsgeschwindigkeit der KI die aktuellen iterativen Verfahren bei weitem übertreffen.

Obwohl RSI erst kürzlich populär geworden ist, reicht der Ursprung dieser Idee mehr als sechzig Jahre zurück. 1965 stellte der britische Mathematiker I.J. Good die These auf: Wenn eine Maschine menschliche Intelligenzaktivitäten übertreffen kann, gehört das Entwerfen von Maschinen auch zu ihren Fähigkeiten. Sie kann Maschinen entwerfen, die klüger sind als sie selbst, wodurch die Maschinenintelligenz in einen beschleunigenden positiven Rückkopplungszyklus eintritt – er nannte dies „superintelligente Maschine“.

Genau dieses Science-Fiction-Konzept entwickelt sich derzeit schneller als erwartet zur Realität.

Anfang September gab OpenAI erstmals öffentlich Einblick in die Fortschritte bei RSI und prognostizierte, dass bis März 2028 ein automatisierter KI-Forscher realisiert werden soll. Sein Chefwissenschaftler warnte in einem Beitrag, dass die Menschheit noch nicht auf die rasche Entwicklung der Superintelligenz vorbereitet sei.

Ein weiterer KI-Gigant Anthropic hat ebenfalls versucht, die Automatisierung auf die Sicherheitsforschung auszudehnen. Zuvor nutzte das Unternehmen Claude Sonnet 5, um die Sicherheitsleistung der frühen Version von Claude Opus 4.8 zu verbessern. Mit nur etwa 2400 Trainingsmustern wurde das Leistungsniveau nahe an das der offiziellen Version herangeführt.

Neben der Modifikation des Modells selbst gibt es in der Branche einen praktischeren Weg: Das Patchen der zum Modell gehörenden Softwaresysteme, was in der Fachwelt als „Harness Engineering“ bezeichnet wird. Dieses Ingenieursparadigma ermöglicht es Agenten, ihre eigenen Aufzeichnungsverfahren zu verbessern, fehlerhafte Schnittstellen von Tools zu korrigieren und ineffizienten Code neu zu schreiben. Diese Änderungen müssen nicht unbedingt die Modellgewichte verändern, können aber die Fähigkeiten des gesamten Systems erheblich steigern.

Im Vergleich zum echten RSI verdient jedoch nicht jede Selbstverbesserung die Bezeichnung „rekursiv“. Derzeit ist die überwiegende Mehrheit der sogenannten „KI-Evolutionen“ im Grunde genommen noch auf menschliche Eingriffe angewiesen. Echtes RSI zeichnet sich nicht nur durch deutliche Fortschritte gegenüber der Vorgängerversion aus, sondern auch dadurch, dass es besser darin ist, Nachfolgemodelle zu „herstellen“ als die vorherige Generation.

Mit anderen Worten: Ein System könnte jedes Mal ein bisschen bessere Ergebnisse erzielen als das vorherige, aber gleichzeitig langsamer, teurer und abhängiger von menschlicher Arbeit werden – das zählt nur als einfache Versionsaktualisierung. Im Gegensatz dazu gibt es Systeme, die vielleicht keine so hohen Benchmark-Werte erreichen, aber immer besser darin werden, bessere Nachfolgeversionen mit weniger Ressourcen zu erzeugen – das kommt dem Konzept von RSI deutlich näher.

Natürlich befindet sich die Branche noch in der Erkundungsphase hinsichtlich der genauen Definition von RSI. Am 10. September wurde auf arXiv ein von 33 chinesischen Autoren gemeinsam verfasstes Paper veröffentlicht, an dem Einrichtungen wie die Shanghai Jiao Tong University, die Tsinghua University, ByteDance und das Shanghai AI Lab beteiligt waren.

In diesem Paper wird die Autonomie von RSI in fünf Ebenen von L1 bis L5 unterteilt: Von der Umsetzung von von Menschen vorgegebenen Verbesserungsvorschlägen über die selbstständige Suche nach Verbesserungsstrategien bis hin zum Erwerb von Erfahrungen und der Umwandlung von Umgebungsrückmeldungen in dauerhafte Änderungen. Auf Ebene L5 wird der Verbesserungsmechanismus selbst zum Objekt der Verbesserung – Menschen schaffen dann nicht nur ein einzelnes Modell, sondern ein System, das fortlaufend weitere Modelle erzeugen kann.

Gemessen an diesem Standard erfüllen die meisten der heutigen sogenannten Modelle die Anforderungen von RSI nicht, viele davon dienen nur dazu, die „KI-Apokalypsen-Theorie“ zu überzeichnen.

Derzeit gehen die Debatten um RSI längst über den technischen Bereich hinaus.

Der CEO von Anthropic ruft seine Kollegen dazu auf, die Entwicklungsgeschwindigkeit gemeinsam zu drosseln, und schlägt vor, ein externes Bewertungsteam mit nahezu vollen Mitarbeiterzugriffsrechten für langfristige Überwachungen einzuführen. OpenAI und Elon Musk haben sich in dieser Frage selten so einig gezeigt.

Dennoch weisen einige darauf hin, dass die Forderung großer Labore nach einer Verlangsamung der Entwicklung nicht ausschließlich aus Sicherheitsgründen erfolgt, sondern auch dazu dienen könnte, regulatorische Schutzbarrieren aufzubauen. Sobald die Regulierung verschärft wird, können große Unternehmen mit umfangreichen Sicherheitsteams und Audit-Ressourcen die Anforderungen leichter erfüllen, während Open-Source-Communitys und kleine und mittlere Unternehmen mit höheren Zugangshürden konfrontiert werden.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Meku Net“, Autor: Meku Net, veröffentlicht mit Genehmigung von 36Kr.