OpenAI-Führungskraft: Ein Harness wie Codex wird nur noch zwei weitere Monate lang populär bleiben.
„In 2 bis 3 Monaten wird Codex nur noch ein primitives Werkzeug sein.“
Diese Aussage stammt nicht von einem Konkurrenten, sondern von Thibault Sottiaux, dem derzeitigen General Manager für Produkte und Plattformen bei OpenAI, der für ChatGPT und Codex zuständig ist, selbst.
In letzter Zeit hat das Harness-Framework allmählich den Kreis der Entwickler durchbrochen. Von Entwicklern bis zu Angestellten im Büroalltag nutzen die Menschen dieses Agent-Tool und profitieren von den Automatisierungsvorteilen, die die KI mit sich bringt. Darunter ist Codex von OpenAI ein herausragendes Beispiel.
An diesem Punkt haben die Führungskräfte von OpenAI jedoch bereits weiter in die Zukunft geblickt. Der nächste Schritt von KI-Agenten könnte eine paradigmatische Entwicklung von kleinen eigenständigen Tools auf lokalen Geräten hin zu „cloud-nativer Infrastruktur“ sein.
Der Satz von Thibault Sottiaux „Die Notebooks reichen nicht mehr aus“ ist eindeutig: Wir nutzen derzeit das lokale Harness, um die nächste Generation von Modellen mit langwieriger Schlussfolgerungsfähigkeit und hoher Autonomie zu betreiben. Dieses Muster, bei dem die Fähigkeiten der Hardware nicht mit den Anforderungen des Modells Schritt halten, ist bald nicht mehr praktikabel.
Wir wissen, dass das sogenannte Harness eine Suite von Komponenten ist, die um große Modelle herum aufgebaut ist, einschließlich Kontextverwaltung, Tool-Aufruf, Zustandspersistenz, Umgebungsisolation und Ausnahmebehebung. Derzeit führen viele Entwickler Aufgaben aus, indem sie Agenten auf Laptops ausführen, beispielsweise über CLI, Cursor, Claude Code oder einfache Agent-Logik.
Natürlich neigen immer mehr Entwickler dazu, mehrere Tools und Modelle gleichzeitig zu verwenden: Beispielsweise nutzen sie Fable 5 auf Claude Code, um Projektdokumentationen zu schreiben, und verwenden dann andere Modelle auf Codex, um die Ausführung durchzuführen.
Dies führt jedoch zu drei physikalischen Engpässen bei der Nutzung der nächsten Generation von Spitzenmodellen:
Begrenzte Rechenleistung und Arbeitsspeicher: Wenn ein Agent 20 Unteraufgaben gleichzeitig ausführen muss, beispielsweise Tests durchführen, Daten abrufen und gleichzeitig große Projekte kompilieren, sind der Arbeitsspeicher, die CPU und die Ressourcen für gleichzeitige Sandboxes (Docker/VM) auf dem lokalen Notebook sofort vollständig ausgelastet.
Lange Aufgaben erfordern einen dauerhaften Betrieb: Komplexe Agent-Aufgaben können mehrere Stunden oder sogar Tage laufen, was erfordert, dass das Notebook des Benutzers nicht heruntergefahren, nicht vom Netz getrennt und nicht zugeklappt wird – das ist in der Praxis sehr unpraktisch.
Parallele Explosion von Kontext und Toolkette: Die nächste Generation von Modellen wird zweifellos extrem lange Kontexte und hochgradig gleichzeitige Schlussfolgerungen unterstützen. Ein lokales leichtgewichtiges Harness wird kaum in der Lage sein, die Kontextkompression, Zustandssynchronisation und zentralisierte Protokollverfolgung zwischen einer großen Anzahl von gleichzeitig laufenden Agenten zu verarbeiten.
Angesichts dieser Herausforderungen zeigen sich in den letzten Monaten allmählich Anzeichen dafür, dass sich Agent-Tools hin zu schwergewichtigen Infrastrukturen und Systemdesign entwickeln.
Beispielsweise bietet Codex von OpenAI derzeit bereits Unterstützung für die asynchrone Ausführung in der Cloud an. Nachdem der Benutzer eine Anweisung im Terminal eingegeben hat, wird die Aufgabe in eine isolierte Container-Sandbox in der Cloud übergeben und dort autonom ausgeführt, während das Handy oder Notebook nur noch als Steuerungselement dient.
Gleichzeitig entstehen cloud-native Mikro-Sandboxes: Speziell für KI-Agenten entwickelte schnelle Cloud-Sandbox-Infrastrukturen wie E2B, Daytona, Fly.io und Modal ermöglichen es Agenten, bei der Ausführung von Aufgaben dynamisch Hunderte von unabhängigen Container-Umgebungen zu starten, um Code parallel auszuführen und Ergebnisse zu überprüfen.
Unter führenden KI-Teams wie OpenAI, Anthropic und Cognition beginnen die Ingenieure, ihren Entwicklungsschwerpunkt von der Optimierung von Prompts hin zur „Entwicklung von systemweitem Harness“ zu verlagern.
Diesen Februar hat das Anthropic-Team ein Beispiel gezeigt, bei dem 16 Claude-Instanzen parallel in 2000 Cloud-Sitzungen ausgeführt wurden, um einen C-Compiler zu erstellen. Dies ist ein Meilenstein für die Entwicklung der generativen KI hin zur Zusammenarbeit mehrerer Agenten im Bereich der Softwareentwicklung. Dabei übernehmen verschiedene Claude-Instanzen unterschiedliche Rollen: Ein Architektur-Agent ist für das Design des abstrakten Syntaxbaums (AST) zuständig, vier Codierungs-Agenten kümmern sich um verschiedene Module, zwei Test-Agenten schreiben speziell Unit-Tests und ein Prüf-Agent überwacht den Codeablauf und die Sicherheit.
Der leitende Forscher Nicholas Carlini stellte fest: „Der größte Teil der Arbeit wird darauf verwendet, die Umgebung für das Modell, den geschlossenen Testkreislauf und die Feedback-Infrastruktur aufzubauen.“
In den nächsten zwei bis drei Monaten werden solche Arbeitsabläufe mit Agenten wahrscheinlich zu unserem Alltag gehören.
In Übereinstimmung mit der Einschätzung von Thibault Sottiaux wird das Prinzip „Leichte Steuerung lokal, schwere Ausführung in der Cloud“ zum Standard werden. Die Schnittstellen für Entwickler wie IDE, Terminal und Web UI werden vollständig zu Bedienfeldern. Alle rechenintensiven Aufgaben wie echte Code-Refaktorisierung, das Durchführen von Tests und die automatisierte Simulation im Browser werden parallel in dynamischen Cloud-Clustern verarbeitet, bevor die endgültigen Unterschiede (Diff) und Protokolle als Stream zurück zum lokalen Gerät übermittelt werden.
Die tiefe Integration von Modellen und Harness könnte den Wettbewerb von der Frage „Welches Modell hat stärkere Schlussfolgerungsfähigkeiten?“ zu der Frage verändern „Welches Modell kann sein Potenzial am vollständigsten entfalten?“. Agent-Frameworks, die nur darauf setzen, Python-Skripte und einfache API-Aufrufe auf lokalen Computern auszuführen, werden bald ihre Leistungsgrenze erreichen.