Codex-Leiter Tibo: Die rekursive Selbstverbesserung von OpenAI beginnt mit der Infrastrukturoptimierung

In der neuesten Folge von Matthew Bermans Interviews teilt Tibo, Produktverantwortlicher bei OpenAI, seine Einschätzungen zur nächsten Welle der künstlichen Intelligenz – rund um die Entwicklung von Codex, persönliche KI-Agenten, die Steigerung der Modelleffizienz und rekursive Selbstverbesserung.

Tibo erläutert detailliert, wie OpenAI die Zusammenführung von ChatGPT und Codex vorantreibt, um einen universellen Agenten zu schaffen, der die Ziele, tägliche Arbeit und persönlichen Präferenzen der Nutzer versteht. Er erklärt zudem, wie ultraschnelle Modelle die Arbeitsweise von Entwicklern verändern werden: Sie ermöglichen es der KI, mit Menschen Schritt zu halten und bei manchen Aufgaben sogar schneller zu arbeiten. Das Gespräch erstreckt sich zudem auf Themen wie die Produktkultur von OpenAI, den Wettbewerb mit Anthropic, die Optimierung der Modelleffizienz, die Aussetzung des Trainings von fortgeschrittenem verstärkendem Lernen und die Frage, wie KI zunehmend günstiger und zugänglicher wird. Dieser Text ist eine Zusammenfassung des Interviews mit Matthew Berman, das Original finden Sie unter dem Link https://www.youtube.com/watch?v=4qjEgPojjzM. Im Folgenden die vollständige Zusammenfassung.

1

Von DeepMind zu OpenAI: Forschungsergebnisse müssen wirklich an Nutzer ausgeliefert werden

Matthew Berman: Ich möchte zuerst über deine Zeit bei Google sprechen. Du warst damals im DeepMind-Team, und vor der Einführung von ChatGPT gab es bei Google intern bereits ein Projekt namens LM Chat. Du hast einmal eine Nachricht veröffentlicht, in der du sagtest, dass Google damals zu nervös war, um es zu veröffentlichen; auch DeepMind wurde daran gehindert, Produkte auf den Markt zu bringen, die Google potenziell verdrängen könnten. Du hast damals an diesen Projekten mitgewirkt, lange bevor ChatGPT die Welt verändert hat – was hast du damals gedacht?

Tibo: Das war eine sehr aufregende Zeit. DeepMind war ein Ort mit enormer Kreativität. Ich war hauptsächlich für Infrastruktur und Produkte zuständig, mit dem Ziel, die Forschung zu beschleunigen. Im Team arbeiteten natürlich auch Personen an Sprachmodellen und dem skalierbaren Training von Modellen, und wir hatten bereits ziemlich gute Ergebnisse erzielt. Die naheliegende Frage war dann: Können wir diese Modelle zu einem Werkzeug machen, mit dem man sprechen und das man für alle möglichen Dinge nutzen kann? So entstanden nach und nach Ideen wie LM Chat. Zuerst war es nur ein internes Projekt, später kam im Team der Gedanke auf, es zu einem öffentlichen Werkzeug zu machen.

Matthew Berman: Wann war das ungefähr?

Tibo: Ungefähr ein Jahr vor der Veröffentlichung von ChatGPT. Daneben arbeiteten wir an vielen anderen Dingen, aber darauf möchte ich nicht näher eingehen. DeepMind war damals tatsächlich ein sehr kreativer Ort. Aber es war keine Organisation, die auf die Auslieferung von Produkten ausgerichtet war – das unterscheidet es sehr stark von OpenAI. Bei OpenAI arbeitet Forschung und Produktentwicklung sehr eng zusammen. Beide Seiten entwickeln gemeinsam Ideen und gestalten Produkte gemeinsam. Wir haben eine starke Ausrichtung auf die Produktauslieferung und wollen die Technik so schnell wie möglich zu den Nutzern bringen. Das gefällt mir sehr gut und ist einer der Gründe, warum ich zu OpenAI gekommen bin. Hier gibt es ein Gefühl der Mission, hervorragende Mitarbeiter und eine sehr hohe Dichte an Talenten.

Matthew Berman: Als du an LM Chat mitgewirkt hast, war dir bereits bewusst, dass es etwas Besonderes ist – oder dass es in Zukunft etwas Besonderes werden könnte?

Tibo: Damals hatte ich tatsächlich das Gefühl, dass es etwas Besonderes ist. Zum ersten Mal erkannten wir, dass Modelle zusammenhängende Texte erzeugen und wirklich hilfreiche Inhalte liefern können. Anfangs war es eher „interessant“ als „nützlich“, aber mit der stetigen Verbesserung der Modelle wurde es zunehmend hilfreich. Du hast erwähnt, dass ich oft an diese Zeit zurückdenke – das tue ich tatsächlich. Für mich geht es dabei nicht nur darum, welche Kultur ich im Team aufbauen möchte, sondern auch um die gesamte Kultur von OpenAI: Welche guten Dinge sollten wir behalten, welche Fehler sollten wir nicht wiederholen?

OpenAI pflegt eine sehr bottom-up ausgerichtete Kultur, in der Mitarbeiter umfassend befugt werden. Jeder kann Ideen einbringen, schnell zusammenarbeiten und sehr schnell Ergebnisse umsetzen. Normalerweise gibt es innerhalb der Organisation kaum starke Kräfte, die neue Produktideen ausbremsen. Das fühlt sich sehr aufregend und spannend an, weil alle daran arbeiten, die Welt besser zu machen. Natürlich braucht diese Kultur auch eine ausgleichende Kraft. Wir dürfen keine Produkte als unübersichtliche Ansammlung von Funktionen bauen, es darf keine fehlende Gesamtausrichtung oder fehlende Konsistenz geben. Produkte müssen einfach zu bedienen sein und gleichzeitig hohen Qualitätsansprüchen genügen. Die iOS-App von ChatGPT ist ein gutes Beispiel dafür – sie gehört heute zu den besten Apps überhaupt. Wir werden weiterhin in die Steigerung der Benutzerfreundlichkeit, Leistung, Effizienz und Einfachheit unserer Produkte investieren und gleichzeitig sicherstellen, dass jeder neue Funktionen ausprobieren und schnell neue Lösungen erhalten kann.

Matthew Berman: Wenn du einem Gründer Ratschläge geben solltest, wie er eine Kultur ähnlich der von OpenAI aufbauen kann – welche konkreten Maßnahmen würdest du nennen?

Tibo: Zuerst braucht es feste Urteile, die Bereitschaft, Nutzer so schnell wie möglich mit dem Produkt arbeiten zu lassen, und anschließende schnelle Iterationen basierend auf Feedback. Darüber hinaus muss man bereit sein, sich selbst zu verdrängen. Das ist für Gründer genauso wichtig, aber für etablierte Unternehmen wie OpenAI besonders wichtig. Wir bringen stetig neue Forschungsergebnisse und neue Ideen hervor – der Schlüssel liegt darin, zu beurteilen, wann wir Ressourcen investieren sollen, auch wenn das bedeutet, Ressourcen aus dem derzeit wichtigsten Geschäftsfeld umzuverteilen. Dieser Prozess ist schwierig, aber das Unternehmen muss diese Fähigkeit besitzen.

Matthew Berman: Genau das war das Problem, das du gerade bei Google beschrieben hast. Google schien das damals nicht geschafft zu haben. Wird es für OpenAI oder jedes wachsende Unternehmen nicht zunehmend schwieriger, diese Kultur der schnellen Auslieferung und der Bereitschaft zur Selbstverdrängung aufrechtzuerhalten, je reifer das Unternehmen wird? Besonders wenn es bereits ein Kerngeschäft gibt, das stetig Gewinne erwirtschaftet, und daneben eine potenziell sehr innovative neue Richtung auftaucht?

Tibo: Wir blicken sehr stark auf die Zukunft. Wie sich künstliche Intelligenz weiterentwickelt und was Menschen letztendlich daraus gewinnen können, wartet nicht darauf, nur weil du in den letzten Monaten ein bestimmtes Geschäft aufgebaut hast. Deshalb muss das Unternehmen wirklich genau hinschauen, wohin sich die Dinge entwickeln, und sicherstellen, dass es auf dieser Welle mitreitet.

Sogar bei OpenAI müssen wir Modelle nach dem Training oft selbst nutzen, um wirklich zu entdecken, welche Fähigkeiten sie besitzen. Benchmark-Tests können uns nicht alle Informationen liefern. Wir müssen wiederholt mit dem Modell interagieren, bis wir plötzlich erkennen: „Ach, man kann es auch so nutzen.“ Das verändert oft unser Verständnis des Produkts.

Nehmen wir die neue Sprachfunktion: Sie funktioniert sehr natürlich und kann bereits Werkzeuge aufrufen. Sie hat meine Arbeitsweise verändert: Ich verbringe jetzt mehr Zeit damit, direkt mit ihr zu sprechen. Ich nutze auch oft die Diktierfunktion, weil ihre Qualität so gut ist – viel effizienter als manuell Prompts einzugeben. Morgens nehme ich mein Handy, sage direkt ein paar Dinge, die ich an dem Tag erledigen muss, und sie ruft alle von mir genutzten Werkzeuge auf, um die restlichen Arbeiten zu erledigen. Vor der Verfügbarkeit ausreichend guter Sprachmodelle war diese Erfahrung überhaupt nicht möglich. Sobald sie aber existiert, ändert sich die Vorstellung der Menschen von Produkten vollständig.

2

Die nächste Generation von Agenten: Dich wirklich verstehen – nicht nur Befehle ausführen

Matthew Berman: Vor einigen Wochen hast du geschrieben, dass Codex in ein paar Monaten, wenn wir zurückblicken, sehr primitiv erscheinen könnte; die nächste Generation von Modellen brauche mehr als nur deinen Laptop. Lass uns zuerst über die Werkzeuge und Systeme sprechen, auf die Agenten angewiesen sind. Welche Bereiche brauchen am meisten weitere Innovation, wenn die Fähigkeiten der Modelle zunehmen?

Tibo: Es gibt noch viele Bereiche, die innoviert werden müssen. Nehmen wir Sprache als Beispiel: Wenn du ein fortgeschrittener Nutzer von Codex oder anderen Programmieragenten bist, hast du dich bereits mehr oder weniger an einige nicht ganz optimale Stellen gewöhnt. Du musst Fähigkeitsdateien pflegen, um dem Modell Dinge beizubringen – aber mit der Zeit werden diese Dateien schwer zu warten. Das Modell hat eine Gedächtnisfunktion, aber es merkt sich nicht immer alles. Wenn du mehrere Unteragenten nutzt, musst du diese auch verwalten. Das gesamte System wird nach und nach zu einem kleinen Netzwerk, der Nutzer spürt diese Komplexität in verschiedenen Schritten, und das ursprüngliche natürliche Interaktionsgefühl wird zerstört.

Was die Menschen wirklich wollen, ist ein Assistent, der sie tief versteht. Er soll deine Ziele und Tagesabläufe verstehen, und auch verstehen, was dein Team gerade macht. Er soll nicht nur auf deine Anfragen reagieren, sondern im richtigen Moment selbstständig handeln, dir bei der Bewältigung deiner täglichen Aufgaben helfen und dabei immer das Gefühl vermitteln, dass er dein perfekter Partner ist. Genau daran arbeiten wir.

Ein weiteres Problem ist: Wenn Modelle leistungsstark genug werden, wird der Laptop selbst zu einer Einschränkung. Laptops sind ursprünglich nach der Arbeitsweise von Menschen gestaltet: Die Menge an Aufgaben, die sie bewältigen können, hängt ungefähr davon ab, wie viel Text Menschen eingeben können, wie schnell sie denken und wie viele Anwendungen sie gleichzeitig öffnen müssen. Aber Modelle unterliegen diesen Einschränkungen nicht. Sie können problemlos hundert Anwendungen gleichzeitig verarbeiten, in Zukunft sogar noch mehr. Deshalb werden zukünftige Modelle offensichtlich auf Ressourcen zugreifen müssen, die über das hinausgehen, was dein persönlicher Computer bieten kann.

Matthew Berman: Du meinst wahrscheinlich Cloud-Agenten. Die Generierungsgeschwindigkeit von ultraschnellen Modellen kann heute zehnmal so hoch sein wie die von normalen schnellen Modellen – offiziell wird sogar von dem 14-fachen gesprochen. Wenn diese Geschwindigkeit erreicht ist, ändern sich die einschränkenden Faktoren. Früher war die Generierungsgeschwindigkeit des Modells möglicherweise nicht schnell genug – heute werden dagegen Netzwerk, Werkzeugaufrufe und der zusätzliche Overhead im gesamten System zu Flaschenhälsen.

Tibo: Genau. Eine der Lösungen besteht darin, das Modell mehrere Aufgaben gleichzeitig verarbeiten zu lassen. Es kann gleichzeitig explorieren, Tests schreiben, Code kompilieren und eine neue Hypothese überprüfen. Dadurch verschieben sich die Flaschenhälse stetig, weil das Modell mehr Dinge parallel erledigen und diese Aufgaben sehr effizient und schnell verarbeiten kann.

Matthew Berman: Bei der heutigen Geschwindigkeit starte ich oft zehn bis fünfzehn Agenten gleichzeitig. Das verursacht aber auch eine hohe kognitive Belastung, weil ich ständig den Kontext wechseln muss und normalerweise dreißig bis vierzig Minuten warten muss, bis die Aufgaben Ergebnisse liefern. Mit ultraschnellen Modellen könnte sich die Arbeitsweise von einzelnen Entwicklern stark verändern. Vielleicht betreibt man nicht mehr zehn bis fünfzehn Agenten gleichzeitig, sondern nur drei oder vier. Wie siehst du den zukünftigen Arbeitsablauf von einzelnen Entwicklern?

Tibo: Wir legen großen Wert darauf, wie wir die Aufmerksamkeit der Nutzer verwalten und Produkte an die Aufmerksamkeitsmuster von Menschen anpassen. Letztendlich bauen wir Werkzeuge für Menschen und wollen, dass Technik die menschlichen Fähigkeiten erweitert. Deshalb müssen Produkte um die Fähigkeiten von Menschen zur Mehrfachverarbeitung von Aufgaben herum gestaltet werden: Wann wollen Nutzer Ergebnisse sehen? Sollen sie sofort angezeigt werden, oder ist es nach dreißig Minuten besser?

Wenn ultraschnelle Modelle mit Sprache kombiniert werden, kann das Modell genauso schnell oder sogar schneller als der Mensch arbeiten. Der Nutzer kann im Arbeitsablauf bleiben, während er Ideen entwickelt, Prototypen sieht und Berichte in Echtzeit generiert. Das fühlt sich sehr natürlich an. Plötzlich wirst du feststellen, dass die alte Art, zehn Agenten gleichzeitig zu verwalten, nicht das ist, was du wirklich willst – und du nicht mehr zu dieser Arbeitsweise zurückkehren möchtest. Wir wollen eine wirklich natürliche Erfahrung bieten, bei der sich die Technik an den Nutzer anpasst – nicht umgekehrt.

Matthew Berman: In den letzten Monaten wurde viel über Programmiermethoden für Agenten diskutiert, wie Schleifen oder Graphenstrukturen. Helfen diese Methoden einzelnen Entwicklern dabei, ihre eigene Aufmerksamkeit zu verwalten?

Tibo: Ich teile das Problem in zwei Kategorien ein. Die erste Kategorie ist der Aufbau der besten persönlichen universellen Intelligenz, also des persönlichen Agenten. Er soll mit dir zusammenarbeiten, selbstständig wichtige neue Ideen vorschlagen, schnell handeln, wenn er Chancen erkennt, und die Dinge erledigen, die du wirklich tun willst – und das sehr effizient. Ob es sich um technische Probleme, Recherchen oder alltägliche Ratschläge handelt, er soll alles verarbeiten können und hochgradig an dich angepasst sein. Der Kern dieser Richtung ist, dich als einzigartige Person tief zu verstehen.

Die zweite Kategorie ist die umfassende Automatisierung. Das bedeutet, intelligente Systeme zu bauen, die komplexe Prozesse übernehmen. Zum Beispiel kann es Protokolle der Produktionsumgebung einsehen und automatisch Leistungsoptimierungen durchführen; es kann Systemregressionsprobleme erkennen und automatisch beheben; im Bereich der Cybersicherheit kann das System nach dem Erkennen von Schwachstellen durch Scanner automatisch Patches installieren, sodass das Zeitfenster, in dem die Schwachstelle exponiert ist, nahezu null wird. Der gesamte Prozess erfordert keine ständige Beteiligung von Menschen, oder nur Genehmigungen bei risikoreichen Operationen. Der Großteil der Arbeiten kann vom System automatisch erledigt werden, und der Nutzer muss nicht ständig die direkte Kontrolle behalten.

3

Zusammenführung von ChatGPT und Codex: Auf dem Weg zur persönlichen universellen Intelligenz

Matthew Berman: In den letzten Monaten werden ChatGPT und Codex schrittweise zusammengeführt. Wie läuft dieser Prozess intern bei OpenAI ab? Wie ist das Feedback der Nutzer?

Tibo: Diese Zusammenführung ist sehr hilfreich. Am Anfang lautete das Feedback vieler Nutzer: „Warum muss man sie unbedingt zusammenführen? Ist das wirklich notwendig?“ Aber zukünftige Modelle erfordern es von sich aus, sie zu kombinieren – also werden wir das letztendlich tun. Das ist die einfachste und sinnvollste Richtung.

Wir bauen einen hochgradig personalisierten, leistungsstarken Agenten, der dir in vielerlei Hinsicht hilft. Ob du programmierst oder andere Dinge erledigst, die zugrundeliegende Technik, das Werkzeugsystem und der Ansatz sind immer dieselben. Er ist hochgradig multimodal, mit Priorität auf Sprache, und sehr effizient. Du solltest nicht als Programmierer gezwungen sein, eine Programmierer-Oberfläche zu nutzen – und auch nicht als nicht technisch versierter Nutzer