Neuestes Interview mit Cyber-Pate Tibo: Es gibt einen dedizierten physischen Knopf ausschließlich für die Reset-Funktion, „Ich resetze es, wann immer ich will“

„Solange ich zurücksetzen will, kann ich jederzeit zurücksetzen“

Gerade hat Tibo, der Cyber-Vater und alias Gott der Codex-Rücksetzungslimits, in der neuesten Folge des Podcasts mit Matthew Berman selbstbewusst diese Aussage getroffen ~

Und das Beste daran: Für das Zurücksetzen hat Tibo extra einen physischen Knopf gebaut.

Als aktueller Leiter von Codex hat Tibo in dieser Podcast-Folge nicht nur vorgestellt, wie man Vorteile für alle verteilt, sondern auch ausführlich auf seine frühere Zeit bei Google zurückgeblickt und einige wichtige laufende Arbeiten bei OpenAI offengelegt.

Man kann sagen, dies ist eine seltene Gelegenheit für die Außenwelt, einen tiefen Einblick in diesen neuen Produktverantwortlichen von OpenAI zu erhalten.

Von der OpenAI-Produktkultur, der nächsten Generation von Agenten, dem ultimativen Ultra-Fast-Modus von GPT bis hin zur zukünftigen Mensch-Maschine-Interaktion, der Einstellung von OpenAI zur Entwicklung von Spitzenmodelltrainings und RSI – fast alles wird abgedeckt, es wird über alles gesprochen …

Die Kernaussagen von Tibo lauten wie folgt:

• ChatGPT und Codex werden schließlich zusammengeführt. Zukünftig wird es nicht zwei separate Produkte wie „Programmieragent“ und „Chat-Assistent“ geben, sondern ein einziges hochgradig personalisiertes AGI, das die Oberfläche automatisch an die Aufgaben, Fähigkeiten und Gewohnheiten verschiedener Nutzer anpasst.
• Der Kern der nächsten Generation von Agenten besteht nicht darin, weitere Skills, Memories oder Subagenten hinzuzufügen, sondern diese Mechanismen „verschwinden“ zu lassen. Was Nutzer wirklich wollen, ist ein Partner, der sie, ihre Ziele, ihren Alltag und den Kontext ihres Teams kontinuierlich versteht – und nicht jemand, der ständig Skill-Dateien, Erinnerungen und Agentennetzwerke verwalten muss.
• Laptops werden zu einem neuen Engpass für KI-Agenten. Die nächste Generation von Agenten wird natürlich auf die Cloud und größere Rechenressourcen zugreifen.
• Heutzutage werden 10 bis 15 Agenten gleichzeitig ausgeführt, um die Langsamkeit des Modells durch Parallelität auszugleichen. Sobald Ultra Fast die Reaktionszeit auf nahezu die menschliche Denkgeschwindigkeit senkt, kehren Arbeitsabläufe zurück zu Echtzeit-Interaktion und „Flow“, anstatt ständig den Kontext zu wechseln.
• Wir legen keinen großen Wert auf Wettbewerb. Die differenzierte Erzählung von OpenAI gegenüber Anthropic ist nicht einfach „das Modell ist stärker“, sondern „die stärksten Fähigkeiten so vielen Menschen wie möglich zugänglich machen“. OpenAI legt Wert auf breite Verbreitung, Beteiligung der Gemeinschaft und Senkung der Nutzungshürden – das ist auch ein wichtiger Grund, warum Codex in ChatGPT integriert wurde.
• OpenAI nutzt bereits praktisch „rekursive Selbstverbesserung“. Es geht nicht nur darum, Modelle Modelle erforschen zu lassen, sondern auch darum, die stärksten Modelle CUDA-Kerne, Inferenz-Stacks und Infrastruktur optimieren zu lassen, wodurch ein Flywheel aus „stärkeres Modell → höhere Effizienz → mehr Rechenleistung → stärkeres Modell“ entsteht.

(Tibos vollständiger Name ist Thibault Sottiaux, er stammt aus Belgien und hat seinen Bachelor in Angewandter Mathematik an der Katholischen Universität Leuven (UCLouvain) absolviert. 2015 trat er Google bei, arbeitete zunächst an Google Maps, wechselte dann zu Google DeepMind, wo er für den Aufbau der KI-Forschungsinfrastruktur verantwortlich war und an Spitzen-KI-Projekten wie AlphaGo mitwirkte. 2024 kam er zu OpenAI und übernahm die Leitung des Codex-Projekts. Mit dem Boom der KI-Coding-Welle wurde Codex schnell zu einem der am schnellsten wachsenden Produkte von OpenAI, und Tibo wurde in der Entwickler-Community bekannt. Da er oft persönlich auf Nutzerfeedback antwortet und Entwicklern hilft, ihre Codex-Nutzungslimits zurückzusetzen, wird er von den Nutzern als „Cyber-Vater“ verehrt.)

Im Folgenden der vollständige transkribierte Dialog:

Erfahrungen bei Google und DeepMind

Moderator: Perfekt, ich freue mich wirklich sehr, mit dir zu sprechen. Ich möchte zuerst über deine Zeit bei Google sprechen. Du warst damals im DeepMind-Team. Vor der Veröffentlichung von ChatGPT gab es bei Google etwas namens LM Chat.

Du hast einmal gepostet, dass Google zu nervös war, um es zu veröffentlichen; DeepMind wurde ebenfalls daran gehindert, Produkte auf den Markt zu bringen, die Google beeinträchtigen könnten. Ich denke oft an diese Geschichte. Du hast damals an diesen Produkten gearbeitet, lange bevor ChatGPT die Welt verändert hat – was hast du dir damals dabei gedacht?

Tibo: Das war eine sehr aufregende Zeit. DeepMind war ein sehr kreativer Ort.

Mein persönliches Fachgebiet war der Aufbau von Infrastruktur und Produkten zur Beschleunigung der Forschung. Damals gab es ein Team, das an Sprachmodellen und deren Skalierung arbeitete.

Später erzielten sie ziemlich gute Ergebnisse, also kam man ganz natürlich auf die Idee: Können wir daraus ein Produkt machen, mit dem man sprechen und das für alle möglichen Dinge verwenden kann?

So entstand ganz natürlich eine Idee wie LM Chat. Zuerst war es ein internes Projekt, danach entwickelte sich die Vision, es zu einem öffentlich zugänglichen Tool zu machen.

Moderator: In welchem Jahr war das?

Tibo: Ungefähr ein Jahr vor der Veröffentlichung von ChatGPT.

Tibo: Außerdem arbeiteten wir an vielen anderen Projekten, auf die ich nicht näher eingehen werde. Es war wirklich ein sehr kreativer Ort. Nur war DeepMind keine Organisation, die dafür ausgelegt war, Produkte auszuliefern;

Im Gegensatz dazu ist OpenAI in dieser Hinsicht sehr anders. Unsere Forschungs- und Produktteams arbeiten heute extrem eng zusammen.

Wir entwickeln gemeinsam Ideen und gestalten viele Dinge gemeinsam. Wir sind sehr darauf ausgerichtet, Produkte auf den Markt zu bringen und dafür zu sorgen, dass Menschen sie nutzen können. Das gefällt mir sehr. Das hat mich auch hierher gezogen: Die Mission, die Talente und die hohe Dichte an Fachkräften. OpenAI hat so viele tolle Seiten.

Moderator: Als du an LM Chat gearbeitet hast, wusstest du schon, dass es etwas Besonderes ist oder etwas Besonderes werden wird?

Tibo: Es fühlte sich wirklich sehr besonders an. Bei diesem Modell wurde dir zum ersten Mal klar: Es kann kohärente Texte generieren und dabei auch hilfreich sein. Am Anfang war es nur unterhaltsam, nach und nach wurde es dann immer nützlicher.

Moderator: Du sagst, du denkst oft an diese Geschichte, das kann ich gut verstehen. Ich glaube, Google hat sich in vielerlei Hinsicht selbst im Weg gestanden. Welche Erfahrungen hast du von dort mitgenommen und zu OpenAI gebracht?

Tibo: Ja, deshalb denke ich oft darüber nach. Ich betrachte es aus der Perspektive der Teamkultur und der gesamten Kultur bei OpenAI: Welche guten Teile wollen wir behalten, welche Dinge sollten wir vermeiden.

Die Kultur bei OpenAI ist sehr bottom-up und sehr ermächtigend. Menschen können alle möglichen Ideen einbringen, sich zusammenschließen und sehr schnell etwas auf den Markt bringen. Bei neuen Produktideen gibt es fast überhaupt keine Widerstände. Das ist sehr aufregend und macht Spaß; alles zielt darauf ab, die Welt positiv zu beeinflussen. Das zu bewahren, ist mir sehr wichtig.

Das andere, ebenso Wichtige ist: Man darf es nicht zu einem Durcheinander werden lassen, oder? Man will am Ende nicht einen Mischmasch aus neuen Funktionen haben, der keine allgemeine Ausrichtung und Konsistenz hat. Deshalb braucht es auch ein Gegengewicht durch Einfachheit und Stolz auf die Produktqualität.

Ich denke, die iOS-App von ChatGPT gehört zu den besten Apps auf dem Markt. Das wollen wir beibehalten. Wir investieren viel in Benutzerfreundlichkeit, Leistung, Effizienz und Einfachheit. Das sind unsere allgemeinen Prinzipien, während wir gleichzeitig jedem die Möglichkeit geben, neue Dinge auszuprobieren und schnell zu liefern.

Die Kultur von OpenAI gestalten

Moderator: Wenn du Gründern Ratschläge geben solltest, wie man eine solche Kultur aufbaut – welche konkreten Elemente oder Praktiken bei OpenAI würdest du empfehlen, von denen andere lernen können?

Tibo: Ich denke, man braucht feste Überzeugungen; gleichzeitig muss man einen Weg finden, nah am Nutzer zu sein und schnell auf Basis von Feedback zu iterieren. Außerdem muss man bereit sein, sich selbst zu verdrängen. Für Gründer mag das nicht ganz so direkt relevant sein, aber für ein Unternehmen wie OpenAI ist es sehr wichtig.

Wir bekommen ständig neue Forschungsergebnisse und neue Ideen; die Fähigkeit zu entscheiden, wann wir in diese investieren – auch wenn das bedeutet, Ressourcen aus dem Hauptgeschäft umzuverteilen – ist extrem wichtig. Das ist schwer, aber wirklich sehr bedeutsam.

Moderator: Genau. Das ist genau das, was Google, wie du gerade beschrieben hast, nicht geschafft hat.

Tibo: Um ehrlich zu sein, sie hatten Pläne, aber alles war Teil eines viel größeren Gesamtplans. Für mich war das nicht der richtige Ort.

Moderator: Wird es nicht schwieriger, diese Kultur der schnellen Lieferung und der Bereitschaft zur Selbstverdrängung aufrechtzuerhalten, wenn OpenAI oder irgendein Unternehmen reifer wird? Besonders wenn man bereits ein stetig profitierendes Cash Cow-Produkt hat und gleichzeitig an etwas neuem, potenziell sehr innovativem arbeitet.

Tibo: Wir sind sehr zukunftsorientiert. Die Zukunft der KI, wie sie letztendlich aussehen wird und wie Menschen davon profitieren werden, wartet nicht auf dich – sie kümmert sich nicht darum, was du im letzten Monat oder in den letzten drei Monaten aufgebaut hast.

Deshalb halte ich es für sehr wichtig, sich voll und ganz einzubringen, offen für die Entwicklungsrichtung zu bleiben und sich gut zu positionieren, damit man diese Welle nutzen kann.

Das gilt sogar für OpenAI: Wir trainieren Modelle und entdecken erst danach ihre Fähigkeiten. Benchmarks sagen dir nicht alles.

Wir müssen selbst viel Zeit damit verbringen, die Modelle auszuprobieren, um zu erkennen: Oh, vielleicht haben wir nicht daran gedacht, dass wir sie auf diese spezielle Weise nutzen können, oder oh, das kann sie sogar.

Das verändert unsere Art, über Produkte nachzudenken. Zum Beispiel haben wir jetzt neue Sprachfunktionen veröffentlicht, die sehr angenehm zu bedienen sind und eine natürliche Kommunikation ermöglichen. Sie kann auch Tools nutzen.

Das verändert vieles. Heute verbringe ich mehr Zeit damit, direkt mit dem Modell zu sprechen. Eine andere Sache, die ich ständig mache, ist Sprache-zu-Text-Diktat, weil die Qualität der Transkription extrem gut ist; im Vergleich zum Tippen von Prompts ist das viel effizienter.

Also sitze ich morgens mit meinem Handy da und sage einen langen Text: „Lass ChatGPT ein paar Dinge erledigen …“ und es macht das dann; es hat Zugriff auf alle meine Tools. Das war nicht möglich, bevor wir das wirklich herausragende Sprachmodell hatten. Also verändert es plötzlich komplett deine Art, über das Produkt nachzudenken.

Die Zukunft von KI-Agenten

Moderator: Gut, sprechen wir weiter über neue Modelle und neue Harness (Laufwerk für Agenten). Vor ein paar Wochen habe ich einen weiteren tollen Post von dir gelesen: „Codex wird in zwei bis drei Monaten sehr primitiv wirken. Wir stehen vor einer weiteren großen Weiterentwicklung. Die nächste Generation von Modellen braucht mehr als nur deinen Laptop.“ Also fangen wir mit dem Harness an. Wo gibt es noch großen Innovationsspielraum bei den Harness, wenn die Modelle immer stärker werden?