Altmans neuestes Interview: Erwarten Sie nicht, dass KI eine 4-Stunden-Arbeitswoche einleitet.
Ein 2 Wochen altes Startup erledigt die Arbeitsleistung eines ganzen Jahres mit KI.
Nachrichten von Zhidong vom 28. Juli: Am 26. Juli veröffentlichte der US-amerikanische YouTube-Blogger Relentless ein Interview mit Sam Altman, Mitbegründer und CEO des US-amerikanischen KI-Modellriesen OpenAI. Altman erklärte, dass die KI-Branche in die dritte Phase nach Chatbots und Programmieragenten eintritt: andauernde KI-Agenten.
Altman enthüllte, dass OpenAI intern mehr Rechenressourcen, Talente und Produktkräfte in Schlüsselrichtungen wie Programmieragenten investiert und dafür einige bereits erfolgreiche Projekte aufgibt, darunter das frühere Videogenerierungsmodell Sora. Er sagte, dass OpenAI, wenn eine Richtung nicht mehr so wichtig ist wie neue strategische Chancen, seine Ressourcen neu auf Bereiche mit längerfristigem Wert konzentriert.
Altman verriet zudem ein Detail: Als er das Sora-Kurzvideo-Produkt verfeinerte, wollte er ursprünglich den Mechanismus des TikTok-Produkts erforschen, geriet aber darin in Versuchung, schaute es ununterbrochen 3 Stunden lang und musste es schließlich löschen.
Dieses Interview blickte zurück auf den Prozess, bei dem OpenAI von einem Forschungslabor zu einem globalen KI-Unternehmen wurde. Altman erinnerte sich, dass er sich erst wirklich bewusst wurde, dass OpenAI bald zu einem schnell wachsenden Großunternehmen werden würde, als die Nutzerzahl von ChatGPT innerhalb von 5 Tagen 1 Million überschritt.
Bei der Rückschau auf die Entwicklung des Unternehmens erwähnte er, dass die Entwicklung von OpenAI zwischen 2016 und 2018 größtenteils auf Glück beruhte. In den Jahren 2019 und 2020 hätte OpenAI eigentlich nicht überleben dürfen, und Google hätte mit seinem Vorsprung letztendlich den KI-Wettbewerb gewinnen müssen.
Bezogen auf die zukünftige Entwicklung der KI gestand Altman ein, dass der größte physische Engpass für die Umsetzung von „Abundant Intelligence“ (überschwängliche Intelligenz) bei OpenAI Transistoren und Strom sei. Er räumte ein, dass er den Bedarf an Rechenressourcen im KI-Zeitalter in der Vergangenheit stark unterschätzt habe. Altman ist der Ansicht, dass sich die Technologie zwar ständig weiterentwickelt, aber die Vision einer 4-Stunden-Arbeitswoche nie Realität geworden ist und die Menschen in einer Welt der Superintelligenz noch beschäftigter sein werden.
Darüber hinaus wies Altman darauf hin, dass die meisten KI-Startups derzeit KI nutzen, um „leicht zu gewinnende“ Dinge zu tun, anstatt neue Werkzeuge zu verwenden, um disruptive Ideen herauszufordern. Das Interview behandelte auch, warum OpenAI auf Codex setzt, um Claude Code herauszufordern, sowie die zukünftige Vorstellung einer automatisierten Infrastruktur für „Intelligenz erzeugt mehr Intelligenz“ (Intelligence can produce more intelligence).
Bei dem Interview von Relentless: Sam Altman (links), Moderator Ti Morse (rechts) (Quelle: YouTube)
Die Kernpunkte dieses Interviews lauten wie folgt:
1. KI löst die „dritte Welle“ aus: Die Entwicklung von KI-Produkten wird in drei Phasen unterteilt. Die erste Phase sind Chatbots wie ChatGPT, die zweite Phase sind Programmieragenten wie Codex, und die dritte Phase sind die kommenden KI-Agenten, die langfristig autonom arbeiten und fortbestehen können, wie KI-Mitarbeiter und KI-Kollegen.
2. OpenAI stellt Sora wegen Coding Agents ein: Er erklärte erneut, warum er Sora aufgegeben hat: Nicht weil Sora schlecht ist, sondern weil Coding Agents wichtiger sind. Solche Entscheidungen sind in der Geschichte von OpenAI mehrfach vorgekommen: Als GPT-3 gestartet wurde, gab man das Roboterprojekt auf, und als Coding Agents an Fahrt gewannen, gab man Sora auf.
3. KI-Autoritarismus ist das größte derzeitige Risiko: Der zentrale Kampf im KI-Zeitalter ist „KI-Autoritarismus gegen Freiheit“. Er warnte davor, dass sehr schlimme Dinge passieren werden, wenn eine kleine Gruppe von Menschen oder Unternehmen versucht, KI zu kontrollieren. In der Menschheitsgeschichte war jeder Tausch von Freiheit gegen Sicherheit langfristig ein Nettoverlust.
4. Die beiden Engpässe von OpenAI sind Transistoren und Strom: Der größte physische Engpass für die Umsetzung von „Abundant Intelligence“ sind zuerst Transistoren, also die Chipherstellungskapazität, und zweitens Energie.
5. OpenAI unterschätzte den Rechenbedarf, der zukünftige KI-Wettbewerb tritt in das Zeitalter der Infrastruktur ein: Die Bedeutung von Recheninvestitionen wurde in der Vergangenheit stark unterschätzt. Für die zukünftige Entwicklung der KI sind nicht nur bessere Algorithmen erforderlich, sondern auch mehr Rechenzentren, größere Energieversorgungen und eine vollständige Lieferkette.
6. Bestätigt, dass wir uns im Zeitalter der KI-Singularität befinden: Die Menschheit ist nun in die Singularitätsphase eingetreten. Einerseits ist dies eine verrückte, fortwährende exponentielle Wachstumskurve ohne einen einzelnen Auslöserpunkt; andererseits befindet sich die Menschheit in einem weiteren entscheidenden Fenster, in dem sich die Entwicklungskurve in völlig unterschiedliche Richtungen entwickeln kann.
7. Der größte Irrtum bei KI-Startups ist, nur „leicht zu gewinnende“ Dinge zu tun: Die meisten Gründer nutzen KI nur, um „leicht zu gewinnende“ Dinge zu tun (z. B. KI-Agenten für vertikale Unternehmensbereiche), anstatt neue Werkzeuge zu verwenden, um wirklich disruptive Ideen herauszufordern. Er ermutigte Gründer, für Dinge zu planen, die erst in 2 bis 4 Jahren realisierbar sind, und darauf zu vertrauen, dass das Scaling Law weiterhin wirken wird.
Im Folgenden das vollständige Protokoll des Interviews (zur Verbesserung des Leseerlebnisses wurde es von Zhidong ohne Änderung des ursprünglichen Sinns bearbeitet):
01. Mit KI kann ein zwei Wochen altes Startup die Arbeitsleistung eines ganzen Jahres erledigen
Morse: Heute sitze ich mit Sam Altman, dem Mitbegründer von OpenAI, zusammen. Vor langer Zeit hast du an der Stanford University eine Rede darüber gehalten, wie man ein Startup gründet. Seit deiner ersten Rede sind fast 10 Jahre vergangen. Was ist die größte Veränderung?
Altman: Ganz klar ist das KI. Was kleine Teams jetzt erreichen können und mit welcher Geschwindigkeit sie das tun, ist völlig anders. Nicht nur „was man tun kann“ hat sich geändert, sondern auch „wie man wettbewerbsfähig bleibt“, weil sich die ganze Welt dramatisch verändert hat.
Ich finde es erstaunlich, wie ein 10 Wochen altes Startup heute aussehen kann. Wenn man vor 10 Jahren zurückschaut, war ein 10 Wochen altes Startup im Grunde genommen in einer sehr schwierigen Lage.
Morse: Wenn du dir das beste Beispiel für ein 10 Wochen altes Startup vorstellst, das heute gegründet wurde, welches gibt dir das direkteste Gefühl dieses „extrem schnellen Fortschritts“?
Altman: Ich weiß nicht einmal, wie sie heißen, aber ich bin auf ein etwa 2 Wochen altes Startup gestoßen, das eine gesamte Büroproduktivitätssuite von Grund auf neu aufgebaut hat. Das gesamte Produkt ist für eine Welt gestaltet, in der KI als gleichberechtigter Nutzer frei mit Dokumenten, Präsentationen, Tabellen und allen Arten von Dateien arbeiten kann. Ich habe das Gefühl, dass dies vor nicht allzu langer Zeit für ein Startup die Arbeitsleistung eines ganzen Jahres gewesen wäre.
Morse: Ich würde annehmen, dass wenn die Hürden für die Gründung von Unternehmen sinken und die Anzahl der Tools zunimmt, theoretisch schwierigere Unternehmensgründungen einfacher zu starten sein sollten.
Altman: Aber „was ein schwieriges Startup ist“ ändert sich selbst mit enormer Geschwindigkeit. Ich glaube nicht, dass ich ein perfektes Denkmodelle habe, um zu beurteilen, was in den Jahren des Aufbaus eines sehr erfolgreichen Unternehmens wirklich schwierig und wertvoll ist.
Ich höre viele Leute sagen, dass alles in der physischen Welt jetzt besonders wertvoll ist, weil Software kostenlos wird. Aber du weißt, dass Roboter in nicht allzu ferner Zukunft auch sehr gut werden und viele Erwartungen sich ändern werden. Obwohl es sehr schwierig ist, Raketen herzustellen, kann sich diese Situation auch dramatisch ändern.
Ich liebe diese Ära. Ich denke, Startups haben den größten Vorteil, wenn sich die Dinge am stärksten verändern, die Kosten schnell sinken und die Iterationszyklen sich schnell verkürzen. Das ist der Moment, in dem Startups wirklich enorme angeborene Vorteile haben. Und diese Veränderungen geschehen jetzt gleichzeitig in vielen Bereichen, also scheint es ein perfekter Zeitpunkt zu sein, um ein Startup zu gründen.
Dennoch sagen die meisten Startups immer noch: „Ich werde einen KI-Agenten für den vertikalen Unternehmensbereich X bauen“. Das funktioniert in vielen Fällen tatsächlich, aber der Wettbewerb wird sehr intensiv sein. Es wird vielleicht nicht das erfolgreichste, definierende Startup dieser Ära sein, aber es kann durchaus gelingen.
Aber angesichts der Tatsache, dass sich das gesamte Umfeld so stark verändert, bin ich erstaunt, dass nicht mehr Leute Dinge tun wie „Ich werde diese brandneuen Werkzeuge nutzen, um verrückte Dinge herauszufordern“, und die Tatsache wirklich verinnerlichen, dass das Scaling Law weiterhin wirken wird, und für Dinge planen, die jetzt unmöglich oder unwirtschaftlich sind, aber in 2 oder 4 Jahren möglicherweise realisierbar sind.
Also ist es jetzt ein guter Zeitpunkt für Unternehmensgründungen, der Boden ist sehr fruchtbar. Aber gleichzeitig gibt es eine große Versuchung (ich bewerte nicht, ob Menschen diesen Weg wählen), die heutigen Agenten direkt zu nutzen, um diese „einfachen Siege“ zu erringen, das kann ich verstehen.
02. KI reichlich und billig machen und KI-Autoritarismus vermeiden
Morse: Eine Sache, die du seit Jahren sagst, ist, dass jedes Mal, wenn du eine neue Person triffst, versuchst, sie in dein inneres Modell einzufügen, und wenn du sie das nächste Mal triffst, wissen willst, wie viel oder wie schnell sie sich verbessert hat.
Beeinflusst diese Beobachtung von Tausenden von Menschen deine Fähigkeit, KI-Modelle zu bewerten, zum Beispiel dass Modelle heute ein Intelligenzniveau haben und in 3 Monaten ein anderes, und du kannst diese Kurve zeichnen, um dieses Wachstum leichter zu glauben?
Altman: Ich denke, es gibt etwas Gemeinsames hinter beiden: Ich habe ein großes Vertrauen in das exponentielle Wachstum entwickelt, egal ob es um Menschen, Unternehmen oder Modelle geht. Ich glaube nicht, dass das Beobachten des Fortschritts von Modellen und das Beobachten des Wachstums von Gründern subjektiv genau gleich sind, aber sie teilen dasselbe grundlegende Weltbild.
Wenn ich Gründern von Startups noch Ratschläge geben würde, wäre das das Wichtigste, was ich ihnen verständlich machen möchte. Und das ist offensichtlich schwer, aus dem gleichen Grund, warum es auf dem Markt noch Chancen gibt, auf „kostenloses Geld“ für junge Gründer mit hohem Wachstum zu setzen.
Der Markt hat sich noch nicht vollständig daran angepasst. Ich glaube, der Markt hat sich noch nicht vollständig an die Tatsache angepasst, dass das exponentielle Fortschreiten der Modellverbesserungen andauern wird. Du kannst jetzt schon Dinge tun, die intelligentere oder billigere Modelle erfordern.
Morse: Wie bist du darin geworden, mit diesem sich ständig verändernden Chaos umzugehen? Wie hast du gelernt, in chaotischen Umgebungen zu arbeiten?
Altman: Ich denke, das geht nur durch Übung. Es gibt Dinge, egal wie gründlich du sie intellektuell verstehst, du brauchst viel praktische Erfahrung, um sie emotional zu ertragen. In großem Chaos zu arbeiten, zu glauben, dass du es lösen kannst, dass alles gut wird, und dass es dich nicht umbringen wird, auch wenn du noch nicht weißt, wie du es lösen sollst.
Das ist etwas, das man meiner Meinung nach nur durch eigene Erfahrung lernen kann. Ich denke, das ist tatsächlich eine echte Schwäche junger Gründer, weil sie nicht genug Berufserfahrung haben, um diese emotionale Ruhe in diesem Zustand zu erreichen.
Also wird es für sie am Anfang sehr schwierig, und dann lernen sie es schließlich, aber oft mit großen Schmerzen, Kosten und unnötigen Fehlern. Wenn du schließlich einen Hochdruck-Job mit Einfluss übernimmst, wirst du definitiv lernen, mit Chaos umzugehen und gut zu funktionieren. Zumindest die meisten tun das, aber ich glaube nicht, dass man das lehren kann, ich denke, man kann es nur lernen.
Morse: Du hast vor langer Zeit etwas Interessantes gesagt: Wenn du zum ersten Mal ein Ereignis erlebst, das „das Unternehmen töten könnte“, fühlt es sich an, als würde die Welt zusammenbrechen, aber wenn du es überstanden hast und beim 10. Mal angekommen bist, ist es nicht mehr so schlimm, und du denkst dir „Ich habe die ersten neun Male überlebt, dieses Mal wird es auch nicht so schlimm sein“.
Vor ein oder zwei Jahren hast du auch eine andere Idee geäußert: Es geht immer etwas schief, also musst du die Freude am Erleben von Schmerz oder schlechten Dingen verinnerlichen. Wie hast du diesen Wandel vollzogen?
Altman: Ich habe gerade an das gedacht, was du vorher gesagt hast: Als ich bei Y Combinator (YC) die Office Hour (eins-zu-eins-Beratungszeit) gemacht habe, konnte ich immer erkennen, welche neuen Gründer es waren, nicht weil ich wusste, wie neu das Unternehmen ist, sondern wegen ihres emotionalen Zustands, wenn sie über Probleme sprechen. Ich konnte unterscheiden, ob es sich um einen Gründer aus dem YC-Batch handelt oder um jemanden, der schon seit einigen Jahren dabei ist.
Ich denke, die meisten Menschen sehen das Gegenteil von „schlechten Erfahrungen“ als „gute Erfahrungen“ an, und sie bevorzugen gute Erfahrungen, weil sie interessanter oder angenehmer erscheinen. Aber wenn du darüber nachdenkst, ist das Gegenteil von einer schlechten Erfahrung eigentlich „keine Erfahrung“. Irgendwann in der Zukunft wirst du in den Zustand „keine Erfahrung“ eintreten, und dann wirst du für die schlechten Erfahrungen dankbar sein.
Naval Ravikant hat einen Satz, den ich sehr mag: Wenn du eine Fernbedienung hättest, mit der du