Ultraman kündigt Transformer den Tod, AGI wird innerhalb von zwei Jahren eintreffen, und die nächste Generation der Architektur ist auf dem Weg.

Die Architektur, die die Transformer beenden wird, ist bald da! In einem neuesten Interview hat Altman gewagt behauptet, dass die nächste Generation der KI - Architektur die Transformer völlig umstürzen wird, und das Schicksal der LSTM könnte erneut gespielt werden.

Der größte Gewinner der Transformer hat es selbst dem Transformer den Tod verhängt!

In den letzten Tagen kehrte Sam Altman an die Stanford Universität zurück und warf vor einer Gruppe von zweiten - Jahre - Studenten eine Bombe:

In Zukunft wird es sicherlich eine völlig neue unterliegende Architektur geben, deren Leistungszuwachs nicht weniger dramatisch ist als der damalige Überlegungsgewinn der Transformer gegenüber den LSTM.

Man muss bedenken, dass das GPT - Imperium auf der Transformer - Architektur aufgebaut ist.

ChatGPT, GPT - 4, o1, Codex - alles sind Früchte dieser Architektur.

Und jetzt sagt derjenige, der diese Früchte pflückt, selbst: Die Lebensdauer dieses Baumes neigt sich dem Ende zu.

Selbst Altman hat offen gesagt, dass das, was wir als AGI anstreben, vielleicht nur ein "Warm - up" (Aufwärmphase) ist!

Der Durchbruch der nächsten Generation der neuen Architektur ist bereits im Gange - Die vorhandenen hochwertigen LLM verfügen über genug kognitive Fähigkeiten, um als Intelligenzhebel für den Menschen zu dienen und die Tür zu einem anderen technologischen Paradigma zu öffnen.

Mit KI die nächste Transformer - Architektur finden

Man sagt immer, dass Gewalt Wunder wirkt, aber auch die Gewalt hat ihre Grenzen.

Die Transformer haben eine angeborene Rechenleistungsschlucht: Wenn die Textlänge um das Zehnfache erhöht wird, erhöht sich der Rechenaufwand um das Hundertfache.

Deshalb kostet es heute schon eine astronomische Summe, um Modelle wie GPT - 5.4 auszuführen.

Altman hat offensichtlich diese Wand erkannt. Aber er glaubt nicht, dass es keine Lösung gibt. Im Gegenteil, er glaubt, dass er das Werkzeug in der Hand hat, um diese Wand zu überwinden.

Im Interview gab es einen äußerst wichtigen Satz: Die heutigen Modelle sind endlich so intelligent, dass sie dem Menschen bei diesem Niveau der Forschungshilfe leisten können.

Das heißt, dass die KI nun helfen kann, die nächste Generation der Architektur zu finden.

Die Logik, die aktuelle KI zu nutzen, um eine neue Architektur zu entdecken, die sie ersetzen kann, ist klar:

Je stärker das Modell, desto höher die Forschungseffizienz, desto größer die Wahrscheinlichkeit, dass eine neue Architektur entdeckt wird, und die neue Architektur wiederum macht das Modell stärker.

So entsteht ein sich selbst beschleunigender Fliegendekreis.

Altmans Zuversicht bei dieser Einschätzung hängt mit seiner einzigartigen Fähigkeit zusammen, Paradigmenwechsel zu erkennen.

Während seiner Sommerferien in seinem ersten Studienjahr arbeitete er in einem AI - Labor an der Stanford Universität. Seine Schlussfolgerung war: "Das Zeug hat überhaupt keine Zukunft", und dann wechselte er zu anderen Unternehmensgründungen.

Dennoch hat er die Aufmerksamkeit auf die KI nie verloren. Wie Altman selbst sagt, ist es eine Gewohnheit, "den Überblick zu behalten" und nicht nur die Details zu betrachten.

Als 2012 AlexNet aufkam, fand er, wie die meisten Menschen, dass es "cool" war, aber er legte ihm keine große Bedeutung bei.

In den folgenden Jahren wurden die Deep - Learning - Modelle immer größer und stärker. Altman beobachtete dies. Bis zu einem gewissen Punkt änderte sich das Gefühl komplett - es war wie ein sich nähernder Asteroid, extrem wild, aber die meisten Menschen in der Welt nahmen es nicht ernst.

Deshalb gründete man 2015 OpenAI. Der Kerngedanke war einfach: Die Skala des Deep - Learnings so weit wie möglich ausdehnen und sehen, was passiert.

Damals dachten die alten Hasen der Branche, dass sie verrückt waren, als sie sagten, dass sie ein AGI - Labor gründen wollten. Manche sagten sogar, dass sie Betrüger seien.

Aber das Ergebnis ist bekannt.

GPT - 2 hat Altman erstmals gesehen, wie ein Computer Dinge macht, die es bisher nicht gab. GPT - 3 hat die Welt beeindruckt, und GPT - 4 hat es noch einen Schritt weiter gebracht. Wenn man sich auf ein richtiges Paradigma konzentriert, sind die Erträge exponentiell.

Jetzt wird dieselbe Intuition auf das nächste Paradigma übertragen.

Die Transformer sind nicht das Ende, genauso wie die LSTM nicht das Ende waren.

Altman hat sogar konkrete Ratschläge gegeben:

Wenn man ein Forscher ist, sollte man sich auf diese Richtung konzentrieren und nach "Orten suchen, an denen es nukleare Durchbrüche geben könnte", und man sollte stark auf große Modelle als Forschungshilfe setzen.

Das Whiteboard in Gregs Wohnung

Eine Welt verändernde Nacht

Der spannendste Teil dieses Interviews ist Altmans Erinnerungen an die Gründungsphase von OpenAI.

Am ersten Arbeitstag von OpenAI trafen sich alle in der Wohnung des Mitbegründers Greg Brockman.

Um 9:30 und 10 Uhr kamen acht oder neun Leute nacheinander an und saßen auf der Couch, sich anblickend.

Dann sagte jemand: "Nun, was machen wir?"

Jemand schlug vor, einige Artikel zu schreiben. Ein anderer sagte, man müsse zuerst ein Whiteboard besorgen. Dann bestellte jemand direkt bei Amazon und forderte eine Expresslieferung an.

Altman sagte, dass er plötzlich panisch wurde: Das geht nicht. Das ist weder ein richtiges Startup noch eine Organisation, die etwas erreichen kann.

Aber dann sagte er einen sehr "Altman - typischen" Satz: In solchen Momenten muss man einfach tief durchatmen und glauben, dass wenn man sich um die besten Leute herum hat, die Dinge sich lösen werden.

Er hatte recht.

In der ersten Woche wurden die meisten Ideen, die später die Kernideen von OpenAI in den ersten vier Jahren wurden, auf diesem Whiteboard geschrieben. Obwohl sie selbst dachten, dass diese Ideen unrealistisch waren.

Anfangs hatten sie gar nicht an ein Produkt gedacht.

Altman betonte wiederholt, dass sie dachten, sie seien einfach ein reines Forschungsinstitut und könnten sich mit dem Publizieren von Artikeln begnügen.

Aber dann wurden zwei Dinge immer deutlicher:

• Erstens: Der wirtschaftliche Wert dieses Weges ist weit größer als erwartet.
• Zweitens: Die benötigten Mittel betragen nicht Milliarden, sondern Billionen.

Der Wendepunkt, der Altman an seinen Glauben stärkte, war GPT - 2.

Er sagt, dass er sich nicht an das genaue Datum der Veröffentlichung von GPT - 2 erinnert, aber er wird sich immer an die Nacht erinnern, als er das erste Mal mit diesem Modell gesprochen hat.

Es hat Dinge gemacht, die ich bisher nie gesehen habe, dass ein Computer machen kann.

In diesem Moment dachte er, dass es passt, dass dies es ist.

Warum wurde die Veröffentlichung von GPT - 2 verschoben? Altman gibt zu, dass es im Nachhinein zu vorsichtig war, aber er denkt, dass es nicht schadet, bei jedem neuen Fähigkeitsniveau der KI etwas vorsichtig zu sein.

Natürlich darf man nicht zu feige sein. Wenn Unternehmen die KI nicht schnell genug aufnehmen, werden sie von vollständig autonomen KI - Unternehmen überrannt, und das wäre eine echte Katastrophe.

Das Gesamtbild des Stanford - Interviews

Altmans 10 Einschätzungen

Abgesehen von der Architekturvorhersage und den Gründungsgeschichten hat Altman in diesem Interview eine Vielzahl von Ansichten geäußert, und fast jeder Punkt ist es wert, separat diskutiert zu werden.

1. AGI wird in zwei Jahren hereinkommen.

Altman sagte direkt zu den zweiten - Jahre - Studenten:

Wenn ihr abgeschlossen habt, werdet ihr in eine Welt eintreten, in der es bereits AGI gibt.

Natürlich wird die grundlegende Motivation der Menschen nicht ändern. Ihr müsst immer noch umziehen, einen Job finden und über die Gründung einer Familie nachdenken.

Aber die wissenschaftliche Forschung wird stark automatisiert werden, und die Bedeutung des Gründens eines Startups oder des Jobs in einem großen Unternehmen wird völlig verändert werden.

2. Programmier - Agenten sind der nächste ChatGPT - Moment.

Was wird der nächste Ausbruchspunkt sein? Altman zögerte nicht: Programmier - KI - Agenten.

Direkt dahinter, aber noch nicht vollständig ausgebrochen, ist die gleichwertige Fähigkeit der KI, Aufgaben in allen wissensbasierten Berufen auszuführen.

Aber dieser Tag ist nicht mehr weit.

3. Ein Mensch kann die Arbeit einer mittelgroßen Firma leisten.

In Zukunft werden es viele Mikro - Startups geben, die von einem Menschen oder sechs Partnern gegründet werden, und deren Einfluss und Umsatz sogar mit denen von mittelgroßen und großen Unternehmen mithalten können.

Altman sagt, dass die Entstehung des iPhones die letzte solche Chance war, und diese Zeit ist noch stärker.

Man kann nicht nur Dinge tun, an die man sich früher nicht traute, sondern auch Produkte und Unternehmen mit sehr wenig Personal sehr schnell aufbauen.

4. Ein KI - CEO? Nicht unmöglich.

Als es um die Auswirkungen der KI auf die Gesellschaft ging, sagte Altman einen spannenden Satz:

Er täuscht sich nicht ein, dass es in nicht zu ferner Zukunft keinen KI - CEO geben wird, der besser geeignet ist, OpenAI zu leiten als er.

Wenn einige Unternehmen oder Länder die KI aufnehmen und andere nicht, wird die Wettbewerbslücke gewaltig sein.

Die politischen, wirtschaftlichen und sozialen Auswirkungen dahinter hat er selbst noch nicht vollständig durchdacht.

5. Aber keine Angst, die Anpassungsfähigkeit der Menschen wird stark unterschätzt.

Altman ist kein KI - Apokalyptiker.

Er betont wiederholt, dass die AGI zwar so klingt, als würde sie die Gesellschaft völlig umstürzen, aber das Gefühl, wenn man darin steckt, ist nicht so schrecklich wie es klingt. Man wird vielleicht die ersten Tage ein bisschen verwirrt sein.

Die Menschen sehnen sich danach, füreinander wertvoll zu sein, zu konkurrieren, zu schaffen und sich auszudrücken. Diese grundlegenden Motivationen werden nicht verschwinden.

Vielleicht haben die Berufe in 100 Jahren nichts mit denen von heute gemeinsam, aber die Menschen werden immer etwas zu tun haben und sich immer um die Verbindung zwischen Menschen kümmern.

6. Keine Angst vor dem Wettbewerb mit OpenAI.

Jemand fragte, was passiere, wenn OpenAI zum ultimativen Giganten werde.

Altmans Antwort war überraschend ehrlich: Damals sagten alle, dass es unmöglich sei, gegen Google anzukämpfen, aber wir haben es geschafft.

Eines Tages wird es Unternehmen geben, die größer und erfolgreicher als OpenAI sind, und sie werden sicherlich nicht den gleichen Weg gehen.

Er sagte sogar, dass OpenAI nie hervorgetreten wäre, wenn Google nicht so "schlecht" gewesen wäre.

Große Unternehmen haben ihre typischen Probleme.

7. Schnelles Geldverbrennen, aber keine Sorge.

Als er auf die scharfe Frage "OpenAI verbrennt Geld wie kein anderes" getroffen wurde, war Altman sehr gelassen: Es stimmt, dass es schnell geht, aber wenn man 1 Milliarde Euro in diesem Jahr ausgibt, um 3 Milliarden Euro im nächsten Jahr zu verdienen, gibt es genug Kapitalgeber, die sich um diese Geschäftsmöglichkeit