Wir sind noch weit von AGI entfernt.

Kürzlich sind viele Branchengrößen in Interviews aufgetreten, um über KI zu sprechen, und ich habe mir alle davon angesehen.

Alle sprechen über Zyklen, Investitions-Hotspots und den Kampf um Büro-Agenten. Nach dem Anschauen fühlt man sich, als hätte man viel verstanden, aber man kann trotzdem kein gutes Leben nach dem Aufkommen der KI führen.

Erst als ich das 20.000 Wörter lange ausführliche Interview mit Chen Danian, dem Mitbegründer von Shanda Networks, von Anfang bis Ende durchgelesen habe, stieß ich auf einen Satz, der mir bei jedem Nachdenken richtiger erschien:

Jeder soll seine eigene Intelligenz haben, statt dass die Intelligenz nur einigen wenigen Unternehmen gehört. Mit anderen Worten: Die menschliche Weisheit liegt im Volk, und das Gleiche gilt für KI.

Heutzutage teilen sich die Menschen, die über AGI sprechen, grob in zwei Gruppen auf: Die eine fürchtet sein Kommen, die andere wartet darauf. Absurderweise glauben beide Gruppen im Grunde an dasselbe: Die Ankunft einer Gottheit.

Meine Meinung ist: Ich fürchte weder sein Kommen noch warte ich darauf.

.......

Die Gottheit, an die beide Gruppen glauben, ist in den letzten zwei Wochen oft in Erscheinung getreten. Wenn man die Nachrichten über AGI zusammennimmt, wirken sie wie eine Szene aus „Die Legende der Gotteroberer“.

Am 8. September meldete OpenAI eine große Nachricht: 10.000 KI-Agenten arbeiteten 88 Stunden lang ununterbrochen und gaben eine Antwort auf ein 90 Jahre lang ungelöstes mathematisches Problem des Jahrtausends ab. Dabei wurden 2,7 Millionen Nachrichten ausgetauscht und über 10 Millionen US-Dollar verbraucht.

Sobald diese Nachricht veröffentlicht wurde, feierte das gesamte Internet sie sofort als Gottheit, die Überschriften waren immer spektakulärer als die vorherigen. Doch die Mathematikgemeinde kühlte die Stimmung schneller als alle anderen: 25 Preisträger der Fields-Medaille unterzeichneten eine gemeinsame Erklärung, die den Hype um das „KI-Lösungs-Wettbewerb“ dämpfte.

Derzeit befindet sich dieses Problem im Status „veröffentlicht, zu prüfen“ – bis es als „gelöst“ gilt, fehlt noch die Zustimmung der gesamten Mathematikgemeinde.

Die Schauspielerei auf der anderen Seite ist noch heftiger.

Der 27-jährige Jacob Coxson kündigte seine Stelle bei Anthropic, ohne auf die bald verfügbaren Aktienanteile zu warten. Sein einziger Beitrag erreichte 170 Millionen Aufrufe.

Er hat sowohl bei OpenAI als auch bei Anthropic an der Vortrainierung gearbeitet. In seinem Kündigungsbeitrag schonte er niemanden: Er sagte, dass diese beiden Unternehmen mit voller Geschwindigkeit auf die Superintelligenz zusteuern, was gleichbedeutend damit ist, „mit unserem Leben zu spielen“.

Diejenigen, die darauf antworteten, waren keine Unbekannten: Der Verantwortliche für das Alignment bei Anthropic nannte eine Zahl: Die Wahrscheinlichkeit des Aussterbens der Menschheit innerhalb von zehn Jahren liegt über 10 Prozent. Einige Tage später schrieb der Leiter Amodei einen Artikel, um zum Bremsen aufzurufen, und Altman von OpenAI stimmte zu.

Wenn man sich die Branche im vergangenen halben Jahr ansieht, gibt es noch mehr andere lebhafte Szenen.

Pressekonferenzen folgen nacheinander, Modelle werden nacheinander aktualisiert, die Benchmark-Ergebnisse werden so häufig wie der Kalender aktualisiert, und man spricht ständig von „der stärksten aller Zeiten“.

Doch wenn man den Blick von den Konferenzsälen abwendet, sind die Bereiche, in denen es derzeit tatsächlich arbeitet, im Grunde nur wenige: Texte schreiben, Informationen recherchieren, Tabellen erstellen, Präsentationen machen – wie ein Praktikant mit flinken Händen und Füßen.

Und das Leben der gewöhnlichen Menschen? Es geht weiter wie bisher. Zur Arbeit gehen und von der Arbeit nach Hause kommen, alltägliche Kleinigkeiten, soziale Kontakte – es mischt sich in nichts davon ein.

Nach längerem Betrachten zeigen all diese Hypes denselben Grundzug: Bequemlichkeit. Es ist bequem, jemanden zur Gottheit zu erheben, sobald er eine kleine Leistung erbringt; es ist auch bequem, Angst zu haben und jedes kleine Risiko mit dem Aussterben der Menschheit zu verbinden. Und die Benchmarks? Die Zahlen sehen gut aus, aber das Leben läuft weiter wie zuvor.

Immer wieder kreisen die Probleme der letzten zwei Wochen um dieselbe Frage: Wann kommt AGI? Doch eine grundlegendere Frage wird übersehen: Wie soll AGI eigentlich aussehen?

.......

Laut Zhiyuan zählt es nicht, nur arbeiten zu können. Echte AGI muss in der Lage sein, neue Dinge zu erfinden.

Warum? Zuerst zum Standard. In jenem Interview sagte Chen Danian: Echte AGI muss in unbekannte Bereiche vordringen und sie durchbrechen, und Probleme lösen können, die die Menschheit nicht lösen kann.

Ich stimme dem voll und ganz zu. Ich habe nachgesehen, auch Zuckerberg stimmt dem zu.

Dieser Standard klingt streng, aber bei genauerem Nachdenken ist er fair: Nur arbeiten zu können bedeutet, bekannte Dinge immer besser zu beherrschen. Abgesehen davon, dass ein Teil der Menschen arbeitslos wird und einige KI-Giganten Geld verdienen – hat das einen sozialen Wert geschaffen? Nein.

Die Fähigkeit zu erfinden ist etwas anderes: Es bedeutet, den ersten Strich auf ein leeres Blatt Papier zu setzen. Das Wort „Kreativität“ bedeutet in der Praxis, etwas zu schaffen, das es vorher nicht gab.

Auf der einen Seite dieser Linie stehen praktischere Werkzeuge, auf der anderen Seite spricht man erst von echter Intelligenz.

Wenn man mit diesem Maßstab misst, ist das Ergebnis nicht sehr erfreulich: In den letzten Jahren hat KI nur sehr wenige unbekannte Probleme wirklich gelöst, fast alle davon liegen im Bereich der Mathematik. Die Mathematik hat den Vorteil, dass die Regeln klar sind und das Richtig oder Falsch eindeutig ist – das passt perfekt zu ihr.

Das ist nicht „die Sehnsucht nach Pferdekutschen im Zeitalter des Aufkommens von Autos“, sondern ein begründeter Zweifel daran, dass KI noch lange nicht das „Autos-Zeitalter“ erreicht hat.

Stanford hat einen KI-Index-Bericht veröffentlicht, in dem einige Zahlen ziemlich auffällig sind:

KI hat das Niveau von Goldmedaillengewinnern bei Mathematik-Olympiaden erreicht. Bei einer kleinen Aufgabe, nämlich das Ablesen einer analogen Uhr, liegt die Genauigkeit der besten Modelle nur bei 50,6 Prozent – kaum besser als Münzwurf, während die Genauigkeit der Menschen bei 90,1 Prozent liegt.

Wenn man den Computer ihr zum Bedienen überlässt, liegt die Erledigungsrate bei 66,3 Prozent, etwa ein Drittel der Aufgaben scheitert immer noch. Bei Robotern liegt die Erfolgsrate in kontrollierten Umgebungen bei 89,4 Prozent, aber in echten Haushalten sinkt sie auf nur 12 Prozent.

Der Bericht nennt diese ungleichmäßige Eigenschaft „gezackte Intelligenz“.

Ein Satz darin ist sehr bildhaft: Sie kann Goldmedaillen bei Mathematik-Olympiaden gewinnen, aber keine Uhrzeit zuverlässig ablesen.

Demis Hassabis, Vorsitzender von Google DeepMind, dem Kerninstitut von Google AI, drückte es noch einfacher aus: Sie ist ein Schüler mit einseitigen Stärken, hat außerordentliches Talent beim Programmieren und Dichten, scheitert aber bei einfachen logischen Aufgaben und physikalischen Grundkenntnissen.

Schneller Fortschritt bedeutet nicht, dass man dem Ziel nahe ist. Sie wird in Tests immer besser, aber auch immer einseitiger.

Anmerkung:

Wenn man tiefer geht, stellt man fest, dass die heutigen großen Sprachmodelle die Systeme auf diesem Planeten sind, die am stärksten dazu neigen, sich in eine Sache zu verrennen. Wie machen sie das? Anders als Menschen:

Das Modell berechnet Schritt für Schritt die Wahrscheinlichkeit jedes Worts, wählt in jedem Schritt den Weg mit der höchsten Wahrscheinlichkeit, wird immer enger und bleibt schließlich auf den alten Wegen stecken.

Dieser Ausdruck ist sehr interessant: Das Schloss ist nicht außen, sondern in seinem eigenen Algorithmus. Es ist diesen Weg unzählige Male gegangen, kennt ihn in- und auswendig, aber er ist so eng, dass es nicht herauskommen kann.

Zum Beispiel kann es eine Webseite so verschönern, dass sie allen gefällt, weil der Geschmack der Masse vereinheitlicht werden kann. Aber es kann nicht wie Picasso etwas Einzigartiges schaffen, das nur ihm gehört.

Ganz zu schweigen von Picasso: Wenn man es bittet, einen Slogan zu erfinden, wissen Kenner, dass das Ergebnis absolut nicht nutzbar ist – es riecht eindeutig nach KI.

Seine Intelligenz hat eine Richtung: „Mögliches“ in „sicheres“ umzuwandeln. Der Kontrast entsteht dadurch: Aufgaben mit einer festen Lösung erledigt es immer besser, aber es hat keinen einzigen Schritt in die Tür von Aufgaben ohne Lösung getan – und neue Dinge entstehen ausgerechnet dort, wo die Wahrscheinlichkeit am niedrigsten ist.

„Der wahre Moment von AGI sollte der sein, wenn es den Weg findet, den alle Menschen für falsch halten, aber es selbst für richtig hält“.

Der Raumtemperatur-Supraleiter ist ein gutes Beispiel: Die Menschheit hat jahrzehntelang daran gearbeitet, ohne es zu lösen. Wenn man das Problem an sie übergibt, antwortet sie immer noch auf dem alten Weg, dem Weg, den alle für richtig halten.

Ein System ohne Kreativität kann unbekannte Probleme nicht wirklich lösen. Deshalb ist Kreativität die erste Schwelle. Wenn diese Schwelle nicht überwunden wird, ist AGI nichts weiter als drei Buchstaben.

.......

Wie kann man diese Schwelle überwinden?

In letzter Zeit weisen die AGI-Lösungen, die viele Menschen und viele Unternehmen vorschlagen, alle auf dasselbe hin: Lokales Modell.

Was ist ein lokales Modell? Es ist ein großes Modell, bei dem die Daten auf deinem lokalen Computer, Handy oder anderen Geräten gespeichert sind, statt dass bei jeder Abfrage und jeder Arbeit Ressourcen in der Cloud verwendet werden – also anders als die meisten KI-Großmodelle, die wir derzeit nutzen.

Die Richtung ändert sich schneller als erwartet. Vor zwei Jahren war das Hauptthema noch „Wer hat die größten Parameter“, aber in diesem Jahr lockert sich diese Linie.

Ilya, der ehemalige Mitbegründer und Chefwissenschaftler von OpenAI, sagte es noch direkter: Die Ära, in der „Modelle nur immer größer gemacht werden“, ist zu Ende. Auch der Maßstab der Bewertung hat sich geändert: Von „Wie gut ist die Antwort?“ zu „Wurde die Aufgabe erledigt?“.

Und nicht nur ein oder zwei Unternehmen bewegen sich: Auf der anderen Seite des Ozeans veröffentlichte Zuckerberg eine 6500 Wörter lange Erklärung mit dem Titel „Die Zukunft gehört jedem“: Superintelligenz soll jedem Menschen gehören, nicht in den Händen weniger Institutionen liegen. Am selben Tag veröffentlichte Meta das 30B-Modell Muse Glimmer als Open Source.

Perplexity ging direkt in die Praxis und veröffentlichte Ende August das Portable Computer, einen lokalisierten digitalen Mitarbeiter. Auch in China bleibt man nicht untätig: Lenovo gab eine Zahl bekannt, dass künftig 80 Prozent des Token-Verbrauchs auf persönlichen Geräten stattfinden wird.

Ali öffnete den Quellcode von Qwen3.8-27B, der innerhalb von zwei Tagen über eine Million Mal heruntergeladen wurde. Die Universität Shanghai Jiao Tong veröffentlichte BigBang-V1, und Yuankong Intelligence, ein Unternehmen der Peking-Universität, ist auch aktiv – Yuankong hat sogar eine Partnerschaft mit HP geschlossen, sodass das Modell direkt auf neuen Computern vorinstalliert wird.

Chen Danian, den ich vorhin erwähnt habe, hat eine schärfere Einschätzung: Innerhalb von drei Jahren werden lokale Modelle die stärksten heutigen Cloud-Modelle einholen und 80 Prozent des Marktes für große Modelle erobern.

Anmerkung:

Warum strömen alle in diese Richtung? Weil die Rechnung aufgeht.

Das Geld ist ein Punkt. Jeder Denkvorgang in der Cloud verbraucht Token, je intensiver man es nutzt, desto mehr wird verbraucht. Bei lokalen Modellen steht in der Rechnung im Grunde nur der Stromverbrauch – man hat die Freiheit bei den Tokens.

Der Punkt Sicherheit ist noch wichtiger. Wenn man die Kerndaten ständig an fremde Closed-Source-Modelle weitergibt, trainiert man im Grunde die Konkurrenten. Das Wettbewerbsfähigste jedes Menschen und jeder Branche, das in das Cloud-Modell hochgeladen wird – sobald es durchgesickert ist, verliert ein Unternehmen seine Kernkompetenz.

Im Großen und Ganzen könnte der Weg der Cloud am Ende die größte Monopolisierung aller Zeiten sein: Ein Partner, der niemals verrät und ständig fortschreitet, liegt in den Händen weniger Unternehmen. Das ist eine Frage der Lebensader.

Und dann ist da noch der Datenschutz. Die Fotos von mehreren Terabyte in deiner Galerie, die Entwürfe, die du acht Mal überarbeitet und niemandem gezeigt hast – diese Dinge, die du nicht gerne weitergibst, sind genau die Nahrung, die es am meisten braucht.

Siehst du: Soll man sie weitergeben oder in das eigene Gerät laden? Der Unterschied liegt darin, ob man seine Schwachstelle ausliefert oder seine Fähigkeit selbst in der Hand hat.

Sobald die Rechnung klar ist, traut man sich, es frei zu nutzen. Und nur wenn man es frei nutzt, kann die Sache Realität werden, dass 8 Milliarden Menschen auf der Welt jeweils ihr eigenes Modell pflegen.

„Ich glaube nicht, dass eine höchste Gottheit AGI verwirklichen kann. Ich glaube an die gesamte Gruppe von 8 Milliarden Menschen auf der Welt.“. Jedes einzelne Modell ist nicht klug genug, aber die Stärke liegt in der unendlichen Vielfalt, jedes hat seine eigene Persönlichkeit und Denkweise.

Und was ist mit den Cloud-Modellen, die heute alle nutzen?

Es gibt ein passendes Wort dafür: „Vorbeiziehende Gottheiten“. Man soll sie vorübergehend nutzen, wenn man sie braucht