Jev erobert das Silicon Valley im Sturm, die stumme KI versetzt 140.000 Entwickler in einen wilden Wettbewerbsrausch.
Gerade heute ist das gesamte Silicon Valley von Jev dominiert!
Nur drei Tage nach seiner Veröffentlichung wurde es schnell in gängige Plattformen wie Vercel, Cloudflare und LangChain integriert. Einige sagen, dass wir kurz vor einem großen Ausbruch der automatisierten Intelligenz stehen!
Und der Protagonist dieses Festes ist ausgerechnet ein großes Sprachmodell, das nicht sprechen kann.
Am 16. September veröffentlichte Diogo Almeida, einer der Kern-Erfinder von ChatGPT und vierter Autor der InstructGPT-Arbeit, eine Reihe langer Tweets, die direkt die Branche angriffen: Wir sind damals auf dem falschen Weg gelandet!
Die Lösung, die er vorstellte, ist genau Jev.
Es schreibt keine Artikel und führt keine Unterhaltungen. Wenn Sie eine Menge ungeordneter Daten eingeben, gibt es innerhalb von nur 70 Millisekunden eine bewertete Entscheidung mit Wahrscheinlichkeit zurück, und die Ausgabe von Tokens ist dauerhaft kostenlos.
Dann geriet die gesamte Situation völlig außer Kontrolle.
In weniger als 36 Stunden strömten bis zu 140.000 Entwickler wie hungrige Wölfe in die interne Testphase.
Mittlerweile sind bereits Hunderte von Anwendungsfällen für Jev aufgetaucht.
Jemand hat einen Sprachassistenten für Mac gebaut: „Öffne die Notizen, erstelle eine neue Notiz …“ bevor der Satz zu Ende gesprochen ist, ist die App bereits sofort geöffnet.
Andere nutzen es zur Prüfung von PRs, eine Prüfung kostet nur ein Siebtel von einer Million Dollar, 1000 PRs kosten insgesamt nur 7 Cent. Für die gleiche Arbeit würde Opus 5 14,5 Dollar verbrauchen.
Sogar der alte Riese Google kann nicht mehr stillsitzen.
Der offizielle Account von Gemma veröffentlichte umgehend einen Beitrag mit dem Titel „DiffusionGemma as Jev“, der sein eigenes Diffusionsmodell direkt in dieses neue Paradigma einbaut, um in einem Schritt Rauschen zu entfernen und parallel die Wahrscheinlichkeiten aller Optionen auf einmal auszugeben, und ergänzt nebenbei sogar die Fähigkeit zur Verarbeitung visueller Inhalte.
Hinter diesem Fest steckt ein tödliches altes Problem: Was ist Intelligenz eigentlich?
Vor mehr als siebzig Jahren stellte Turing die Prüfungsfrage: Ob eine Maschine denken kann, hängt davon ab, ob sie Menschen in einem Gespräch täuschen kann. Die gesamte Branche rannte seitdem auf das Ziel zu, „schöne Worte zu machen“, und ChatGPT hat diesen Weg fast an seine Grenzen gebracht.
Vielleicht ist dies der größte Sieg in der Geschichte der KI, aber auch die größte Fehlentwicklung.
Wir haben siebzig Jahre und hunderte Milliarden Dollar ausgegeben, um Maschinen schließlich beizubringen, schöner zu sprechen als Menschen – nur um festzustellen, dass wir etwas geschaffen haben, dem wir immer noch keine eigenen Entscheidungen zutrauen.
Der Grund dafür liegt darin, dass wir absurd das „Mundwerk“ mit dem „Gehirn“ verwechselt haben.
Die Intelligenz auf der Erde hat sich Hunderte Millionen Jahre lang entwickelt. Die allermeisten überlebenswichtigen Entscheidungen sind bereits getroffen, bevor sie „ausgesprochen“ werden. Die Sprache ist nur eine dünne Schicht, die erst in den letzten Hunderttausenden von Jahren entstanden ist.
Für Almeida gibt es keinen Generationsunterschied zwischen ChatGPT und Claude Code – beide gehören zum selben alten Zeitalter.
Und Jev ist seine erste Antwort an das neue Zeitalter: den Mund zunähen, nur Entscheidungen behalten.
Seit drei Jahren der Chat-Superheld
Wo ist das versprochene „echte Automatisierung“?
Der Protagonist der Geschichte heißt Diogo Almeida.
Er war einer der zentralsten frühen Entwickler bei OpenAI und einer der Kernbegründer von RLHF und InstructGPT.
Aber nachdem ChatGPT weltberühmt wurde, geriet Diogo in tiefe Zweifel.
Er schrieb:
Nachdem ich ChatGPT mit erfunden habe, frage ich mich ständig: Warum hat das übermenschliche Chatmodell nicht zu AGI geführt?
So eine intelligente KI muss bis heute immer von Menschen überwacht werden, um zu funktionieren. Echte Automatisierung ist nicht möglich, also dass Software unbeaufsichtigt selbst Entscheidungen treffen kann.
Er entdeckte ein tödliches Problem: RLHF hat Modelle beigebracht, Menschen zu gefallen, aber sie dadurch in Szenarien der Systemautomatisierung extrem unzuverlässig gemacht.
RLHF, das ChatGPT über Nacht zum Ruhm brachte, lehrte das Modell: „Wie man antwortet, um Menschen zu gefallen“.
Dieser Mechanismus war von Anfang an für die „Unterstützung“ geschaffen. Bei allem, was das Modell tut, muss am Ende immer ein Mensch einen Blick darauf werfen.
Erwarten Sie jetzt, dass es unbeaufsichtigte anspruchsvolle Geschäftsabläufe ausführt? Tut uns leid, es hat von Anfang an keine entsprechende Ausbildung erhalten.
Noch tödlicher ist eine Erkenntnis, die er erst in den letzten zwei Jahren gewonnen hat: Was Sie optimieren, das bekommen Sie. Und „Zeichenketten“ sind genau das Schwierigste auf der Welt, was es zu optimieren gilt.
Um zu verhindern, dass lange Texte vom Thema abweichen, muss das Modell beim Training übermäßig selbstsicher eingestellt werden, es zwingen, niedrigwahrscheinliche Optionen aktiv zu verwerfen und die Ausgabe auf den Hauptpfad zu lenken.
Der Preis dafür ist: Wenn ein großes Modell Ihnen mit Überzeugung sagt „Ich bin zu 80 % sicher“, dann sind diese 80 % völlig unbegründet, Sie können es überhaupt nicht glauben.
Mit anderen Worten: Die absolute Zuverlässigkeit bei der Textausgabe anzustreben, widerspricht den grundlegenden Prinzipien der generativen KI.
Diogo erkannte, dass die KI mit „guter Redegabe“ zum größten Stolperstein wird, der die KI daran hindert, in alle Codes integriert zu werden.
Da Text so schwer zu kontrollieren ist, lassen wir es einfach nicht sprechen.
Daraufhin kündigte er entschlossen bei OpenAI, gründete TypeSafe AI und begann, die gesamte Trainingsarchitektur von Grund auf neu zu entwickeln.
Jetzt ist er mit seiner Antwort – dem Jev-Modell – zurückgekehrt.
System One: Der Dimensionsschlag einer „stummen“ KI
Diogo Almeida gab Jev einen neuen Namen: System-One-Modell.
Der Name stammt aus dem Buch „Schnelles Denken, Langsames Denken“ des Nobelpreisträgers Kahneman. System One ist das instinktive, sofortige Urteil, das ohne nachzudenken aus dem Bauch heraus entsteht.
Die Verwendung von Jev ist sehr einfach.
Sie geben einen sehr ungeordneten Zustand ein (z. B. eine wütende Kundenbeschwerde-E-Mail oder Code, bei dem das Programm hängen bleibt), und es gibt eine typisierte Entscheidung mit genauer Wahrscheinlichkeit zurück.
Währenddessen generiert es kein einziges Wort.
Die offizielle Dokumentation nennt nur drei Interaktionsmöglichkeiten:
1. Choice: Wählen Sie eine aus den angegebenen Optionen aus;
2. Score: Geben Sie einen konkreten Wert ein;
3. Noul: Geben Sie einen Wahrscheinlichkeitswert zwischen 0 und 1 aus.
Jede Antwort enthält die Wahrscheinlichkeitsverteilung aller Optionen sowie einen Gesamtzuverlässigkeitswert.
Das direkte Ergebnis ist Null-Halluzinationen.
Denn die Aufgabe des Modells besteht nur darin, den vordefinierten Optionen Wahrscheinlichkeiten zuzuweisen. Zu Dingen außerhalb der Optionen kann es nichts erfinden, das Programm erhält immer einen gültigen Wert.
Was die „Geschwindigkeit“ betrifft, gilt die gleiche Logik.
Große Modelle geben Token für Token nacheinander aus. Jev führt alle Ausgaben parallel ab und liefert sie auf einmal vollständig zurück.
Für eine einzelne Entscheidung benötigt Jev nur 70 bis 500 Millisekunden End-to-End, für die gleiche Aufgabe brauchen fortschrittliche große Modelle 3 bis 329 Sekunden.
Die Zuversicht, dass Ausgabe-Tokens kostenlos sind, rührt auch daher.
Da es keinen Prozess der wörtlichen Generierung gibt, gibt es keine Ausgabe, die abrechnet werden könnte. Der Originaltext im Blog ist sehr dreist: „Es ist so billig, dass es sich nicht lohnt, es zu berechnen“.
TypeSafe berechnet nur für die Eingabe, 0,042 Dollar pro Million Token. Zum Vergleich: Der Ausgabepreis von Astra