Jeff Deans Startup-BP ist durchgesickert, Yang Zhilin ist ebenfalls darin aufgeführt, und die VCs im Silicon Valley wetteifern erbittert darum, Geld zu investieren.

Das Startup von Jeff Dean, Discovery Loop, hat das wohl luxuriöseste BP (Geschäftsplan) der Geschichte vorgelegt.

Drei davon sehen so aus:

Die erste Seite: Was wir gemeinsam aufgebaut haben;

Die zweite Seite: Wie groß die Teams waren, die wir geleitet haben;

Die dritte Seite: Wie stark unser technologischer Einfluss ist.

Und noch eine Seite: Hier haben wir einige private Fotos…

Das war es schon, so einfach ist das.

Googles "Jeff Dean" denkt sich so: Die Finanzierung ist doch ein Kinderspiel, oder?

Die VCs im Silicon Valley stehen bereits Schlange, um Geld zu überweisen.

Der Gründer einer der führenden Investoren sagte direkt:

Wir sind "ausgewählt" worden, in das neue Unternehmen von Jeff Dean zu investieren, das ist uns eine große Ehre!!

Die Netznutzer sind nach dem Lesen direkt begeistert: Wenn man Jeff Dean gegenübersteht, ist es noch ungewiss, wer wem die Präsentation hält.

Jeff Dean, Jeff Dean, selbst drei Seiten PPT sind schon zu viel.

„Dein BP braucht nur eine Seite: Google me".

Das luxuriöseste BP in der Geschichte der KI-Startups – wie sieht es aus

Ein normales BP muss normalerweise Fragen beantworten: Welches Problem wird gelöst, was ist das Produkt, wie groß ist der Markt, wie will man Geld verdienen…

Und vor allem: Warum ausgerechnet du?

Jeff Dean ist eben Jeff Dean… er fängt direkt mit der letzten Frage an.

Aber das ist ja Jeff Dean!

Man muss wissen, dass dieser Name in der alten Zeit gleichbedeutend mit "Vibe-Coding" war 🐶.

Er könnte direkt sagen „Ich, Jeff Dean – gebt mir Geld", aber der Großmeister hat sich trotzdem die Mühe gemacht, eine so schlichte PPT zu erstellen, das ist wirklich sehr ehrlich von ihm.

Erste Seite: Was wir gemeinsam aufgebaut haben.

Darauf stehen die Namen der vier Gründer und die Ergebnisse, die sie erzielt haben, unterteilt in 4 Kategorien:

Produkte: Google Suche, Werbung, Gmail, Übersetzung, Gemini, Cloud TPU;

Infrastruktur: GFS, MapReduce, Bigtable, Spanner, TensorFlow, Pathways;

KI-Forschung: Word2Vec, Seq2Seq, MoE, Modell-Destillation, PaLM, Flamingo, Chinchilla;

KI-Anwendungen: AlphaChip, AlphaStar, AlphaFold, Wettervorhersage und alle Generationen von Gemini-Modellen.

…Was ist das denn? Er hat einfach das gesamte Google-Produktkatalog hierher übertragen.

Wie die Netznutzer scherzen:

Das beste Produkt, das ich bei Google entwickelt habe: Google selbst.

△ Quelle: Kommentar von Netznutzer @Kevinqyh auf Xiaohongshu

Zweite Seite: Wie groß die Teams waren, die wir geleitet haben, und welche KI-Gründer wir hervorgebracht haben.

Jeff Dean hat Google Brain mitbegründet und geleitet, dessen Team einst etwa 600 Personen umfasste; das von ihm geleitete Google Research- und KI-Team erreichte eine maximale Größe von etwa 4400 Personen.

Oriol Vinyals hat ein Team von etwa 250 Personen geleitet und das Gemini-Pre-Trainingsteam gegründet.

Quoc Le hat ein Team von etwa 60 Personen geleitet.

Alle drei haben jeweils als gemeinsame technische Leiter von Gemini, für Pre-Training und Post-Training und ähnliche Aufgaben gearbeitet.

Noch verrückter ist die lange Liste, die darunter aufgeführt ist… sie deckt im Grunde die Hälfte der gesamten heutigen KI-Branche ab.

Bekannte Größen wie Dario Amodei, Ilya Sutskever, Noam Shazeer… ganz zu schweigen, außerdem sind die Gründer bekannter KI-Labs wie Physical Intelligence, Thinking Machines und Sakana AI dabei.

Unter den bekannten chinesischen Namen ist Yang Zhilin zu sehen.

Während seiner Promotion an der Carnegie Mellon University war er bei Google Brain tätig und arbeitete mit dem Team von Quoc Le an Sprachmodellarchitekturen und Pre-Training-Methoden.

In dieser Phase haben er und seine Kollegen Dai Zihang gemeinsam Transformer-XL und XLNet vorgestellt.

Ersteres versucht, das feste Textfenster des gewöhnlichen Transformers zu durchbrechen, sodass das Modell über verschiedene Abschnitte hinweg Informationen über größere Entfernungen behält; Letzteres erkundet einen weiteren Pre-Training-Pfad neben BERT und übertrifft BERT bei 20 Aufgaben der natürlichen Sprachverarbeitung, die in der Veröffentlichung der Arbeit genannt werden.

Die weitere Geschichte kennt jeder.

Yang Zhilin gründete Moonshot AI und entwickelte Kimi. Die Fähigkeit, mit der Kimi den Nutzern zuerst in Erinnerung blieb, war genau die Verarbeitung langer Texte.

Später veröffentlichte Technologien von Moonshot AI wie Mooncake, MoBA und Kimi Linear verwenden unterschiedliche Methoden, um die durch langen Kontext verursachten Probleme bei den Inferenzkosten, der Aufmerksamkeitsberechnung und dem Cache-Druck zu lösen.

Dai Zihang, der alte Partner von Yang Zhilin, trat später dem Gründungsteam von xAI bei.

Während seiner Promotion an der Carnegie Mellon University arbeitete er bereits mit dem Team von Quoc Le bei Google Brain zusammen und vollendete gemeinsam mit Yang Zhilin Transformer-XL und XLNet. In beiden Arbeiten sind beide als gemeinsame Erstautoren angegeben.

Nach seinem Doktorat trat Dai Zihang als Forschungswissenschaftler bei Google Brain ein und arbeitete weiter an Sprachmodellen und effizienten Transformern.

Zum Beispiel war er an der Vorstellung von FLASH beteiligt, einer neuen effizienten Aufmerksamkeitsstruktur, die es dem Modell ermöglicht, längere Sequenzen in annähernd linearer Weise zu verarbeiten, ohne die Leistung zu beeinträchtigen. Die Arbeit berichtet, dass die Trainingsgeschwindigkeit bei verschiedenen Sprachmodellierungsaufgaben um bis zu etwa das 12-fache gesteigert werden konnte.

Außerdem steht er auch in der Autorenliste des technischen Berichts der ersten Generation von Gemini.

In Jeff Deans PPT befindet sich noch ein weiterer Absolvent der Zhejiang-Universität, Zhang Guodong.

Er hat bei Google Brain und DeepMind praktiziert. Seine repräsentativen Forschungen umfassen die Analyse, welche Auswahl von Trainingsalgorithmen bei unterschiedlichen Batch-Größen wirklich wichtig ist; er hat auch Minimax-Optimierung, Multi-Agent-Optimierung erforscht und wie man Modelle durch einen Prover-Verifier-Mechanismus dazu bringen kann, überprüfbare Antworten zu geben.

Er ist auch einer der Koautoren der Arbeit über Deformable Convolutional Networks. Diese Arbeit wurde später zu einem wichtigen Grundmodul im Bereich Computer Vision.

2023 trat Zhang Guodong dem erstmals veröffentlichten Gründungsteam von xAI bei.

Zurück zu Jeff Deans PPT.

Dritte Seite: Wie stark unser akademischer Einfluss in den Bereichen KI und verteilte Systeme ist.

Links befindet sich ein Screenshot von Google Scholar, der "hochzitierte KI-Forscher" zeigt.

Quoc Le, Oriol Vinyals und Jeff Dean sind alle mit roten Kästchen markiert.

Auf derselben Seite sind auch einflussreiche Wissenschaftler wie Yoshua