Ich habe die gleiche Idee wie Ilya. Ein prominentes Künstliche-Intelligenz-Experte unter Elon Musks Machtbereich verlässt die Firma, um eine "empathische" KI zu entwickeln.

Gerade gegründet, strebt ein junges KI - Startup eine Finanzierung mit einem geschätzten Wert von 28 Milliarden Yuan an. Woher kommt es?

Nach Berichten von Zhidongxi am 26. November, wie von der ausländischen Medien Business Insider unter Berufung auf Informationen von Insiderquellen berichtet wurde, sucht das amerikanische KI - Startup Humans& eine Finanzierung von 1 Milliarde US - Dollar (etwa 7,11 Milliarden Yuan) und hat ein Zielwert von 4 Milliarden US - Dollar (etwa 28,43 Milliarden Yuan).

Der Gründer dieses Startups, Eric Zelikman, hat erst im September diesen Jahres das KI - Unicorn xAI von Elon Musk verlassen.

Bei xAI war Zelikman als KI - Forscher tief an der Entwicklung von Grok 2, Grok 3 und Grok 4 Agenten beteiligt. Er hat auch bahnbrechend den STaR - Algorithmus entwickelt, der der erste Algorithmus ist, der Sprachmodelle für natürliche Sprachinferenz durch selbstgenerierte Inferenzketten trainiert.

Mit so wenig Erfahrung fordert Humans& einen hohen Unternehmenswert. Worauf stützt es sich?

Zelikman ist der Meinung, dass das Paradigma des Reinforcement Learning (RL) Mängel aufweist, da Modelle oft bestehende Vorurteile festigen, anstatt neue Einsichten zu liefern. Die Forschungsschwerpunkte der Modelle sollten sich eher auf die Unterstützung von Individuen statt auf deren Ersetzung richten.

Deshalb hat Zelikman Humans& gegründet, um sich der Entwicklung von Modellen zu widmen, die das Verhalten der Benutzer lernen und mit ihnen eine Empathie aufbauen können.

Er glaubt, dass durch die Verbesserung von menschenzentrierten Modellen die KI eher in der Lage sein wird, bisher unerreichbare hohe Ziele zu erreichen, wie z. B. die Heilung von Krebs.

▲Eric Zelikman, ehemaliger Forscher bei xAI, Erfinder des STaR - Algorithmus, Mitbegründer und CEO von Humans& (Quelle: Eric Zelikmans persönliche Website)

01 Vom Kernforschungsteam von xAI zum Erfinder des STaR - Algorithmus, ein genialer Forscher zwischen Wissenschaft und Industrie

Eric Zelikman hat 2016 an der Stanford University ein Studium in Symbolic Systems begonnen und 2020 einen Ehrendoktorandenplatz nach Abschluss seines Bachelor - Studiums in diesem Fach erworben. Im Jahr 2024 hat er sein Studium unterbrochen und als KI - Forscher bei xAI begonnen.

▲Zelikmans Bildungsweg (Quelle: Eric Zelikmans persönliche Website)

Während seiner etwas mehr als einjährigen Arbeit bei xAI war Zelikman als einer der frühen Mitglieder tief an der Erstellung der Pretraining - Daten von Grok 2 beteiligt, hat das Reinforcement - Learning - Inferenzframework von Grok 3 geleitet und skaliert und die Reinforcement - Learning - Infrastruktur und das Trainingsschema für Grok 4 Agenten aufgebaut.

▲Zelikmans Arbeitserfahrung (Quelle: Eric Zelikmans persönliche Website)

Während seiner Zeit bei xAI hat er auch bahnbrechend den STaR - Algorithmus entwickelt. Sein bekanntester Beitrag ist die Mitveröffentlichung von Quiet - STaR - eine Methode, die es Sprachmodellen ermöglicht, interne Inferenzprozesse zu erzeugen, bevor sie Ausgaben generieren. Diese Methode hat zu einer signifikanten Leistungssteigerung der Modelle bei Aufgaben wie CommonsenseQA und GSM8K geführt.

▲Die Forschungsarbeit über den STaR - Algorithmus (Quelle: arxiv)

Darüber hinaus hat er das Parsel - Framework entwickelt, das die algorithmische Inferenzfähigkeit von Sprachmodellen durch kombinierte Zerlegungsansätze verbessert und bei komplexen Programmieraufgaben eine Passrate von über 75 % höher als frühere Methoden erzielt.

Zelikmans wissenschaftliche Arbeiten wurden als Highlights (obere 8 %) bei Top - Konferenzen wie ICLR 2022, NeurIPS 2022, COLING 2022, EMNLP 2022 und ICML 2023 empfohlen.

Er hat auch nacheinander die Besten - Gutachter - Auszeichnungen (obere 1 - 1,5 %) bei ACL 2023, NeurIPS 2023, EMNLP 2023 und ICLR 2024 erhalten.

▲Auswahl von Zelikmans Forschungsarbeiten (Quelle: Eric Zelikmans persönliche Website)

Im September dieses Jahres hat Zelikman xAI verlassen, um an der Stanford University seinen Doktorandenstudium fortzusetzen und hat Humans& gegründet.

02 "Die heutigen Sprachmodelle sind zu kalt", Zelikman will eine KI schaffen, die den Menschen wirklich versteht

"Humans& (KI)" bedeutet Menschen und KI. Wie der Name schon sagt, ist das Ziel von Humans&, eine KI zu schaffen, die den Menschen besser versteht.

▲Die Homepage von Humans& (Quelle: Humans&)

Im Oktober dieses Jahres hat Eric Zelikman in der Podcast - Sendung "No Priors" der Risikokapitalgeberin Sarah Guo über seinen Weg bei der Gründung von Humans& gesprochen.

Zelikman sagte, dass er während seines Doktoratsstudiums bei der Forschung, Sprachmodelle zu trainieren, um verschiedene Arten von Schülern zu simulieren, zu dem Schluss gekommen ist: Genaues Modellieren der Benutzercharakteristika kann zu einem besser geeigneten Dienstleistungssystem für den Menschen führen.

▲Zelikmans Teilnahme an der Podcast - Sendung "No Priors" (Quelle: YouTube - No Priors)

Er hat festgestellt, dass die praktische Anwendung der derzeitigen Spitzenmodelle weit hinter ihrer Fähigkeit liegt. Der Kernfehler besteht darin, dass sie das Verständnis für menschliche Ziele fehlt. Zelikman ist der Meinung, dass das bestehende Trainings - Paradigma zu stark auf Einzeltask - Szenarien abzielt und die langfristigen Auswirkungen vernachlässigt.

"Das grundlegende Problem ist, dass, wenn man jede Runde eines Dialogs als unabhängiges Spiel ansieht, das Modell die langfristigen Auswirkungen seiner eigenen Handlungen nicht verstehen kann."

Im Oktober dieses Jahres war Eric Zelikman als Gastredner bei der TED AI Los Angeles. Er sagte, dass wir uns derzeit im aufgabenorientierten Reinforcement - Learning - Paradigma befinden. Jedoch hat diese Trainingsmethode Mängel, da Modelle oft bestehende Vorurteile festigen, anstatt neue Einsichten zu liefern. Deshalb sollten die Schwerpunkte sich eher auf die Unterstützung von Individuen statt auf deren Ersetzung richten.

Er ist der Meinung, dass der Mensch immer noch die Quelle der Innovation ist.

Deshalb hat Zelikman Humans& gegründet, um sich der Entwicklung von Modellen zu widmen, die das Verhalten der Benutzer lernen und mit ihnen eine Empathie aufbauen können. "Das Kernziel des Modells sollte es sein, dich zu verstehen", sagte er, "Obwohl es schwer, es perfekt zu erreichen, wird es im Vergleich zu bestehenden Modellen sicherlich einen großen Sprung darstellen."

Zelikman glaubt, dass durch die Verbesserung von menschenzentrierten Modellen die KI eher in der Lage sein wird, bisher unerreichbare hohe Ziele zu erreichen, wie z. B. die Heilung von Krebs.

"Indem wir Modelle bauen, die wirklich gut darin sind, mit großen Gruppen zusammenzuarbeiten und die Ziele, Ambitionen und Werte verschiedener Menschen verstehen, erhöhen wir die Wahrscheinlichkeit, diese grundlegenden menschlichen Probleme zu lösen."

Derzeit wird das Technikteam von Humans& noch rekrutiert. Aus den Stellenausschreibungen auf der Twitter - Homepage von Humans& geht hervor, dass Zelikman für Techniker ein Mindestgehalt von 350.000 US - Dollar (etwa 2,48 Millionen Yuan) pro Jahr anbietet und der Arbeitsort ist die San Francisco Bay Area in den USA.

▲Stellenausschreibung von Humans& (Quelle: X)

03 Fazit: KI wird menschlicher, was zur gegenwärtigen Entwicklungstrend wird

Bei der Veröffentlichung von GPT - 5.1 hat OpenAI behauptet, dass es in Intelligenz und Kommunikationsweise verbessert wurde. Es bietet nicht nur Optionen zur Tonangabe und zur Einstellung des Charakters, sondern auch die Möglichkeit, die Kürze, Freundlichkeit, Lesbarkeit der Antworten und die Häufigkeit der Verwendung von Emojis direkt einzustellen.

Der KI - Guru Ilya hat auch in einem neuesten Interview auf die Wichtigkeit von "Emotionen" und anderen Wertfunktionen für die weitere Verbesserung der Modellfähigkeit hingewiesen.

Dies zeigt auch die nächste Wettbewerbsdimension der KI - Entwicklung: Zukünftige Modelle benötigen nicht nur höhere Intelligenz, sondern auch "Emotionalintelligenz" für die Zusammenarbeit mit Menschen. Dieser Wandel von "Funktion" zu "Emotion" markiert, dass die KI sich von der Instrumentalisierung hin zur interaktiven Humanisierung bewegt.

Dieser Artikel stammt aus dem WeChat - Account "Zhidongxi" (ID: zhidxcom), Autor: Wang Han, veröffentlicht von 36Kr mit Genehmigung.