Der Pionier der Computersicherheit, Dawn Song, ist zu Meta gewechselt.

Dieser Donnerstag hat Dawn Song, eine Computerprofessorin an der UC Berkeley, angekündigt, der Superintelligence Labs, dem Superintelligenzlabor von Meta, beizutreten und dort als Vizepräsidentin für AI-Forschung zu fungieren.

Dawn Song wird direkt an Nat Friedman, dem Leiter des MSL, Bericht erstatten.

Dawn Song genießt einen hohen Ruf sowohl in der akademischen Welt als auch in der Industrie. Sie ist eine der einflussreichsten Wissenschaftlerinnen auf dem Gebiet der globalen Computersicherheit und AI-Sicherheit und ist derzeit Professorin am Department für Elektrotechnik und Informatik (EECS) der Universität Kalifornien, Berkeley (UC Berkeley).

Dawn Song absolvierte ihr Bachelorstudium an der Fakultät für Physik der Tsinghua-Universität. 1999 erhielt sie ihren Master an der Fakultät für Informatik der Carnegie Mellon University in den USA und 2002 ihren Doktor an der Universität Kalifornien, Berkeley. Während ihrer Zeit an der Berkeley war sie auch Mitdirektorin des Zentrums für dezentrale Intelligenz (Berkeley RDI). Sie ist Trägerin des MacArthur Fellowship und gleichzeitig ACM Fellow, IEEE Fellow sowie Mitglied der American Academy of Arts and Sciences (AAAS). Sie hat zahlreiche der höchsten Auszeichnungen auf dem Gebiet der Informatik und Wissenschaft erhalten.

Ihr 2005 veröffentlichter Artikel über die "Dynamische Taint-Analyse" ist ein Klassiker auf dem Gebiet der Computersicherheit.

Dawn Songs Forschung erstreckt sich nicht nur auf die traditionelle Software- und Netzwerksicherheit, sondern sie ist auch eine Pionierin auf dem Gebiet des adversariellen maschinellen Lernens und der Agentensicherheit. Sie war intensiv an der Entwicklung von Sicherheitsbenchmarks für die Ära der generativen KI beteiligt.

In der von AMiner erstellten Rangliste ist sie die weltweit am häufigsten zitierten Wissenschaftlerin auf dem Gebiet der Computersicherheit. Ihr Labor an der Berkeley wird als das "Westpunkt" auf dem Gebiet der Computersicherheit bezeichnet.

Vor zwei Wochen haben wir über das von ihrem Team entwickelte ALE (Agents' Last Exam, das "letzte Examen" für KI-Agenten) berichtet, das dazu dient, zu messen, ob KI-Agenten tatsächlich in einer breiten Palette von realen Anwendungsbereichen wirtschaftlich wertvolle Aufgaben erledigen können.

Im Rahmen des ALE hat das Team an der Berkeley Systeme wie Fable 5, GPT-5.5, Composer 2.5 und andere führende KI-Agenten evaluiert, und die Ergebnisse waren beeindruckend.

Dawn Song ist auch Gründerin von Oasis Labs und Virtue AI. Virtue AI konzentriert sich auf die Unternehmensinfrastruktur für KI-Sicherheit, insbesondere auf die automatisierte Red-Teaming und die Laufzeitkontrollen für KI-Agenten.

Laut ausländischen Medienberichten haben neben Dawn Song auch die beiden anderen Gründer von Virtue AI, Bo Li und Sanmi Koyejo, sowie weitere Teammitglieder Meta beigetreten. Seit der Veröffentlichung und anschließenden Sperrung des neuen Sicherheitsgroßmodells Mythos von Anthropic hat das Thema KI-Sicherheit weite Beachtung in der Technologiebranche gefunden. Meta sucht derzeit nach Möglichkeiten, seine Sicherheitsmaßnahmen für KI-Agenten zu stärken.

Angesichts der Sicherheitsherausforderungen, denen führende KI-Modelle gegenüberstehen, sind weltweit die Spitzenforschungslabore derzeit unter beispiellosem Druck. Meta hat das Ziel, KI in seine sozialen Produkte für Milliarden von Nutzern zu integrieren und gleichzeitig seine Open-Source-Strategie voranzutreiben. Um dies zu erreichen, muss es Regulierungsbehörden und der Öffentlichkeit nachweisen, dass seine Modelle robust genug sind, um sich gegen missbräuchliche Nutzung zu schützen. Der Zusammenschluss mit dem Team von Virtue AI verspricht hier große Hilfe.

Zur gleichen Zeit soll Denny Zhou, der Gründer des Gemini Reasoning Team, vor einigen Monaten Google verlassen und der MetaTBDLab beigetreten sein (seine LinkedIn-Profilierung zeigt bereits seit Monaten seine Anstellung bei Meta mit der Position Level 10).

Denny Zhou ist einer der absoluten Spitzenexperten auf dem Gebiet der KI-Inferenz und wird als der Schlüsselmann für das "Lehren von LLM, wie man schließt" bezeichnet.

In den letzten Jahren hat Denny Zhou an der Entwicklung von Methoden wie Chain-of-Thought, Self-Consistency und Least-to-Most Prompting mitgewirkt, die die Inferenz von großen Modellen von "Prompting-Tricks" zu einer erforschbaren, erweiterbaren und engineerbaren Technologie umgewandelt haben. In gewisser Weise ist die aktuelle Stärkung von Gemini in komplexen mathematischen, codierenden und langfristigen Inferenztasks auf die frühen Forschungen des Reasoning Team zurückzuführen.

Quellen:

https://x.com/dawnsongtweets/status/2070191051873345910

https://www.axios.com/2026/06/25/meta-hires-virtue-ai-founders-security

Dieser Artikel stammt aus dem WeChat-Account "Machine Heart" (ID: almosthuman2014), bearbeitet von Zenan und mit Genehmigung von 36Kr veröffentlicht.