Mark Zuckerberg veröffentlichte einen langen Artikel, um die KI-Roadmap von Meta zu definieren: Das Unternehmen zielt darauf ab, "persönliche Superintelligenz" zu entwickeln.

Am 10. August Ortszeit in den USA veröffentlichte Mark Zuckerberg einen langen Aufsatz mit dem Titel „Die Zukunft gehört allen: Der Weg zu einer positiven KI-Zukunft“.

Oberflächlich betrachtet handelt es sich um eine politische Erklärung über Superintelligenz, Sicherheit, Open Source und Infrastruktur, aber hinter diesem zehntausend Wörter langen Text verbirgt sich ein noch wichtigerer roter Faden: Meta will künftig „persönliche Superintelligenz“ entwickeln.

Zuckerberg stellt für dieses Konzept eine sehr klare Voraussetzung auf: Superintelligenz darf am Ende nicht nur in den Händen weniger Unternehmen, Regierungen oder Labore liegen, sondern muss an mehr gewöhnliche Menschen verteilt werden.

In den letzten zwei Jahren konzentrierte sich die Diskussion der KI-Branche über Superintelligenz hauptsächlich darauf, wie viel stärker die Modelle noch werden können und wie man verhindern kann, dass ein System mit Fähigkeiten, die die Menschen bei weitem übertreffen, außer Kontrolle gerät. Zuckerberg argumentiert, dass selbst wenn Superintelligenz sicher ist, immer noch ein neues Machtungleichgewicht entstehen kann, wenn diese Fähigkeit am Ende nur in den Händen sehr weniger Institutionen liegt.

Daher ist die von ihm vorgeschlagene Lösung sehr „Meta-typisch“.

Er stellt fest, dass die Kernprinzipien der zukünftigen KI-Entwicklung drei Aspekte umfassen sollten: Die Befähigung des Einzelnen als Quelle des Wohlstands zu betrachten, Innovation als Hauptzweck von Superintelligenz zu verstehen und Sicherheit durch Machtgleichgewicht zu gewährleisten.

In seiner Vorstellung wird es in Zukunft für jeden Menschen eine langfristig vorhandene Superintelligenz geben. Sie versteht Ihre Arbeitsweise, Ihren Gesundheitszustand, Ihre Familienplanung und Ihre langfristigen Ziele, kann für Sie Recherchen durchführen, Code schreiben, Produkte entwerfen, Aufgaben planen und sogar einer Person dabei helfen, Dinge zu erledigen, für die früher ein gesamtes Unternehmen erforderlich war.

Das erklärt auch, warum Zuckerberg in demselben Aufsatz mehrere scheinbar nicht vollständig zusammenhängende Themen zusammenbringt: Open-Source-Modelle, KI und Beschäftigung, Sicherheitsgovernance, Rechenzentrumsbau und sogar die Energie- und Infrastrukturkapazitäten der Vereinigten Staaten.

All dies läuft auf dieselbe Frage hinaus: Wenn persönliche Superintelligenz tatsächlich zur nächsten Generation von Computing-Plattformen wird, wer kann sie kontrollieren, wer kann die dahinter stehenden Rechenkosten tragen und wer entscheidet, was sie tun darf?

Zuckerbergs Antwort trägt offensichtlich die Produktphilosophie von Meta der letzten zwei Jahrzehnte in sich.

Früher hat Facebook jedem Nutzer die Fähigkeit zur Erstellung und Verbreitung von Inhalten gegeben, Instagram und WhatsApp haben diese Vernetzung weiter ausgebaut. Im KI-Zeitalter möchte Meta eine ähnliche Dezentralisierung der Macht wiederholen: Die intelligenten Fähigkeiten, die großen Institutionen gehören, zu einem grundlegenden Werkzeug für gewöhnliche Menschen machen.

Sogar bei der Frage der KI-Sicherheit gibt Zuckerberg eine Perspektive, die nicht vollständig mit der Mainstream-Diskussion im Silicon Valley übereinstimmt.

Er ist der Ansicht, dass eines der wirklich zu beachtenden Risiken in der Zukunft die übermäßige Konzentration von Superintelligenz-Fähigkeiten ist. Nach dieser Logik ist das Open-Source-Modell nicht mehr nur eine technische Routenwahl von Meta im Wettbewerb mit OpenAI und Anthropic.

Es wird zu einem Teil von Zuckerbergs Vorstellung, wie eine Gesellschaft mit Superintelligenz funktioniert. Und eine noch realere Ebene ist, dass Meta gerade nach neuen kommerziellen Einstiegspunkten für dieses Narrativ sucht.

Wenn die KI in Zukunft aus dem Chatfenster zu einem persönlichen intelligenten Agenten wird, der den Nutzer langfristig begleitet, dann ist der wirklich wichtige Einstiegspunkt möglicherweise nicht mehr die Webseite und nicht nur die mobile App, sondern ein KI-System, das den Nutzer kontinuierlich versteht und jederzeit handeln kann. Meta verfügt über soziale Beziehungen, Inhalte, Kommunikationsprodukte und intelligente Brillen – diese Vermögenswerte haben zum ersten Mal die Chance, rund um die „persönliche Superintelligenz“ in einer Linie verbunden zu werden.

Mit diesem Aufsatz will Zuckerberg eine größere Frage aufwerfen als die, ob Meta das stärkste Modell entwickeln kann.

01

Vom „Kontrollieren von Superintelligenz“ zur „Verteilen von Superintelligenz“

Zuckerberg stellt in dem Aufsatz eine grundlegende Frage: Wem gehört in Zukunft Superintelligenz? Wird Superintelligenz in wenigen Unternehmen, Regierungen oder Laboren konzentriert, entsteht dann nicht ein neues Machtungleichgewicht in der Gesellschaft?

In den letzten Jahren ist eine der wichtigen Diskussionen im Bereich der KI-Sicherheit, wie man zukünftige Superintelligenz-Systeme mit menschlichen Werten in Einklang bringen kann, das sogenannte „Alignment-Problem“. Viele Forscher befürchten, dass wenn die KI-Fähigkeiten das menschliche Niveau bei weitem übersteigen und ihre Ziele nicht mit den menschlichen Interessen übereinstimmen, unkontrollierbare Risiken entstehen können.

Abbildung: Zuckerberg veröffentlicht einen Text, der die KI-Vision von Meta erläutert

Aber Zuckerberg ist der Ansicht, dass es selbst logische Probleme gibt, wenn man nur mit technischen Mitteln eine Superintelligenz erschafft, die „vollständig den Interessen aller entspricht“.

Der Grund liegt darin, dass es in der menschlichen Gesellschaft kein einheitliches Wertesystem gibt. Verschiedene Individuen, Kulturen und Gruppen haben unterschiedliche Vorstellungen davon, was ein besseres Leben ist. Eine Superintelligenz, die von wenigen Institutionen entworfen und kontrolliert wird, wird bei Wertentscheidungen zwangsläufig bestimmte Gruppen bevorzugen und kann nicht die Interessen aller vertreten.

Daher schlägt er einen anderen Weg vor: Man soll nicht versuchen, eine zentralisierte, absolut korrekte Superintelligenz zu erschaffen, sondern mehr Menschen dazu bringen, ihre eigene Superintelligenz zu besitzen, um durch den Wettbewerb zwischen Einzelpersonen, Unternehmen und Institutionen ein neues Machtgleichgewicht herzustellen.

Zuckerberg nutzt das Beispiel des „Superintelligenz-Anwalts“, um dies zu veranschaulichen.

Wenn nur eine Person auf der Welt einen Superintelligenz-Anwalt besitzt, erhält diese Person einen enormen asymmetrischen Vorteil im Rechtssystem. Aber wenn jeder Mensch über ähnliche Fähigkeiten verfügt, ist die Verteilung der Rechtsressourcen fairer und die Informationslücke zwischen gewöhnlichen Menschen und großen Institutionen wird verkleinert.

Gleichermaßen: Wenn nur eine Organisation über Superintelligenz-Fähigkeiten für Cybersicherheit verfügt, kann sie zum größten Sicherheitsrisiko werden; aber wenn Verteidiger auch über leistungsstarke KI-Tools verfügen, steigt das Sicherheitsniveau des gesamten digitalen Systems.

In Zuckerbergs Rahmen kann KI-Sicherheit nicht nur durch die Einschränkung von Fähigkeiten gewährleistet werden, es ist viel wichtiger zu verhindern, dass Superintelligenz eine unausgleichbare Machtkonzentration bildet.

02

Die wichtigste Produktform der zukünftigen KI

Auf der Grundlage dieser Idee treibt Meta die Richtung der „persönlichen Superintelligenz“ voran.

Zuckerberg ist der Ansicht, dass sich die wichtigste Produktform der zukünftigen KI von einem Chatbot, der Fragen beantwortet, zu einem persönlichen intelligenten Agenten entwickeln wird, der den Nutzer langfristig versteht und ihm dabei hilft, seine Ziele zu erreichen.

Dieser intelligente Agent wird zu einem intelligenten Assistenten im täglichen Leben des Nutzers, der persönliche Vorlieben, Ziele und langfristige Bedürfnisse versteht und den Nutzer kontinuierlich dabei unterstützt, Gesundheit, Arbeit, Familienverwaltung, Finanzplanung und Lernfortschritte zu optimieren.

Im Gegensatz zu den meisten aktuellen KI-Tools wird sich der Kernwert zukünftiger persönlicher intelligenter Agenten von der Bereitstellung von Informationen auf das Handeln im Namen des Nutzers erweitern. Zum Beispiel kann er dem Nutzer dabei helfen, Informationen zu ordnen, Ideen zu entwickeln, Aufgaben zu planen, Lebensvorschläge basierend auf Gesundheitsdaten zu geben und sogar bei der Planung von Familienaktivitäten zu unterstützen.

Zuckerberg betont besonders die Bedeutung des Datenschutzes. Wenn persönliche Superintelligenz wirklich in das Leben der Menschen eintreten soll, muss sie die Zustimmung des Nutzers für eine große Menge privater Informationen erhalten. Meta stellt fest, dass zukünftige persönliche intelligente Agenten einen „vollständig privaten Modus“ anbieten werden: In diesem Modus kann selbst Meta keine Nutzerdaten einsehen oder Dritten den Zugriff darauf gewähren.

Das ist auch die neue Art der Mensch-Maschine-Beziehung, die Meta aufbauen möchte: KI wird von einem Werkzeug, das Unternehmen gehören, zu einer Fähigkeit, die dem Einzelnen gehört.

In der Diskussion über Beschäftigung und Automatisierung vertritt Zuckerberg eine andere Ansicht als die traditionellen Sorgen. Er ist der Ansicht, dass der wichtigste Beitrag von Superintelligenz nicht darin besteht, menschliche Arbeit einfach zu ersetzen, sondern den Menschen dabei zu helfen, mehr neue Dinge zu schaffen, die früher nicht möglich waren.

In der Geschichte hat jede große technologische Revolution Sorgen um Arbeitslosigkeit ausgelöst. Von der Industriellen Revolution bis zum Internet-Zeitalter fürchteten die Menschen, dass Maschinen zahlreiche Arbeitsplätze ersetzen würden. Aber am Ende hat die Technologie nicht nur die Produktionseffizienz gesteigert, sondern auch neue Industrien und Berufe geschaffen. Zuckerberg ist der Ansicht, dass das KI-Zeitalter einem ähnlichen Gesetz folgen wird.

In Zukunft ist die wirklich wichtige Veränderung nicht, dass Maschinen mehr wiederholende Aufgaben übernehmen, sondern dass gewöhnliche Menschen Fähigkeiten erhalten, die früher nur großen Unternehmen und professionellen Institutionen zur Verfügung standen.

Eine Person kann mit Hilfe von KI Produktdesign, Softwareentwicklung, Marktforschung und sogar Unternehmensbetrieb erledigen, ohne ein großes Team aufbauen zu müssen. Das wird die Organisationsform von Unternehmen verändern.

Zukünftige Unternehmen werden möglicherweise kleiner sein, aber die individuelle Produktivität ist höher. Eine große Anzahl von Ideen, die früher aufgrund zu hoher Kosten und zu hoher technischer Hürden nicht realisiert werden konnten, werden durch die Verbreitung von KI-Tools machbar. Zuckerberg ist der Ansicht, dass Superintelligenz am Ende zu einer Innovationsinfrastruktur werden sollte, nicht nur zu einer Automatisierungsmaschine.

03

Ökosystem durch Open Source gewinnen: Meta's KI-Wettbewerbsstrategie

Neben persönlicher Superintelligenz ist Open Source auch ein wichtiges Thema in diesem Aufsatz von Zuckerberg.

Meta unterstützt seit langem die Richtung von Open-Source-Modellen, und diese Wahl unterscheidet sich deutlich von der einiger Wettbewerber, die auf Modelle mit geschlossenen Gewichten setzen. Zuckerberg ist der Ansicht, dass Open Source nicht nur Innovation fördern, sondern auch Sicherheit verbessern kann.

Abbildung: Tao Wang, Leiter der KI-Abteilung von Meta, kündigt an, dass das Unternehmen bald die Version von Muse Spark 1.2 mit offenen Gewichten veröffentlichen wird

Seine Logik lautet: Je mehr Forscher, Entwickler und Unternehmen Zugang zu dem Modell haben, desto mehr Menschen können Schwachstellen entdecken, das System verbessern und die schnelle technologische Iteration vorantreiben. Im Gegensatz dazu fehlt der Gesellschaft ausreichend Gegengewicht, wenn Superintelligenz lange Zeit in den Händen weniger Institutionen liegt.

Auf globaler Wettbewerbsebene ist Zuckerberg der Ansicht, dass die Vereinigten Staaten derzeit Vorteile in Bereichen wie dem Chipdesign haben, aber Herausforderungen bei der Energieversorgung, dem Bau von Rechenzentren und der Geschwindigkeit der Infrastrukturentwicklung gegenüberstehen. Zukünftiger KI-Wettbewerb ist nicht nur Wettbewerb um Algorithmen, sondern auch um Energie- und Rechenkapazitäten.

Er betont besonders, dass die Vereinigten Staaten die Geschwindigkeit des Infrastrukturbaus steigern und gleichzeitig den Vorteil des offenen Ökosystems behalten müssen.

Bei Fragen zur Datennutzung und Modelldestillation im Modelltraining stellt Zuckerberg fest, dass die Vereinigten Staaten ihre eigene Wettbewerbsfähigkeit nicht durch übermäßige Einschränkungen schwächen dürfen. Seine Ansicht lautet: Die Entwicklung der KI basiert im Wesentlichen auf der Anhäufung menschlichen Wissens, und das gegenseitige Lernen zwischen Modellen ist ein wichtiger Weg für den technischen Fortschritt. Wenn die Vereinigten Staaten ihr eigenes Open-Source-Ökosystem übermäßig einschränken, können sie anderen Ländern Chancen überlassen.

Bei der Sicherheitsfrage leugnet Zuckerberg nicht die Risiken, die die KI mit sich bringen kann. Er diskutiert schwerpunktmäßig Themen wie Cybersicherheit, biologische Risiken und die Ausweitung der Macht von Regierungen.

Sein Kernpunkt lautet: Angesichts der KI-Risiken soll die Gesellschaft die Verteidigungsfähigkeit stärken, anstatt die technologischen Fähigkeiten einfach einzuschränken.

Zum Beispiel im Bereich der Cybersicherheit: Wenn nur Angreifer über fortschrittliche KI-Tools verfügen, steigen die Risiken tatsächlich. Aber wenn Unternehmen, Regierungen und Einzelpersonen alle KI nutzen, um ihre Verteidigungsfähigkeit zu verbessern, steigt das Sicherheitsniveau des gesamten Systems gleichzeitig.

Bei biologischen und chemischen Risiken ist Zuckerberg der Ansicht, dass sich die Politik darauf konzentrieren soll, die Herstellung und Verbreitung gefährlicher Substanzen einzuschränken, statt die Entwicklung wissenschaftlicher Erkenntnisse zu behindern.

Da die KI die Arzneimittelentwicklung und die Forschung in den Biowissenschaften beschleunigt, muss auch das Regulierungssystem gleichzeitig modernisiert werden, sonst können traditionelle Genehmigungsverfahren zu einem Innovationshemmnis werden.

04

Die „Gemeinderechnung“ der Rechenzentren

Der KI-Wettbewerb tritt in das Zeitalter der Infrastruktur ein.

Eine große Anzahl von Rechenzentren, Energieversorgung und Rechenressourcen werden zur Grundlage für die Entwicklung von Superintelligenz. Gleichzeitig gibt es in der amerikanischen Gesellschaft immer mehr Kontroversen über den Energieverbrauch, den Druck auf die Wasserressourcen und die Umweltauswirkungen des Baus großer Rechenzentren.

Zuckerberg betont in diesem Zusammenhang besonders, dass der Bau von KI-Infrastruktur die Gewinne mit der Gemeinde teilen muss. Meta stellt das Konzept des „Gemeindevertrags