Die aufregendste KI-Ankündigung dieses Jahres kommt von der unbeliebtesten Person in der Tech-Szene.

Mark Zuckerberg hat kürzlich damit begonnen, sich von KI beim Schlafen helfen zu lassen.

Genauer gesagt handelt es sich um einen persönlichen KI-Agenten, der rund um die Uhr bereitsteht: Er liest seine Schlafdaten, beobachtet seine Bewegungen während des Trainings und gibt Vorschläge; wenn Zuckerberg eine neue Idee in den Sinn kommt, kann er ihn dabei unterstützen, schnell einen Prototyp zu erstellen.

Am Wochenende hat dieser Agent noch eine weitere Aufgabe. Zuckerbergs 8-jährige Tochter backt gerne, die KI entwirft im Voraus passende Rezepte für die ganze Familie, bestellt die Zutaten, und wenn Vater und Tochter tatsächlich in der Küche stehen, gibt sie Schritt für Schritt Anweisungen zur Seite.

Bild｜Qualcomm

Diese etwas alltäglich wirkenden Lebensszenen hat Zuckerberg in seinem am 10. August veröffentlichten langen Artikel „The Future is for Everyone: The Path to a Positive AI Future“ aufgenommen.

In diesem Artikel werden keine neuen Modelle vorgestellt, und es gibt auch keine neuen Benchmarks. Zuckerberg widmet einen größeren Teil des Textes Fragen, auf die es noch keine eindeutigen Antworten gibt: Wie wird KI die Arbeit verändern, wem sollte die Superintelligenz gehorchen, wem sollen ausreichend starke Fähigkeiten in die Hand gegeben werden und wie kann verhindert werden, dass sie am Ende zum Werkzeug weniger Menschen wird?

Die wichtigste Frage unserer Zeit ist, wer Zugang zur Superintelligenz erhält und was wir damit tun. Wird sie auf wenige Institutionen konzentriert und streng beschränkt, oder wird sie zu einem Werkzeug, das jede Person befähigt?

Zuckerberg wählt die zweite Option.

In der von ihm beschriebenen Zukunft muss man bei KI selten aktiv ein Chatfenster öffnen. Sie kennt Ihre Arbeit, Gesundheit, Familie, Finanzen und Interessen und arbeitet weiter, während Sie schlafen; sie kann über Computer und Smartphones mit Ihnen kommunizieren, aber auch in einer Brille integriert sein und genau das sehen, was Sie gerade sehen.

Sie wird Lehrer, Trainer und Assistent sein, Sie aber auch beim Gründen eines Unternehmens, bei Forschungen und bei der Erstellung von Dingen unterstützen, die früher nicht möglich waren. Meta hat diesem weitreichend klingenden Konzept einen Namen gegeben: „Personal Superintelligence“, persönliche Superintelligenz.

Eine einzelne Person und das gesamte KI-Team hinter ihr

Im Artikel stellt sich Zuckerberg viele Berufe vor, die heute noch etwas seltsam klingen.

Jemand könnte ein „Ein-Personen-Produktstudio“ betreiben: Von Spielzeugen über Möbel bis hin zu Kleidung entwickelt eine einzelne Person die Ideen, während die KI hinter ihr die Aufgaben erledigt, für die früher Teams aus Design, Ingenieurwesen, Marketing und Betrieb erforderlich waren. Andere werden „Weltengestalter“, die speziell Spiele, Geschichten und virtuelle Erlebnisse erschaffen. Wieder andere könnten ihren eigenen „persönlichen Biologen“ haben, mithilfe von KI ihren Körper verstehen, an Forschungen teilnehmen und sogar individuellere Behandlungsmöglichkeiten suchen.

Bild｜ChatGPT Health

Hinter diesen Berufen steht eine grundlegende Einschätzung Zuckerbergs zu KI und Arbeit. Wenn wir heute über Automatisierung sprechen, verstehen wir sie leicht als eine Subtraktionsaufgabe: Für eine Arbeit, die früher 10 Personen erledigt haben, reichen heute 5 Personen plus KI aus.

Zuckerberg interessiert sich dagegen mehr für eine andere Möglichkeit: Wenn eine Aufgabe, für die früher 10 Personen nötig waren, heute auch eine einzelne Person bewältigen kann, werden dann nicht Menschen damit beginnen, Dinge auszuprobieren, für die sie früher überhaupt kein Team zusammenstellen und keine Finanzierung erhalten konnten?

Bild｜Tepperspectives

Unternehmen könnten dadurch auch kleiner werden. Ein paar wenige Personen, die ihre eigenen KI-Agenten bei sich haben, können Unternehmen betreiben, für die früher Dutzende oder sogar Hunderte von Mitarbeitern nötig waren; gleichzeitig können Produkte und Dienstleistungen entstehen, die früher aufgrund zu hoher Kosten niemand angeboten hat.

Das ist eine typische optimistische Haltung in „The Future is for Everyone“. Zuckerberg gibt zu, dass KI Arbeitsplätze verdrängen wird, ist aber überzeugt, dass sie neue Fähigkeiten, neue Bedürfnisse und neue Arbeitsplätze schneller schafft.

Anschließend überträgt er dieselbe optimistische Haltung auf ein weitaus schwierigeres Problem: Wenn Superintelligenz tatsächlich so stark ist, dass sie Beschäftigung, Wirtschaft und sogar Kriege verändern kann, ist es sicher, solche Fähigkeiten allen Menschen in die Hand zu geben?

Wenn Superintelligenz gefährlich ist, soll jede Person eine eigene haben

Zuckerberg glaubt nicht wirklich, dass die Welt am Ende eine „gutherzige KI“ schaffen kann, die für alle Menschen die richtigen Entscheidungen trifft.

Die Menschheit ist keine Gruppe mit vollständig übereinstimmenden Werten. Bei wichtigen Fragen bedeuten unterschiedliche Werte unterschiedliche Abwägungen. Es gibt keine technische Lösung, die gleichzeitig die widersprüchlichen Interessen und Werte aller Menschen befriedigen kann.

Bild｜BBC

Sein Ansatz besteht darin, die Ideen aus Demokratie und Markt zu übertragen: Man soll nicht nur ein einziges Zentrum schaffen, sondern verschiedenen Personen, Unternehmen und Institutionen erlauben, ihre eigene KI zu besitzen.

Er führt ein anschauliches Beispiel an: Wenn auf der Welt nur eine Person einen „Superintelligenz-Anwalt“ besitzt, hat diese Person einen riesigen Vorteil. Selbst wenn die eigene Sache im Prozess nicht gerechtfertigt ist, ist der Gegner kaum gewappnet gegen einen KI-Anwalt, der innerhalb von Sekunden Gesetze, Fälle und Beweise durchliest und niemals müde wird.

Was soll man dann tun? Die Superintelligenz-Anwälte beschränken? Zuckerberg gibt eine andere Antwort: Lassen Sie auch die Gegenseite einen haben.

Wenn jede Person auf ähnliche Fähigkeiten zugreifen kann, können die Unterschiede, die heute durch Geld, Ressourcen und die Qualität von Anwälten entstehen, sogar verkleinert werden.

Das Gleiche gilt für Cybersicherheit und den wirtschaftlichen Wettbewerb: Wenn Angreifer über stärkere KI verfügen, brauchen Verteidiger ebenfalls Fähigkeiten auf gleichem Niveau. Zuckerberg nennt dies „balance of power“, also Machtgleichgewicht.

Das beeinflusst auch das Verständnis von Meta für das sogenannte „Alignment“ (Ausrichtung). Wenn heute über KI-Alignment gesprochen wird, geht es meist darum, welchen Regeln das Modell folgen soll und welche Anfragen es ablehnt. Zuckerberg möchte, dass persönliche Agenten einen Schritt weiter gehen: Sie sollen möglichst die eigenen Ziele und Werte des Nutzers verstehen und weniger selbst vorgeben, was die richtige Wahl ist.

Solche Agenten sollen nicht nur Ihren Terminplan, Ihre Interessen und Ihre Arbeit merken, sondern auch wissen, was Sie eigentlich erreichen wollen – und in der Lage sein, in Ihrem Namen zu handeln. Ein immer verfügbares zweites Gehirn, das viel klüger ist als Sie und Sie ausreichend gut kennt, ist tatsächlich sehr attraktiv.

Bild｜Siri AI｜Apple

Je mehr ein Agent weiß, desto schwieriger ist es, das Thema Datenschutz zu umgehen. Hier gibt Zuckerberg eine sehr weitgehende Zusage:

Wir sind der Ansicht, dass Menschen bei persönlichen KI-Agenten einen vollständig privaten Modus haben sollen, bei dem selbst Meta oder andere Dienstanbieter keine Möglichkeit haben, auf Ihre Informationen zuzugreifen oder den Zugriff darauf zu genehmigen.

Die von Zuckerberg beschriebene persönliche Superintelligenz ist tatsächlich verlockend: Sie kennt Sie gut und versucht, Datenschutz und Entscheidungsfreiheit in Ihrer Hand zu behalten. Betrachtet man nur diese Konzeption, ist kaum etwas daran auszusetzen.

Wenn „für alle Menschen“ von Mark Zuckerberg kommt

Wenn man die Namensnennung verdeckt und nur die über 6500 Wörter von „The Future is for Everyone“ liest, handelt es sich um einen ziemlich brillanten Artikel.

Der Artikel enthält keine leeren Phrasen wie „KI wird die Welt besser machen“. Er erörtert, wie sich die Arbeit verändern wird, warum eine Superintelligenz, die alle Menschen repräsentiert, kaum realisierbar ist, warum Fähigkeiten nicht nur auf wenige Institutionen konzentriert werden dürfen und ob die zukünftige KI eher den Unternehmen oder den Nutzern selbst gehorchen soll.

Viele seiner Einschätzungen sind tatsächlich überzeugend: Der größte Wert der Superintelligenz soll aus Erfindungen stammen, nicht aus Automatisierung. Da die Menschheit ohnehin keine einheitlichen Werte hat, ist es besser, mehr Menschen ihre eigene KI besitzen zu lassen, die miteinander konkurrieren und sich im Gleichgewicht halten, statt nach einer „gutherzigen KI“ zu suchen, die für alle Entscheidungen trifft.

Bild｜TechCrunch

Wäre der Autor eine andere Person, wäre dies wahrscheinlich eine logisch vollständige, typische Erklärung des technologischen Optimismus.

Aber der Autor ist Mark Zuckerberg.

In den letzten über 20 Jahren hat er fast jedes Mal, wenn er auf eine neue Technologie gesetzt hat, eine weitreichendere Erzählung dafür gefunden. Facebook stand für „Verbindung“, das Metaversum für „Präsenz“; bei KI wird das Werkzeug, das in die Hände aller Menschen gelangt, zu „Intelligenz“.

Bild｜Investors Alley

Diesmal stellt Zuckerberg Meta auf die Seite des „Einzelnen“. Seiner Erzählung nach wird die Macht weiterhin bei großen Unternehmen und Institutionen verbleiben, wenn die Zukunft der KI von diesen dominiert wird; Meta will dagegen die Superintelligenz in die Hände normaler Menschen geben.

Er stellt dieses Vorhaben sogar in den Zusammenhang mit dem Leitbild von Meta seit seiner Gründung:

Seit der Gründung ist das Leitbild von Meta, Macht in die Hände der Menschen zu legen. Wenn unsere Ideen und Prinzipien die Zukunft prägen, kippt die Waage der Macht stärker zugunsten des Einzelnen – und es entsteht eine bessere Zukunft für alle.

Das Problem ist, dass die vergangene Bilanz von Facebook es schwer macht, diese Aussage nur wörtlich zu nehmen.

Der Cambridge-Analytica-Skandal, der 2018 aufgedeckt wurde, ist einer der berühmtesten Datenschutzkontroversen um Facebook. Über Drittanbieteranwendungen auf der Facebook-Plattform erlangte Cambridge Analytica Daten von mehreren zehn Millionen Nutzern und deren Freunden – viele von ihnen haben dem Unternehmen nie direkt zugestimmt, ihre Informationen zu erhalten. Diese Daten wurden später für Wählerprofile und politische Zielgruppenansprachen verwendet.

Bild｜The Guardian

Im selben Jahr stand Facebook in Myanmar vor noch schwerwiegenderen Problemen. Eine von Facebook selbst in Auftrag gegebene unabhängige Menschenrechtsbewertung bestätigte, dass das Unternehmen zuvor nicht genug getan hat, um