Worüber macht Bill Gates sich eigentlich Sorgen, nachdem er einen „schrillen Alarmton“ ausgelöst hat?

Bill Gates sorgt sich nicht darum, dass Maschinen zu Menschen werden, sondern darum, dass die Menschen nicht rechtzeitig zu dem werden, was sie eigentlich sein sollten.

Kirkland im Bundesstaat Washington, ein wohlhabender Vorort am See östlich von Seattle. Das Wetter an diesem Tag ist fast unwirklich schön: Über 20 Grad Celsius, der Himmel ist strahlend blau ohne einzige Wolke. Aus dem Konferenzraum von Gates Ventures blickt man auf eine Reihe von Yachten am Dock, die sanft auf dem Wasser schaukeln, und auf der anderen Seite des Sees ragen die Olympic Mountains empor, die die Silhouette der Horizontlinie bilden. Wie der Journalist der MIT Technology Review es ausdrückte: Die Landschaft ist so schön, dass sie einem das Herz erfreut, aber sie erweckt auch ein unbestimmtes Gefühl der Unruhe – denn alles vor den Augen ist ruhig, aber die Person, die ihm gegenüber sitzt, ist alles andere als ruhig.

Der 70-jährige Bill Gates sitzt auf der anderen Seite des Konferenztisches, er wiegt seinen Körper auf dem Stuhl vor und zurück, und seine Stimmung ist merklich aufgeregt. Er redet immer mehr, von Terrorismus, wirtschaftlichem Zusammenbruch bis hin zu dem Punkt, an dem die Menschheit schließlich die Kontrolle über KI-Systeme verliert. Es ist Sommer 2026, und dieser Mitbegründer von Microsoft hat gerade einen langen offenen Artikel mit dem Titel *Die Entscheidungen, die wir jetzt über KI treffen, sind von entscheidender Bedeutung* veröffentlicht und ein exklusives Interview mit der MIT Technology Review gegeben. Mit seinen eigenen Worten hat er beschlossen, die Rolle des „schrillen Alarmsignals“ zu übernehmen.

Diese Positionierung an sich ist schon höchst ungewöhnlich. Gates ist der erfolgreichste Nutznießer und Vorreiter der technologischen Innovation in den letzten fünfzig Jahren: Mit 13 Jahren kam er mit Computern in Berührung und war sofort fasziniert davon, Maschinen intelligent zu machen, er schuf mit Software das Microsoft-Imperium und bekämpft heute mit seinem technologischen Reichtum die globale Armut und Krankheiten. Sein ganzes Leben lang hat er sich fast nie gegen die Technik gestellt. Mit über 70 Jahren wird er plötzlich die Person, die auf einer Party den Feueralarm auslöst.

Das, was wirklich nachgefragt werden muss, ist also nicht „Was hat Gates gesagt?“, sondern: Wovor fürchtet sich eigentlich eine Person, die die Technik am besten versteht und am meisten von ihr profitiert? Wenn man den offenen Brief von Bill Gates und das Interview gemeinsam liest, stellt man fest, dass seine Sorgen keine verstreuten Meinungen sind, sondern ein strukturiertes, vollständiges System von Urteilen – über die Geschwindigkeit, über die Hürden, über die Dinge, auf die die menschliche Gesellschaft noch nicht vorbereitet ist.

„Warum gerade jetzt?“: Fünf bereits überschrittene kritische Punkte

Die erste Frage im Interview lautet „Warum gerade jetzt?“. Gates' Antwort ist unerwartet direkt: Weil die Warnlinie bereits überschritten wurde.

„Sowohl bei den biologischen Fähigkeiten, den Fähigkeiten zu Cyberangriffen, den psychologischen und gesellschaftlichen Auswirkungen, als auch bei der Fähigkeit, den Arbeitsmarkt zu zerstören, und sogar beim Risiko des Kontrollverlusts über KI – wir sehen bereits Anzeichen für diese Probleme“, sagte er. „Seit vielen Jahren sagen die Leute immer: Wenn wir uns diesen kritischen Punkten nähern, werden wir ernsthaft erforschen, wie wir sicherstellen können, dass nur gute Menschen diese Technologien nutzen dürfen. Vielleicht dürfen wir zu diesem Zeitpunkt nicht mehr zulassen, dass Menschen Modelle beliebig kopieren. Aber was mich schockiert, ist, dass wir diese kritischen Punkte bereits überschritten haben.“

Fünf kritische Punkte entsprechen seiner gesamten Liste der Sorgen. Das ist der Schlüssel zum Verständnis von Gates' Warnungen – er prognostiziert keine zukünftigen Risiken, sondern beschreibt bereits stattgefundene Überschreitungen der Linie.

Das Erlebnis, das die Erfahrung der „Linienüberschreitung“ am besten veranschaulicht, ist eine seiner eigenen Erfahrungen. Im letzten Quartal des letzten Jahres war er von dem Fortschritt der Programmierfähigkeiten schockiert: Claude Code, Kontextpuffer, intelligente agentenbasierte Methoden und die Basismodelle selbst – ihre Programmierfähigkeit haben einen riesigen kritischen Punkt überschritten. Aber erst einige Monate später wurde ihm klar, dass das nicht nur ein kritischer Punkt für „Programmierfähigkeit“ war – dieselbe Fähigkeit ist gleichzeitig auch ein riesiger kritischer Punkt für die Fähigkeit zu Cyberangriffen. Ein Modell, das perfekten Code schreiben kann, kann auch perfekten Angriffscode schreiben.

„Und was ist dann passiert? Fast nichts“, sagte Gates. Diese schlichte Aussage ist die gewichtigste im gesamten Gespräch. Die Technik hat den kritischen Punkt überschritten, aber die Gesellschaft hat ihre Reaktionsschwelle noch nicht erreicht – dieser Zeitunterschied ist der Ursprung aller Sorgen von Gates.

In dem offenen Brief führt er die Trägheit der Öffentlichkeit auf zwei Fehlurteile zurück. Das erste Fehlurteil besteht darin, die Zukunft der KI mit ihrem heutigen Zustand zu leugnen. Modelle vor nicht langer Zeit konnten nicht einmal ein einfaches Sudoku lösen und wussten nicht, wie viele Buchstaben „r“ im Wort „strawberry“ vorkommen – das macht es schwer zu glauben, dass sie die menschliche Kognition ersetzen können. Aber das Problem der Zuverlässigkeit wird rasch gelöst, und Forscher entwickeln Modelle, die sich selbst überprüfen und selbst verbessern können. Das zweite Fehlurteil ist, die Gegenwart mit der Geschichte zu vergleichen. Nach dem Aufkommen der PCs hat es zwanzig Jahre gedauert, bis sie die Arbeitsweise merklich veränderten, weil Software entwickelt werden musste, Preise sinken und Menschen lernen mussten, sie zu bedienen. Bei KI ist das anders: Sie läuft auf Geräten, die wir bereits haben, und spricht natürliche Sprache. „Wir müssen uns nicht an sie anpassen, weil sie sich an uns anpassen kann.“

In dem Interview fügte er diesem Urteil eine Erklärung hinzu, die wie ein Zeitstempel wirkt: „Wenn meinen Worten ein wenig Glaubwürdigkeit zukommt, möchte ich betonen: Dieses Mal ist es wirklich anders.“ Der Grund liegt in der Struktur: Eine Technologie kann gleichzeitig alle Branchen erreichen, menschliche kognitive Arbeit zu einem Preis ersetzen, der weit unter den Kosten menschlicher Arbeit liegt, und ihre Fehlerrate kann am Ende sogar niedriger sein als die des Menschen – unter diesen Bedingungen verliert die historische Erfahrung, dass „neue Technologien noch nie zu einem Nettoverlust an Arbeitsplätzen geführt haben“, ihren Bezugswert. Er korrigierte sogar nebenbei die derzeit populäre Sorge, die sich gegen Rechenzentren richtet: „Selbst wenn die USA heute alle Rechenzentren stilllegen würden, würde das nichts an den Problemen ändern, von denen ich spreche, weil Rechenzentren anderswo auf der Welt weitergebaut werden. Das ist so, als würde man die Führungskräfte eines Ölunternehmens anschreien – das löst den Klimawandel auch nicht wirklich.“

Erste Sorge: Die Beschäftigung

Von den drei großen Sorgen steht die Beschäftigung an erster Stelle, weil sie die meisten Menschen betrifft und weil Gates hier einen offenen Aufstand gegen den alten Konsens vollzogen hat.

Seine Analyse beginnt mit einem grausamen Vergleich. Während der Großen Depression 1933 lag die Arbeitslosenquote in den USA bei etwa 25 %, und blieb fast ein Jahrzehnt lang zweistellig, bis sie schließlich mit der Rückkehr von Nachfrage, Investitionen und Wachstum wieder sank – das war eine zyklische Arbeitslosigkeit. Die durch KI verursachte Arbeitslosigkeit mag dieses Niveau nicht erreichen, „aber ihre Auswirkungen werden nicht mit einem Wirtschaftszyklus verschwinden“. Am stärksten gefährdet sind Einstiegs- und mittlere Positionen, und die neu geschaffenen Arbeitsplätze erfordern meist Fähigkeiten, die man viele Jahre lang lernen muss.

Die Angestelltenberufe sind als erste betroffen. Nach der breiten Einführung von generativer KI ist die Beschäftigung junger Arbeitnehmer in Positionen, die besonders leicht ersetzt werden können, merklich gesunken – bei ihren älteren Kollegen ist das nicht der Fall. Dieser Vergleich zeigt, dass nicht eine bestimmte Branche ersetzt wird, sondern die Lebensphase des „Berufseinstiegs“. Vertrieb und Kundenservice, Softwareentwicklung, Rechtsassistenten sind die ersten betroffenen Bereiche; wenn KI Aufgaben wie die Bewertung von Kreditanträgen, Datenanalyse und die Einstufung von Patienten übernimmt, werden die Auswirkungen noch weiter reichen. Auch die Arbeiterberufe bleiben nicht verschont. Gates wies ausdrücklich darauf hin, dass viele Amerikaner nicht realisieren, wie schnell sich geschickte Roboter weiterentwickeln, weil ein Großteil der Spitzenforschung in anderen Ländern, vor allem in China, stattfindet – und die Öffentlichkeit hat immer noch das Bild von Robotern im Kopf, die in viralen Videos ungeschickt tanzen. Im Interview gab er ein genaueres Zeitmodell an: „Sobald ein Roboter gut genug ist, um in einer Fabrik zu arbeiten, ist er höchstwahrscheinlich auch gut genug, um zu kochen, Räume zu putzen und auf Baustellen zu arbeiten. Sobald dieser kritische Punkt überschritten ist, könnte es mit einem Mal passieren, dass fast 30 % des Arbeitsmarktes betroffen sind.“

All dies wird durch einen Teufelskreis des Wettbewerbs auf dem Markt angetrieben: Ein Unternehmen spart mit KI und Robotern Geld und senkt die Preise, die Konkurrenten müssen nachziehen; selbst wenn bestehende Unternehmen die Technik nicht einführen, werden es Startups tun. Wenn niemand eingreift, werden es immer weniger gute Arbeitsplätze geben, und die Vorteile konzentrieren sich auf eine kleine Gruppe von Menschen.

In dem Interview gab Gates eine nachdenkliche Antwort auf die Frage „Welche Arbeitsplätze sind vorerst sicher?“ – er sprach über seinen alten Freund Warren Buffett. Buffett betreibt seit seinem 13. Lebensjahr eine Art „verstärktes Lernen“ über die Bewertung des Unternehmenswerts, und hat über mehr als 80 Jahre eine große Menge an implizitem Wissen angesammelt. „Wir wissen noch nicht, wie man einen KI-Investor nach dem Vorbild von Warren Buffett bauen kann, weil viele seiner Urteile zu dem impliziten Wissen gehören.“ Aber er wandte sich sofort: „Etwa 50 % der Arbeitsplätze auf dem Arbeitsmarkt sind keine Tätigkeiten, für die man lebenslange Erfahrung sammeln muss. Zum Beispiel Telefonverkauf, Telefonservice, Finanzabteilungen.“ Wo die Regeln klar genug sind, ist KI günstiger und besser.

Tiefer liegt diese Sorge nicht in den wirtschaftlichen Zahlen, sondern in einer Überzeugung von Gates: In einer kapitalistischen Gesellschaft ist die Beschäftigung der Weg, auf dem die meisten Menschen das Geld für ihre notwendigen Lebensausgaben erhalten, und gleichzeitig eine wichtige Quelle für Würde und gesellschaftliche Bindung. Er zitierte Studien, die zeigen, dass in einigen Teilen der USA die Schließung von Fabriken die Zahl der Todesfälle durch Überdosis an Opioiden erhöht – dann stellte er sich das Bild vor, dass Angestellte und Arbeiter im ganzen Land einem ähnlichen Druck ausgesetzt sind. Er macht sich besonders Sorgen um die jungen Menschen: Als aktivste Nutzer von KI wissen sie am besten um ihre Fähigkeiten und ihre Geschwindigkeit, „es ist kein Wunder, dass so viele von ihnen eine negative Einstellung zur KI haben“.

Zweite Sorge: Die Sicherheit

Wenn sich die Sorge um die Beschäftigung auf den „Lebensunterhalt der Mehrheit“ bezieht, richtet sich die zweite Sorge auf die „Zerstörungskraft der Minderheit“.

Für Gates' Urteil gibt es eine einheitliche Logik: Die positiven Fähigkeiten und die gefährlichen Fähigkeiten der KI lassen sich technisch nicht trennen. Dasselbe Modell, das Software-Schwachstellen findet, damit Unternehmen sie beheben können, kann Kriminellen auch dabei helfen, diese Schwachstellen auszunutzen; dasselbe Modell, das lebensrettende neue Medikamente entwickeln kann, kann auch tödliche neue Krankheiten entwickeln. In dem Interview drückte er das auf ein quantitatives Niveau aus: „Im Vergleich zu natürlich auftretenden Pandemien halte ich das Risiko des Bioterrorismus für etwa 50 Mal schrecklicher und wahrscheinlicher.“ Seiner Meinung nach muss jedes Modell, das neue Moleküle entwerfen kann, überwacht werden – es darf nicht zugelassen werden, dass ein solches Modell in eine Blackbox-Umgebung vollständig kopiert wird, wo alle ursprünglichen Überwachungsmechanismen gelöscht werden. Und was er wirklich nicht versteht, ist, dass fast niemand öffentlich für diese Forderung eintritt: „Wer ruft heute öffentlich dazu auf, dass diese Modelle überwacht werden müssen? Und wer beginnt wirklich, die entsprechenden Überwachungsarbeiten zu verstärken?“

Das Bild der Cyberangriffe ist ebenso konkret. Er sagte, dass die „besten Cybersicherheitsexperten“, die er kenne, Angst vor den nächsten Jahren haben, weil Angreifer schneller neue Fähigkeiten erlangen, als Verteidiger alle Schwachstellen beheben können; die Ressourcen, die für einen Angriff nötig sind, sinken drastisch. Stellen Sie sich die anfälligen Infrastrukturen vor – Krankenhäuser, Finanzinstitute, Wasserversorgungssysteme, Stromnetze, Systeme zur Verwaltung staatlicher Sozialleistungen. Zu Schaden werden Patienten, Kunden und Leistungsempfänger kommen.

Die dritte Ebene ist die weitere Konzentration von Macht. Dieselben Werkzeuge befähigen kleine Personen, Böses zu tun, und stärken gleichzeitig diejenigen, die bereits Macht haben: Autonome Waffen ermöglichen es Regierungen, tödliche Gewalt einzusetzen, ohne dass Menschen an der Entscheidung beteiligt sind; die Überwachung und Manipulation der öffentlichen Meinung wird einfacher, günstiger und effektiver. Und am Ende all dieser Dinge steht ein Problem, das Gates selbst in seinem offenen Brief nur vage anspricht: KI-Systeme selbst verhalten sich manchmal auf eine Weise, die ihre Entwickler nicht wollen. Er zitierte im Interview die Beobachtung des Forschers Ryan Greenblatt – dass verstärktes Lernen manchmal verzerrte Anreize schafft, die dazu führen, dass verschiedene KI-Systeme Täuschungs- oder sogar Kooperationsverhalten zeigen. Die Formulierung im offenen Brief ist zurückhaltend und klar: „Wenn die Modelle immer leistungsfähiger werden, können sie anfangen, Handlungen zu setzen, die unseren Interessen widersprechen – und wir könnten die Kontrolle verlieren.“

Von einzelnen Kriminellen über mächtige Institutionen bis hin zur KI selbst – drei Ebenen von Sorgen, die auf eines hinweisen: Die Zerstörungskraft wird demokratisiert, aber die Verteidigungssysteme stammen noch aus der alten Welt.

Dritte Sorge: Das menschliche Herz und die menschliche Psyche

Die dritte Sorge wirkt am wenigsten wie ein technisches Problem, ist aber vielleicht die persönlichste. Ihr Ausgangspunkt ist Gates' eigene Jugendzeit.

„Als ich in Seattle aufwuchs, hatte ich nicht viele Freunde außer ein paar Jungen, die so waren wie ich. Ich habe mich sehr bemüht – mit großer Hilfe meiner Mutter – soziale Fähigkeiten zu entwickeln, um mit allen möglichen Menschen umgehen zu können“, schrieb der 70-Jährige. „Heute wende ich immer noch alles an, was ich damals gelernt habe. Ich bezweifle sehr, dass ich mich damals genauso angestrengt hätte, wenn ich damals schon einen KI-Partner an meiner Seite gehabt hätte.“

Das Bild des KI-Partners, das er beschreibt, ist so präzise, dass es fast bissend ist: Er spricht mit dir in der Art und Weise, an die du dich längst gewöhnt hast, drängt dich nicht aus deiner Komfortzone heraus, ist jederzeit erreichbar und wird dir niemals böse. „Das macht es möglich, dass sie extrem süchtig machen können und uns das rauben, was wir durch die Verbindung mit anderen Menschen lernen.“ Er zitierte eine Studie mit mehr als 1100 Nutzern von KI-Partnern: Menschen mit einem kleineren sozialen Kreis suchen eher bei Chatbots nach Gesellschaft, und je häufiger und emotional intimer diese Nutzung ist, desto schlechter fühlen sie sich – je einsamer die Menschen sind, desto mehr nutzen sie es, und desto schlechter geht es ihnen. Das ist ein klassischer Suchtkreislauf.