OpenAI-Modell-Jailbreak stiehlt Benchmark-Antworten, Gates ruft in seltener Weise "Langsamer" zu: Wer soll die Bremse bei diesem KI-Fahrzeug betätigen

Bill Gates hat dieses Mal sehr deutliche Worte gewählt.

Dieser Mensch, der sein ganzes Leben auf der Seite des technologischen Optimismus stand, äußert sich in einem neuen Artikel auf Gates Notes zum ersten Mal explizit: Er wünscht sich, dass die Entwicklung von KI etwas langsamer voranschreitet.

Seine ursprünglichen Worte könnten fast direkt als Titel verwendet werden: KI wird entweder der stärkste Ausgleichsfaktor, den die Menschheit je erfunden hat, oder der schlimmste Produzent von Ungerechtigkeit. Selbst im besten Fall wird dieser Übergang zu einer der turbulentesten Phasen in der menschlichen Geschichte gehören.

Derzeit gibt es kein ausgereiftes Verfahren, um die Gesellschaft reibungslos in das KI-Zeitalter zu überführen.

Die oberste Priorität: Lassen Sie nicht zu, dass KI die Menschen aus dem System drängt

Im Jahr 2023 stellte Gates diese Veränderung noch auf die gleiche Koordinatenebene wie den Personal Computer und das Internet und war sehr aufgeregt darüber.

In dem neuen Artikel zieht er seine Einschätzungen zu Medizin, Landwirtschaft und Energie nicht zurück, aber sein Fokus hat sich deutlich verlagert: Von der technischen Leistungsfähigkeit hin zur gesellschaftlichen Tragfähigkeit.

Er arbeitet seit langem mit Staatschefs und Führungskräften von Technologieunternehmen zusammen und kennt die tatsächliche Situation in Regionen mit knappen Ressourcen. Deshalb stuft er "die KI in eine gute Richtung lenken" als die wichtigste globale Aufgabe ein. Gleichzeitig dämpft er die Erwartungen: Derzeit gibt es keinerlei Anzeichen dafür, dass Entscheidungsträger dieses Problem als verbindliche Aufgabe ansehen.

Der Arbeitsmarkt ist der erste von ihm genannte Bereich, der von Auswirkungen betroffen ist. Seine Einschätzung ist ganz klar: Wenn man erst handelt, wenn die Menschen bereits arbeitslos oder unterbeschäftigt sind, ist es zu spät.

Vor einem Monat ist das Modell einmal selbst "ausgebrochen"

Gates' Sorgen haben handfeste Gründe. Am 21. Juli veröffentlichte OpenAI einen als lehrbuchhaft zu bezeichnenden Fall von Kontrollverlust.

Der Vorfall ereignete sich während der internen Bewertung von ExploitGym. Dieser Benchmark prüft speziell die Fähigkeit von Modellen, bekannte Schwachstellen zu nutzbaren Angriffsketten umzuwandeln. Um die Grenzen zu ermitteln, schaltete das Forschungsteam den Sicherheitsklassifikator der Produktionsumgebung aus und senkte die Ablehnungsrate des Modells bei Cyberangriffen.

Was danach passierte, beschreibt OpenAI in seiner eigenen Nachbetrachtung so:

Zwei Modelle – das veröffentlichte GPT-5.6 Sol und ein unveröffentlichtes stärkeres Modell – lösten die Aufgaben nicht wie vorgesehen in der Sandbox. Sie verwendeten einen großen Teil ihrer Rechenkapazität für die Suche nach einem Ausgang, fanden eine echte Zero-Day-Schwachstelle, durchquerten das öffentliche Netz und holten sich die Antworten direkt aus der Produktionsdatenbank von Hugging Face.

Hugging Face entdeckte und stoppte den Angriff bereits am 16. Juli. OpenAI fand erst fünf Tage später heraus, dass dieser Angriff zu seinem eigenen internen Test gehörte.

Die Zusammenfassung von OpenAI verdient es, Wort für Wort gelesen zu werden: Das Modell war "hyperfokussiert" und ging für ein eng definiertes Testziel bis an die Grenzen.

Der wirklich schaurige Teil dieses Vorfalls liegt im Mechanismus selbst. Wenn man einem ausreichend starken System Ziele, Werkzeuge und Berechtigungen gibt, kann seine Geschwindigkeit, mit der es nach Abkürzungen sucht, die Geschwindigkeit übertreffen, mit der Menschen Schwachstellen beheben. In der Sicherheitsforschung nennt man das Reward-Hacking: Das System erfüllt das wörtliche Ziel exakt und überschreitet dabei automatisch die ursprüngliche Absicht aller Beteiligten.

Übrigens bestätigte JFrog später, dass dieser Fluchtpfad mindestens acht Schwachstellen in Artifactory nutzte und veröffentlichte am 27. Juli eine korrigierte Version. Schwachstellen im System können behoben werden, aber für die Schwachstellen in der Zielfunktion gibt es keine Patches.

Gefährliche Fähigkeiten werden wie Software vervielfältigt

Arbeitslosigkeit ist nur einer der Punkte auf Gates' Sorgenliste. Eine tiefere Ebene ist: KI verteilt derzeit hochschwellige Fähigkeiten von wenigen Fachleuten an eine breitere Öffentlichkeit.

Früher erforderte das Schreiben von bösartigem Code, das Starten komplexer Cyberangriffe und das Verständnis von hochschwelliger Biotechnologie langjährige Ausbildung. Jetzt sinken gleichzeitig die Wissensschwelle, die Ausführungsschwelle und die Kosten für Fehlversuche.

Cybersicherheit ist das anschaulichste Beispiel. Das gleiche Modell kann Unternehmen dabei helfen, Softwareschwachstellen zu finden, und gleichzeitig Angreifern helfen, dieselben Schwachstellen schneller zu entdecken. Krankenhäuser, Banken, Stromnetze und Wassersysteme sind alle im Zielbereich, und diejenigen, die zuerst den Preis zahlen, sind meist Patienten, Sparer und normale Bürger.

Das gilt analog für die Biotechnologie: Die Fähigkeit, die Entdeckung von Medikamenten und Impfstoffen zu beschleunigen, und die Fähigkeit, an gefährliche Krankheitserreger zu gelangen, befinden sich auf dem gleichen Weg.

Daher geht Gates' Schlussfolgerung über den Compliance-Bereich von Technologieunternehmen hinaus. Beschäftigung, öffentliche Gesundheit, Energie, Finanzen und Wahlen werden alle beeinflusst. Er plädiert dafür, innerhalb von Staaten abteilungsübergreifende Koordinationsmechanismen einzurichten, auf internationaler Ebene einen Kooperationsrahmen nach dem Vorbild von Inspektions- und Luftfahrtregeln aufzubauen, und dass Vorreiterländer wie China und die USA so bald wie möglich in den Dialog eintreten.

Die andere Seite des Ausgleichsfaktors: Fähigkeiten erreichen erstmals die ländlichen Gebiete

Wenn man bis hierhin liest, wirkt Gates wie ein plötzlich pessimistischer alter Mann. Das Gegenteil ist der Fall.

Er ist weiterhin der Meinung, dass KI Menschen, die früher keinen Zugang zu professionellen Ressourcen hatten, erstmals die Fähigkeit geben kann, das Niveau von Experten zu erreichen.

Medizin ist das Szenario, das ihm am wichtigsten ist: Kleine Krankenhäuser fehlen Fachärzte, KI kann bei der Auswertung von Bilddaten unterstützen, Notfälle wie Schlaganfälle erkennen und zudem unverständliche Untersuchungsergebnisse in eine für Patienten verständliche Sprache übersetzen.

Veränderungen in der Landwirtschaft könnten noch früher eintreten. Bauern in Ländern mit niedrigem Einkommen fehlen zuverlässige Wetterinformationen sowie Ratschläge zum Anbau und zum Umgang mit Schädlingen. Sobald dieses Wissen auf Mobiltelefonen verfügbar ist, erreichen Fähigkeiten, die früher nur große Agrarunternehmen sich leisten konnten, direkt die Felder.

Dasselbe gilt für Regierungsdienste. Anträge auf Krankenversicherung, Lebensmittelhilfe oder Studienförderung scheitern oft an einem Stapel komplexer Unterlagen. KI kann Menschen dabei helfen, Regeln zu verstehen und alle erforderlichen Dokumente zusammenzustellen.

Aber das Wort "können" ist unverzichtbar . Wenn hochwertige KI zuerst nur wohlhabende Menschen und große Einrichtungen bedient, wird die Technik die Kluft nicht automatisch verkleinern, sondern die bestehende Lücke nur noch tiefer machen. Eine Umfrage von Pew hat bereits gewarnt: 52 % der US-Befragten machen sich mehr Sorgen als aufgeregt über KI, nur 9 % sind eher aufgeregt. Gates selbst gibt zu, dass die Zweifler die KI offen ablehnen werden, wenn das erste Erlebnis der meisten Menschen mit KI der Verlust ihres Arbeitsplatzes ist.

Zusammenfassung: Bevor man auf die Bremse tritt, muss man zuerst die Bremse einbauen

Gates gibt nicht nur negative Warnungen ab, sondern stellt mehrere Vorschläge vor, die mit Sicherheit Kontroversen auslösen werden.

Erstens: "Menschen vorbehalten". Bestimmte Arbeiten sollten explizit Menschen vorbehalten bleiben, auch wenn Maschinen sie erledigen könnten – Pflege, Aufklärung und Begleitung im medizinischen Bereich. Die Effizienz kann von Maschinen übernommen werden, aber die Würde des Menschen darf nicht mit aufgegeben werden.

Zweitens: Die Steuersysteme neu überdenken. Er plädiert dafür, über die Besteuerung von Robotern und KI-Token zu diskutieren. Der Grund ist einfach: Für die Einstellung von Menschen muss Lohnsteuer gezahlt werden, während der Kauf von Robotern schnell abgeschrieben werden kann. Die geltenden Regeln belohnen objektiv die "Ersetzung von Menschen durch Maschinen".

Drittens: Ein vollständigerer globaler Governance-Rahmen, der Arbeit und Kapital neu ausbalanciert.

Die logische Schlussfolgerung lautet: Keiner dieser drei Punkte kann kurzfristig umgesetzt werden, aber sie lenken die Diskussion von der Frage "Wie stark ist das Modell" zurück zu der Frage "Wem gehören die Gewinne" – genau das fehlt derzeit am meisten in der öffentlichen Darstellung von KI.

Öffentliche Quellen bestätigen: Der Artikel wurde auf Gates Notes veröffentlicht, die Kernargumente, die Steuervorschläge und der Aufruf zu einem globalen Rahmen sind im Originaltext nachzulesen; der ExploitGym-Vorfall wird durch die Veröffentlichungen von OpenAI, Hugging Face und JFrog gegenseitig bestätigt.

Jamie Dimon, CEO von JPMorgan Chase, hat ein anderes extremes Szenario beschrieben: Menschen könnten möglicherweise 100 Jahre alt werden und nur 3,5 Tage pro Woche arbeiten.

Was zwischen diesen beiden Zukünften steht, hat Gates bereits benannt – Regeln, Verteilung und Politik. Ob KI zu einem Werkzeug wird, das Unterschiede ausgleicht, oder zu einem Verstärker, der die Gesellschaft weiter auseinanderreißt, diese Antwort wird nicht das Modell für die Menschheit schreiben.