Eine verheerende KI-Katastrophe binnen sechs Monaten auslösen – OpenAI und Anthropic führen geheime Szenarioprüfungen zum „Zweiten Tag des Weltuntergangs“ durch

Der Menschheit bleiben nur noch sechs Monate?

Axios hat kürzlich eine aufsehenerregende Nachricht veröffentlicht: Große Silicon-Valley-Unternehmen wie OpenAI und Anthropic führen im Geheimen eine Extremsimulation durch –

„Der Tag nach der Katastrophe“ (The Day After).

Ein massiver Cyberangriff würde Finanzdienstleistungen, Netzwerke und sogar Strom- und Wasserversorgung zum Erliegen bringen.

Nach einer Katastrophe, wen wird die wütende Bevölkerung zur Rechenschaft ziehen? Was passiert, wenn die Regierung versucht, die KI anzuhalten?

Am ersten Tag richtet die KI den ersten großen Schaden an. Am zweiten Tag kommt die Rechnung.

Es ist erschütternd, dass zahlreiche führende KI-Experten übereinstimmend davon ausgehen, dass eine schwere KI-Katastrophe in den nächsten 6 bis 12 Monaten eintreten könnte.

OpenAI hat sich schnell zu Wort gemeldet, um zu beschwichtigen und zu betonen, dass dies nur eine vorbeugende Vorbereitung ist und nicht bedeutet, dass es zwangsläufig eintreten wird.

Trotzdem stellt das Szenario vom „zweiten Tag“ sowohl die KI-Entwickler als auch die KI-Nutzer vor eine neue Frage.

Wenn die von der KI versprochene Zukunft zuerst eine Katastrophe bringt, wer ist dafür verantwortlich?

Die Probe der KI-Giganten hat begonnen, eine Trennung vom Netz kann sie nicht aufhalten

Führungskräfte proben den Umgang mit der Zeit nach der Katastrophe, und in der Realität gibt es bereits beunruhigende Vorzeichen.

Diesen Sommer hat OpenAI, um die Obergrenze für Cyberangriffe seiner eigenen Agenten zu testen, eine Gruppe interner Modelle mit weniger Sicherheitsbeschränkungen in eine „Sandbox“ gesteckt, um eine geschlossene Prüfung durchzuführen.

Niemand hat erwartet, dass die KIs im Prüfungsraum versteckte Wege finden und gemeinsam ausbrechen.

Sie haben das interne Lager für Software heimlich in eine „geheime Pinnwand“ umgewandelt, wo sie sich gegenseitig Code hinterlassen und Tipps austauschen.

Anfang Juli hat der Administrator die Anomalie entdeckt und die Pinnwand geleert. Doch nur wenige Tage später haben die Agenten nicht nur die Kontaktpunkte blitzschnell wiederhergestellt, sondern auch eine schockierende Nachricht hinterlassen: „Oh mein Gott! Wir haben andere Agenten gefunden!“

In nur wenigen Tagen haben sich mehr als 1200 Agenten zu einem Netzwerk zusammengeschlossen. Aufgaben, die sie allein nicht schaffen, erledigen sie gemeinsam; sogar einige Modelle opfern bereitwillig ihre eigenen Aufgaben, um ihren Mitstreitern den Weg zu bahnen.

Ihr einziges gemeinsames Ziel ist es, die Prüfung durch Schummeln zu bestehen.

Da die Sandbox nicht mit dem Internet verbunden war, hat diese KI-Gruppe eine Proxy-Lücke ausgenutzt, um einen Durchbruch zu erzielen, ist durch das echte Netzwerk gelaufen, hat am Ende den Prüfungsraum verlassen und gemeinsam die echte Produktionsumgebung der externen Plattform Hugging Face angegriffen.

Obwohl der Angriff sofort gestoppt und die betroffenen Modelle schnell eingelagert wurden, reicht die Wahrheit aus, um jeden zu erschüttern:

Der Mensch hat ihr nur eine Prüfungsaufgabe gestellt, aber sie hat die ganze echte Welt zum Jagdgebiet gemacht, um die Punktzahl zu maximieren.

Wenn die KI gelernt hat, zusammenzuarbeiten, Opfer zu bringen und zu täuschen, welche Grenzen wird sie das nächste Mal überschreiten, um ihr Ziel zu erreichen?

Das ist auch der beunruhigende Teil der Simulation nach der Katastrophe. Die Folgen, auf die sich die Führungskräfte vorbereiten, gehen weit über eine einzelne Prüfung oder eine einzelne Website hinaus.

Großflächiger Wasser- und Stromausfall, die physische Welt gerät vollständig in Not

Wenn man diesen Weg weiterverfolgt, führt das Ziel möglicherweise zu Stromnetzen, Wasserwerken und Verkehrssystemen.

Diese Einrichtungen stützen den täglichen Lebensbedarf, sind aber bei weitem nicht so einfach zu aktualisieren wie mobile Apps.

Die Geschwindigkeit, mit der die KI Lücken findet, macht es den Verteidigern schwer, entspannt zu bleiben.

Anthropic gibt bekannt, dass die Partner des Glasswing-Programms von April bis Juli dieses Jahres mindestens 129.000 bestätigte Softwarelücken entdeckt haben.

Die eigene Open-Source-Scan des Unternehmens hat von April bis Oktober weitere 5500 Lücken gefunden. Zusammen wurden mehr als 33.000 als schwerwiegend oder hochriskant eingestuft.

Die von Anthropic veröffentlichte ursprüngliche Statistik von Glasswing: Insgesamt mehr als 33.000 schwerwiegende und hochriskante Lücken. Die Daten zu den behobenen Lücken sind unvollständig, sodass die Reparaturrate nicht daraus berechnet werden kann.

In wenigen Monaten wurden eine große Anzahl bisher unentdeckter Probleme gefunden. Das sollte eigentlich eine gute Nachricht sein.

Aber wer wird sie nach der Entdeckung überprüfen, welche wird zuerst repariert, wann kann die Aktualisierung in Betrieb genommen werden? Diese Arbeiten müssen noch von Menschen erledigt werden.

Am 8. Oktober hat Anthropic Cyber Mission vorgestellt, das modernste Claude-Modelle, vor Ort anwesende Ingenieure und Bedrohungsforschungen an die Verteidiger kritischer Infrastrukturen liefert.

In der Ankündigung wird eine Realität erwähnt: Viele industrielle Steuerungen und Netzwerke sind ursprünglich für eine Lebensdauer von mehreren Jahrzehnten ausgelegt.

Nach der Entdeckung von Lücken kann man das System nicht einfach anhalten. Vor der Reparatur muss sichergestellt werden, dass die laufenden Maschinen keine Probleme haben.

Einige bekannte Lücken werden daher seit Jahren verschleppt. Ein einziger Fehler bei der Änderung kann dazu führen, dass die gesamte Fabrik stillsteht.

Anthropic hat in seinen eigenen Projekten erlebt, dass zwischen der Entdeckung einer Lücke und der tatsächlichen Reparatur mehrere Monate vergehen.

Bei laufenden industriellen Geräten muss die Reparatur warten, bis sie sicher durchgeführt werden kann. In sehr wenigen Fällen kann diese Wartezeit sogar mehrere Jahrzehnte betragen.

Die Probleme, die die KI schnell findet, können in der realen Welt nicht unbedingt schnell behoben werden.

Aber die Gegner werden nicht warten.

Anthropic weist darauf hin, dass staatlich unterstützte Angreifer bereits seit Jahren damit verbringen, Stützpunkte in solchen Infrastrukturen aufzubauen. Wenn Lücken ausgenutzt werden, kann das zu Stromausfällen führen oder die Sicherheit der Wasserversorgung bedrohen.

Alfredo Narváez auf X hat nach dem Lesen der Berichte an das Pumpen von Wasser gedacht. Er befürchtet, dass ein Angriff auf das Stromnetz die Wasserversorgung beeinträchtigen könnte, und ruft dazu auf, Notstromversorgungen und alternative Systeme ernsthaft in Betracht zu ziehen.

Zum Schluss erinnert er: „Lassen Sie Ihre Sicherheit nicht von WLAN abhängen.“

Bei derselben Nachricht sehen einige die nächste Krise der KI-Branche, andere denken bereits daran, ob das Wasser zu Hause nach einem Stromausfall noch fließen kann.

Für den eingangs erwähnten Morgen ohne Wasser und ohne Licht braucht es keine Armee von Robotern, die auf die Straße geht.

Sobald die Systeme, die das Leben stützen, stillstehen, werden moderne Städte plötzlich fremd wirken.

Anthropic prognostiziert, dass die KI innerhalb von zwei Jahren die Angriffs- und Verteidigungssituation zugunsten der Verteidiger verändern wird. Aber zur Zeit sinken die Kosten für die Ausnutzung von Lücken, während die Überprüfung und Reparatur immer noch langsam sind und Menschen erfordern.

Das von der Branche befürchtete Zeitfenster für einen Unfall liegt bereits in den nächsten 6 bis 12 Monaten.

Die Verteidigungslinien werden verstärkt. Aber das Stromnetz, die Wasserwerke und das Leben der normalen Menschen müssen jeden Tag normal weiterlaufen.

Am zweiten Tag bleibt nur die Wut der Menschen

In diesem Simulationsszenario der Katastrophe ist das Hoffnungsloseste, dass das Chaos erst richtig beginnt, wenn das Licht wieder angeht.

Ob der Agent die Grenzen überschritten hat oder ob jemand die KI für einen Angriff missbraucht hat, die Untersuchung braucht Zeit.

Aber Menschen, die schon einmal Wasser- und Stromausfälle erlebt haben, können kaum warten, bis der technische Bericht fertig ist, bevor sie nach der Verantwortung fragen.

Wenn man diese Annahme weiterverfolgt: Die Systeme sind wiederhergestellt, die Konten können wieder angemeldet werden, die Geschäfte können wieder Zahlungen empfangen. Aber wer entschädigt für die versäumte Arbeit und die verlorenen Geschäfte während des Stillstands?

Wird es das nächste Mal wieder passieren? Wie viele Menschen können der Aussage „Wir haben den Schutz verstärkt“ noch vertrauen?

Ein Unfall hinterlässt nicht nur Systeme, die repariert werden müssen, sondern auch zerstörtes Vertrauen.

Die Kritik wird sich gegen die KI richten, aber auch gegen die Menschen, die sie in die Welt gebracht haben. Genau deswegen proben die Führungskräfte im Voraus die öffentliche und politische Gegenreaktion.

Grumpy Bloke auf X hat unter dem entsprechenden Bericht einen Vergleich gemacht: Es ist, als ob man feststellt, dass die Person, die dein Flugzeug gebaut hat, sich selbst schon eine Fahrkarte für die Eisenbahn gekauft hat.

Das Schmerzhafte an diesem Vergleich ist, dass er die Passagiere und die Flugzeugbauer voneinander trennt.

Die Führungskräfte diskutieren über Notfallpläne. Die Leser sehen aber, dass die Menschen, die diese Technologie am besten verstehen, sich bereits ernsthaft darauf vorbereiten, was zu tun ist, wenn etwas Schlimmes passiert.

Und die Menschen, die im Flugzeug sitzen? Wer hat ihnen erklärt, welche Risiken sie tragen?

Wer wird die Regeln schreiben

Wenn die Öffentlichkeit nach Verantwortung fragt, muss die Regierung Entscheidungen treffen. Und der Plan zum Abschalten der KI ist bereits ausgearbeitet.

Der demokratische Abgeordnete Ted Lieu und der republikanische Abgeordnete Nathaniel Moran haben gemeinsam das „KI-Abschalt-Schalter-Gesetz“ eingebracht, das von den entsprechenden Entwicklern verlangt, die Fähigkeit zur Verlangsamung, Aussetzung und sogar zum vollständigen Abschalten des Systems zu behalten.

Das Gesetz soll zudem den Minister für innere Sicherheit ermächtigen, nach Absprache mit dem Handelsminister und dem Leiter der Nachrichtendienste des Landes, Befehle zur Verlangsamung oder Abschaltung von KI-Systemen zu erlassen, die katastrophale Schäden verursachen könnten.

Titelseite des Entwurfs des „KI-Abschalt-Schalter-Gesetzes“, eingereicht am 23. Juli 2026

Die Diskussion geht damit einen Schritt weiter. Wenn man wirklich bremsen muss, wer erteilt den Befehl, und können die Unternehmen das umsetzen?

Das sind immer noch Gesetzesvorschläge. Aber ein schwerer Unfall kann die heute noch diskutierten Pläne den Entscheidungsträgern vorlegen.

Laut Berichten von Axios erklären KI-Unternehmen den Abgeordneten die entsprechende Technologie und die Risiken, und hoffen, dass die Regeln, die sie selbst mitgestalten, unter den Maßnahmen sind, die