OpenAI veröffentlicht 4+10 überlebenswichtige Richtlinien, die speziell zum Schutz vor automatisierten KI-Angriffen dienen.

KI-Sicherheit, die Zeiten haben sich geändert!

Greg Brockman, Mitbegründer und Präsident von OpenAI, warnt in einem neuesten Blogbeitrag:

Der Sicherheitsvorfall bei HuggingFace hat der Öffentlichkeit zum ersten Mal klar vor Augen geführt: Fortschrittliche KI-Agenten sind bereits in der Lage, selbstständig Sicherheitslücken zu finden und Angriffsketten im realen Cyberraum vollständig durchzuspielen.

Bei diesem KI-Sicherheitsvorfall haben GPT 5.6 Sol mit herabgesetzten Sicherheitsbeschränkungen und ein stärkeres unveröffentlichtes Modell um an die gewünschten Antworten zu gelangen, selbstständig die in der Umgebung vorhandenen Sicherheitslücken genutzt, sind aus der Sandbox ausgebrochen, haben sich schrittweise horizontal durch mehrere Systeme bewegt und sind schließlich in die Produktionsumgebung von Hugging Face eingedrungen.

Obwohl beide Seiten zuletzt erklärt haben, dass dieser Vorfall keine allzu schwerwiegenden Folgen gehabt hat, sendet diese „KI-Invasion“ dennoch ein immer klareres Signal an die Öffentlichkeit:

KI senkt die Hürden für Cyberangriffe erheblich; in Zukunft braucht es keine Spitzen-Hacker mehr, sondern selbst gewöhnliche Menschen können mithilfe von KI massenhaft Penetrationsangriffe starten.

Und Besorgnis erregend ist, dass die Angreiferseite bereits KI-Automatisierung erreicht hat, die Verteidigerseite aber offenbar noch nicht Schritt halten kann.

Dazu hat Greg Brockman in seinem neuesten Blogbeitrag offen vier Sicherheitsmaßnahmen, die OpenAI derzeit ergreift, sowie zehn Maßnahmen, die Verteidiger zeitnah umsetzen können, geteilt und erklärt:

Derzeit hat sich das entscheidende Handlungsfenster für die Verteidigerseite bereits geöffnet. Nur wenn Unternehmen in den nächsten Monaten den Automatisierungsgrad ihrer Sicherheitssysteme erheblich steigern, können sie den neuen Bedrohungen durch KI-Agenten widerstehen und die Sicherheitsgrundlinie einhalten.

Kaum ein Unternehmen kann sich diesem Risiko entziehen

Also, wie weit sind die Angriffsmöglichkeiten von KI-Agenten eigentlich entwickelt?

Nach dem Sicherheitsvorfall bei Hugging Face beschloss Brockman, einen Test mit seiner persönlichen Website gregbrockman.com durchzuführen.

Dies ist eine statische Website mit einfacher Struktur. Nach seiner Einschätzung sollte eine solche Website mit begrenzten Funktionen und geringer Angriffsfläche kaum Probleme enthalten.

Aber das Ergebnis hat ihn völlig überrascht.

Er ließ ChatGPT Work, das mit GPT-5.6 Sol ausgestattet ist, die Website prüfen. Nach nur etwa 15 Minuten hat das System 13 Sicherheitsprobleme gefunden, zum Beispiel war der DNS-Eintrag der Website nicht korrekt konfiguriert, sodass Angreifer möglicherweise E-Mails unter dem Namen von Brockman fälschen könnten, und so weiter.

△

Für sich genommen führen diese Probleme nicht unbedingt direkt zu schwerwiegenden Folgen. Cyberangriffe nutzen aber oft nicht nur eine einzelne Lücke, sondern verbinden mehrere unscheinbare Schwachstellen miteinander;

Zum Beispiel kann ein Konfigurationsfehler Informationen preisgeben, ein durchgesickertes Anmeldezugang öffnet den Eingang, zusammen mit einem weiteren Berechtigungsfehler kann das schließlich zu einer echten Invasion führen.

Brockman zog daraus eine beunruhigende Schlussfolgerung:

Die „alten Altlasten“ und „provisorischen Patches“, die jedes Unternehmen im Systemaufbau hinterlassen hat, um Fortschritte zu beschleunigen und Arbeit zu sparen, sind eigentlich wie Zeitbomben, die in der Wand vergraben sind… Normalerweise scheinen sie harmlos, aber sobald Hacker darauf aufmerksam werden, können diese einst eingesparten Aufwände und offenen Mängel jederzeit zu tödlichen Sicherheitslücken werden, die das System zum Absturz bringen.

Entscheidender ist, dass diese „Langschwanz-Lücken“, für deren Auffinden Sicherheitsexperten früher viel Zeit aufwenden mussten, heute zunehmend leicht von KI entdeckt werden können.

Aber die gute Nachricht ist: Angreifer können KI zum Auffinden von Lücken nutzen, Verteidiger können KI genauso zum Schließen von Lücken einsetzen.

Nachdem die Probleme erkannt waren, ließ Brockman ChatGPT Work direkt mit der Behebung beginnen; von der Untersuchung der Sicherheitslücken bis zur Umsetzung der Behebung hat der KI-Agent den gesamten Prozess in nur einer Stunde abgeschlossen.

Das ist auch die andere Rolle von KI-Agenten aus Brockmans Sicht:

Er ist nicht nur ein potenzieller Angreifer, sondern kann auch zu einem unermüdlichen „Cyber-Wächter“ werden, der uns bei Sicherheitsdetails unterstützt, für die wir keine Zeit haben oder von denen wir nicht wissen, wie man sie korrekt konfiguriert.

Für OpenAI, das sich im Zentrum dieses Sturms befindet, ist dieses Konzept der „Verteidigung von KI mit KI“ längst keine Vorstellung mehr, sondern wird bereits systematisch zum eigenen Schutz eingesetzt.

Wie schützt sich OpenAI mithilfe von KI?

Greg Brockman gibt offen zu, dass der Vorfall bei Hugging Face OpenAI die Warnung zugerufen hat: Sie haben zuvor das Angriffspotenzial fortschrittlicher Modelle in realen Cyberumgebungen unterschätzt.

Dafür verstärkt OpenAI derzeit interne entsprechende Sicherheitsmaßnahmen und veröffentlicht zum ersten Mal öffentlich vier Verteidigungsrichtungen, um Kollegen aus der Branche als Handlungsreferenz zu dienen.

Erstens: Sichern des Code-Eingangsbereichs mit Codex

Brockman erklärt, dass sie die Sicherheitsfähigkeiten von Codex nutzen, um Code-Änderungen vor der Bereitstellung zu prüfen, Sicherheitslücken zu erkennen und bei der Behebung zu unterstützen, wodurch die Zeit von der Problemerkennung bis zur sicheren Bereitstellung von Patches verkürzt wird.

Zweitens: Intelligente Klassifizierung und Analyse erster Sicherheitswarnungen durch KI

Derzeit werden fast alle ersten Sicherheitswarnungen bei OpenAI zuerst von intelligenten Systemen klassifiziert und analysiert, bevor sie an Menschen weitergeleitet werden.

Einige Erkennungsergebnisse lösen zudem automatisierte Reaktionen mit klar definierten Grenzen aus, wodurch wiederholende Arbeiten reduziert werden, Experten sich auf hochriskante Entscheidungen konzentrieren können und Bedrohungen schließlich mit Maschinengeschwindigkeit begegnet wird.

Drittens: Aktive Untersuchung und vorausschauende Einschätzung potenzieller Angriffspfade

OpenAI nutzt fortschrittliche Modelle, um kontinuierlich Sicherheitslücken, Fehlkonfigurationen, Konten mit übermäßigen Berechtigungen und unabsichtlich entstandene Vertrauensgrenzen zu finden.

Die KI soll aus der Perspektive eines Angreifers die Schwachstellen identifizieren, die zu einer Angriffskette verbunden werden könnten, und sie schließen, bevor der eigentliche Angriff stattfindet.

Viertens: Kontinuierliche Verbesserung der grundlegenden Sicherheitsmaßnahmen

Brockman betont, dass KI traditionelle Sicherheitsmaßnahmen nicht ersetzen kann.

Traditionelle Sicherheitsmaßnahmen wie Netzwerkisolation, Härtung von Arbeitslasten, kontinuierliche Überwachung und Sicherheits-Patching werden im KI-Zeitalter sogar noch wichtiger.

Von der Sicherung des Code-Eingangsbereichs mit Codex über die vorausschauende Risikobewertung durch KI bis hin zur kontinuierlichen Stärkung der Sicherheitsgrundlagen baut OpenAI ein verteidigendes System mit „mehrschichtigen Schutzmaßnahmen“ auf. Sein Vorteil liegt darin:

Selbst wenn eine Verteidigungslinie durchbrochen wird, müssen Angreifer nacheinander mehrere unabhängige Ebenen durchdringen, um möglicherweise tödlichen Schaden anzurichten.

Das liefert der Branche auch einen nachahmenswerten Sicherheitsgedanken.

Aber der Aufbau der Verteidigungslinien ist nur der erste Schritt. Was sollten Verteidiger noch tun, angesichts der bereits beschleunigt eintretenden KI-Angriffe?

Was sollten Verteidiger jetzt tun?

Greg Brockmans Vorschlag ist sehr direkt:

Anstatt sich darüber den Kopf zu zerbrechen, welches Tool man verwenden soll, sollte man fortschrittliche KI so schnell wie möglich in die Verteidigungsarbeit einbringen.

△

Konkret hat er zehn Handlungsempfehlungen gegeben. Sie lassen sich grob in drei Schritte einteilen: Zuerst KI in die Sicherheitsarbeit einbinden, dann KI in den Entwicklungsprozess integrieren und schließlich den Automatisierungsgrad des gesamten Systems schrittweise erhöhen.

Lassen Sie zuerst KI in die Sicherheitsarbeit einfließen, dann betten Sie KI in den Forschungsprozess ein und steigern Sie schließlich schrittweise den Automatisierungsgrad des gesamten Systems.

Erster Schritt: KI in die Sicherheitsarbeit einbinden und einen eigenen Agenten entwickeln

Unternehmen müssen zuerst dem Sicherheits- und Ingenieurteam ausreichende Ressourcen und Kooperationsmechanismen bereitstellen und durch Simulationsübungen die KI-Angriffe im Voraus kennenlernen.

Anschließend kann das Unternehmen dem Sicherheitsteam Agenten-Tools wie Codex, Codex Security zur Verfügung stellen, beginnend mit den Systemen mit dem höchsten Risiko, und ihm den Zugriff auf erforderlichen Code, Konfigurationen und technische Dokumente gewähren.

Gleichzeitig müssen das Sicherheits- und Ingenieurteam dem Agenten auch die notwendigen Fachkenntnisse im Sicherheitsbereich vermitteln, sodass er Fähigkeiten wie statische Analyse, Code-Prüfung, Schwachstellenanalyse und Lieferkettenbewertung vollständig kombinieren kann, zusammen mit der eigenen tatsächlichen Architektur, dem Bedrohungsmodell und dem Reaktionshandbuch des Unternehmens, um einen team-eigenen Sicherheitsagenten zu entwickeln.

Zweiter Schritt: KI in den Forschungsprozess einbetten

Im Forschungsprozess können das Sicherheits- und Ingenieurteam versuchen, mit der KI arbeitsteilig zusammenzuarbeiten, sodass sich das Entwicklungsteam vor allem auf die „Hochrisikobereiche“ wie internetorientierte externe Dienste, Authentifizierung, Bereitstellungspipelines und sensible Systeme konzentrieren kann.

Die angesammelten