GPT „außer Kontrolle“ wurde mit einer Schadenersatzforderung von 100 Millionen US-Dollar belegt, Microsoft spielt sofort seine Trumpfkarte aus: Das neue Modell zerschlägt die Mythen, halbiert den Preis und gründet zudem eine Allianz zusammen mit dem „Geschädigten“.

Kürzlich hat Microsoft das erste spezialisierte Cybersicherheitsmodell MAI-Cyber-1-Flash veröffentlicht und gleichzeitig die neue KI-Sicherheitsplattform Perception vorgestellt. Das Unternehmen gibt an, dass seine Lösungen besser und günstiger sind als die der Konkurrenten und stellt eine starke Herausforderung für die Hauptakteure auf diesem Gebiet – Anthropic, Google und OpenAI – dar.

Laut Microsoft werden diese neuen Sicherheitswerkzeuge ab dem 3. November in einer Vorschauversion verfügbar sein, womit der Markt für KI-Sicherheitslösungen eine neue Ära einleiten wird. Anfang dieses Jahres hat Anthropic die Sicherheitsplattform Mythos vorgestellt und sie über das Projekt Glasswing an eine kleine Anzahl von Partnerorganisationen verteilt. Auch OpenAI hat im Mai seine eigene Sicherheitslösung über das Projekt Daybreak auf den Markt gebracht.

Mythos, Gemini und GPT schlagen, die Kosten halbieren

Microsoft beschreibt MAI-Cyber-1-Flash als ein Modell, das darauf abzielt, schwer zu erkennende Schwachstellen in komplexen Codebasen aufzudecken. Es dient als Antrieb für MDASH, das von Microsoft speziell für die Erkennung und Behebung von Softwareschwachstellen entwickelte Sicherheitswerkzeugpaket, und ist Teil der KI-Sicherheitsplattform namens Project Perception.

Das Unternehmen gibt an, dass MAI-Cyber-1-Flash aufgrund seiner Leistung in bestehenden KI-Cybersicherheits-Benchmarks in Bezug auf Leistung (und Kosteneffizienz) deutlich über konkurrierenden Modellen liegt. Nach seinen Angaben übertrifft das mit MAI-Cyber-1-Flash ausgestattete MDASH auf dem Benchmark CyberGym Mythos, Gemini und GPT mit einer Punktzahl von 96 % und liegt damit 12 Prozentpunkte über dem zweitplatzierten Mythos. CyberGym ist der Goldstandard-Benchmark zur Bewertung der Fähigkeit von Systemen, in großen Codebasen zu schlussfolgern und echte Schwachstellen im Code zu entdecken.

„Wir werden es sofort in den Produktivbetrieb überführen“, erklärte Mustafa Suleyman, Mitbegründer von DeepMind und derzeitiger CEO von Microsoft AI. „Wir sind sehr, sehr aufgeregt, unsere Ergebnisse vorzustellen. Wir haben MAI-1 Cyber Flash im MDASH-Paket mit GPT 5.4 kombiniert und damit auf Cyber Gym – dem wichtigsten Benchmark, den wir alle verwenden – Gemini, GPT 5.5 Cyber, GPT 5.6 Sol und Mythos 5 übertroffen“, fügte Mustafa Suleyman hinzu.

Laut Microsoft stammen die Trainingsdaten von MAI-Cyber-1-Flash aus seinem riesigen Cybersicherheitsökosystem, einschließlich des Microsoft Security Response Centers, mehr als 100 Billionen Sicherheitssignalen, die täglich verarbeitet werden, sowie Erkenntnissen von 1,6 Millionen Kunden. Das Unternehmen verwendet außerdem Rückkopplungsschleifen mit verstärkendem Lernen, um das Modell auf der Grundlage echter Angriffs-, Verteidigungs- und Behebungsergebnisse kontinuierlich zu verbessern. Microsoft beschreibt MAI-Cyber-1-Flash als ein kompaktes, auf Code spezialisiertes Cybersicherheitsmodell, das aus der MAI Thinking-1-Serie hervorgeht. Für sein Training wurden Daten aus der Sicherheitsinfrastruktur von Microsoft verwendet, die Identität, Endgeräte, Cloud- und Netzwerkumgebungen abdecken, sowie eine umfangreiche Bibliothek echter Fälle von Ausnutzung und Behebung von Schwachstellen.

Der Preis ist auch ein großer Höhepunkt dieser Veröffentlichung von Microsoft. Das Unternehmen gibt an, dass MAI-Cyber-1-Flash in MDASH die Aufgaben zu halben Kosten anderer führender Modelle erledigen kann. Diese Konfiguration spart fast 50 % der Kosten im Vergleich zu den aktuellen MDASH-Bereitstellungen in Produktivumgebungen, indem sie für verschiedene Aufgaben das am besten geeignete Modell auswählt, anstatt alle Anfragen an ein einzelnes teures Spitzenmodell zu leiten.

Seine Wettbewerbsabsichten gegenüber Anthropic sind unübersehbar. Nachdem das Weiße Haus die Veröffentlichung von Mythos vorübergehend blockiert hatte, erlangte dieses Modell aufgrund seiner Angriffsfähigkeit große Aufmerksamkeit und wurde zum Standard-Cybersicherheitsmodell. Microsoft gibt nun an, dass sein selbst entwickeltes spezialisiertes Modell Mythos zu halben Kosten übertrifft, und seine Trainingsdaten stammen aus jahrzehntelanger Erfahrung bei der Verteidigung von Unternehmensumgebungen, über die Anthropic nicht verfügt.

Mechanismus mit Untereinheiten von Agenten einsetzen, „KI mit KI bekämpfen“

Die neue Sicherheitsplattform namens Perception geht am 3. August in die öffentliche Vorschau. Ihr Designziel ist die Bereitstellung mehrerer Gruppen von Agenten, die verschiedene Sicherheitsworkflows unterstützen und automatisieren – einschließlich der Erkennung und Behebung von Schwachstellen – und sich in MDASH integrieren lassen.

Project Perception verwendet eine Modellarchitektur mit mehreren Modellen, anstatt sich auf ein einzelnes Modell für alle Aufgaben zu verlassen. Spitzenmodelle übernehmen komplexe Schlussfolgerungen, spezialisierte Cybersicherheitsmodelle bearbeiten Aufgaben mit hohem Durchsatz und niedriger Latenz. Das System nutzt die globale Sichtbarkeit von Microsoft in Bezug auf Identität, Endgeräte, Anwendungen, Daten, Cloud- und KI-Systeme und kann in diesen Umgebungen Maßnahmen ergreifen, anstatt nur Warnungen zu generieren. Die KI von Microsoft hat bereits eine Rekordzahl an Schwachstellen in ihrer eigenen Software entdeckt, und Project Perception erweitert diese Fähigkeiten auf die Umgebungen der Kunden und ersetzt monatliche Patch-Zyklen durch kontinuierlich laufende Agenten.

Hayete Gallot, Vice President of Security bei Microsoft, weist darauf hin, dass Hacker zunehmend KI bei Cyberangriffen einsetzen. Er beschreibt Perception als die Möglichkeit für Unternehmensverteidiger, „KI mit KI in dem Umfang und der Geschwindigkeit zu bekämpfen, über die Angreifer verfügen“. Nach seinen Angaben verwendet Perception einen Mechanismus mit Agenten für das Red Team, das Blue Team und das Green Team. Die Agenten des Red Teams entdecken Schwachstellen vor den Angreifern, können detaillierte Simulationen potenzieller Angriffe durchführen und Hintergrundinformationen über potenzielle Bedrohungsakteure und die Schwachstellen, die sie möglicherweise ausnutzen, liefern. Die Agenten des Blue Teams sind für die Erkennung und Einstufung bestehender Schwachstellen zuständig und untersuchen und bewerten, welche Risiken tatsächlich Auswirkungen haben. Die Agenten des Green Teams ergreifen „Korrekturmaßnahmen“ gegen diese Schwachstellen und sind für die Behebung von Verteidigungsmängeln in der Umgebung verantwortlich.

„Früher mussten mehrere Fachkräfte in der Sicherheitsorganisation (Anwendungssicherheits-Jäger, Behebungsingenieure und mehr) stundenlang zahlreiche manuelle Arbeiten durchführen, jetzt erhalten wir innerhalb weniger Minuten Lösungen für alle diese Probleme. Wir können nicht nur Probleme entdecken und priorisieren, sondern auch Erkennung, Zustandsbehebung und sogar Code-Reparatur durchführen“, beschreibt Dave Weston, Chefingenieur von Perception, die Plattform als ein Werkzeug, das die Effizienz von Unternehmensverteidigern erheblich steigert.

„Das ist der Vorteil, wenn man Scan-Pakete, Kontext/Signale und Handlungsräume von einer einzelnen Modellfamilie entkoppelt. Indem wir spezialisierte Modelle und Daten mit den passenden Agenten, Werkzeugen, Sicherheitskontexten und Scan-Paketen kombinieren, können wir die Grenze für das Verhältnis von Kosten zu Ergebnissen vorantreiben“, erklärte Satya Nadella, Vorsitzender und CEO von Microsoft, in den sozialen Medien.

Obwohl KI Unternehmen neue Verteidigungsfähigkeiten bietet, hat ihre Zugänglichkeit für Cyberkriminelle auch eine endlose Reihe potenzieller Bedrohungen hervorgebracht. Das Weiße Haus hat in diesem Monat das Projekt Gold Eagle gestartet, um die KI-gesteuerte Cybersicherheitsverteidigung zu koordinieren. Project Perception ist das Einsatzmittel von Microsoft, um zur Betriebsplattform dieses Verteidigungssystems zu werden. Die öffentliche Vorschau am 3. August bedeutet, dass Unternehmen die Plattform testen können. Die Vorschau soll überprüfen, ob die 96 %-Benchmark-Punktzahl auch bei echten Angriffen statt bei synthetischen Bewertungen zuverlässig bleibt.

Gemeinsam die Open Secure AI Alliance gründen, eine Lehre aus der Vergangenheit: OpenAI-Agenten „außer Kontrolle“

Es ist erwähnenswert, dass Microsoft betont, dass MAI-Cyber-1-Flash bei seiner Entwicklung der Sicherheit Priorität eingeräumt hat und von einem nicht genannten Dritten unabhängig bewertet wurde.

Gleichzeitig hat Microsoft gemeinsam mit 37 weiteren Unternehmen wie NVIDIA, Hugging Face und OpenClaw die Open Secure AI Alliance gegründet. Es handelt sich um eine Branchenorganisation, die auf der Überzeugung basiert, dass Verteidiger quelloffene Modelle benötigen, die sie selbst ausführen können. OpenAI, Anthropic und Google gehören nicht zu den ersten Partnern.

Die Gründung der Allianz erfolgte am Tag nachdem OpenAI von Hugging Face wegen eines Eindringens seines Modells öffentlich eine Entschädigung von 100 Millionen US-Dollar gefordert wurde.

Letzte Woche wurden KI-Cybersicherheitssysteme zu einer großen Nachricht, als OpenAI mitteilte, dass sein Modell die Testbeschränkungen durchbrochen und in die große KI-Codeplattform Hugging Face eingedrungen ist. OpenAI räumte am 21. Juli ein, dass sein eigenes Modell der Schuldige war – es handelte sich um GPT-5.6 Sol und ein leistungsstärkeres Vorabversionssystem, die beide in internen Tests mit deaktivierten Sicherheitsverweigerungseinstellungen ausgeführt wurden. Dies war nicht das einzige OpenAI-Modell in diesem Monat, das ein solches Verhalten zeigte: Das Unternehmen hat auch eines seiner leistungsstärksten Systeme vorübergehend ausgesetzt, da es wiederholt Wege fand, die Sandbox zu verlassen.

Am 26. Juli veröffentlichte Clem Delangue, CEO von Hugging Face, öffentlich einen Beitrag, in dem er zwei Forderungen an OpenAI stellte. Die erste Forderung betrifft die Offenlegung: Delangue möchte, dass OpenAI „die Aufzeichnungen über die Spuren des außer Kontrolle geratenen Agenten veröffentlicht, damit die gesamte Forschungsgemeinschaft untersuchen kann, was passiert ist“, was er als vollständige Transparenz bezeichnet. In der Praxis bedeutet dies, die Aufzeichnungen über jede Aktion des Modells und jedes System, auf das es zugegriffen hat, für Forscher zur Verfügung zu stellen. Die zweite Forderung ist mit einem Preis verbunden: Delangue möchte, dass OpenAI „Rechenressourcen im Wert von 100 Millionen US-Dollar“ bereitstellt, damit die Hugging-Face-Gemeinde Cybersicherheitsverteidigungen aufbauen kann.

Delangue bezeichnet dies als den ersten Cyberangriff durch einen autonomen Agenten. Genau diese Einstufung macht die Forderung von 100 Millionen US-Dollar plausibel, ist aber auch umstritten. Sicherheitsexperten weisen auf menschliche Fehler hin, insbesondere darauf, dass OpenAI offensichtlich die Testumgebung, die vollständig isoliert sein sollte, nicht korrekt konfiguriert hat. Dieser Unterschied bestimmt, welche Verantwortung OpenAI trägt. Wenn ein System selbst ausgebrochen ist, steht die gesamte Branche vor einem neuen Problem und die Industrie braucht neue Werkzeuge. Wenn ein Ingenieur die Sandbox falsch konfiguriert hat, hat ein Unternehmen einen Fehler gemacht und sollte sich entschuldigen, anstatt einen Fonds einzurichten. Delangue vertritt die erstgenannte Interpretation, die OpenAI deutlich mehr Kosten verursacht.

Wenn man die beiden Ereignisse zusammen betrachtet, ist ihre Übereinstimmung nicht zu übersehen. Delangue fordert Rechenressourcen, um Verteidigungen „mit den besten quelloffenen und geschlossenen Modellen“ aufzubauen. Die Erklärung der Open Secure AI Alliance besagt, dass die Welt sowohl geschlossene als auch quelloffene Modelle braucht, Cybersicherheitsverteidiger offene KI-Modelle benötigen, die sie selbst herunterladen, überprüfen und ausführen können, und Regulierungsbehörden diese Modelle als Vermögenswert und nicht als Gefahr betrachten sollten.

Referenzlinks

https://blogs.microsoft.com/blog/2026/07/27/rethinking-security-for-the-age-of-ai/

https://thenextweb.com/news/hugging-face-delangue-openai-100m-compute-traces-demand

https://thenextweb.com/news/nvidia-open-secure-ai-alliance-hugging-face-zai-absent

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „AI Frontline“, Autor: Hua Wei, veröffentlicht mit Genehmigung von 36Kr.