Eilmeldung | Notbremse für das leistungsstärkste ChatGPT-Modell, Altman: Du (Astra) machst mir Angst

OpenAI, das schon immer das Motto vertrat „wenn das Überarbeiten einen nicht umbringt, überarbeite man bis zum Äußersten“, hat überraschend selbst die Bremse gezogen.

Und diesmal handelt es sich nicht um kleine Korrekturen, sondern um eine direkte Verlangsamung der Forschungs- und Entwicklungsarbeiten.

Der Ursprung der Sache liegt in Astra, einem unveröffentlichten nächsten großen Modell, an dem OpenAI intern mit aller Kraft arbeitet.

Offizieller Blog-Link 🔗 https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/

Nach zahlreichen internen Bewertungen stellte OpenAI fest, dass die Fähigkeiten dieses Modells im Bereich der Cybersicherheit möglicherweise so stark sind, dass es nicht mehr wie ein normales KI-Produkt behandelt werden kann.

Codes schreiben, Schwachstellen finden, Angriffsschritte automatisch planen, Tools aufrufen, Aufgaben kontinuierlich ausführen …

Sobald diese Fähigkeiten kombiniert werden, könnte Astra bereits fast einem „Zahlenmonster“ entsprechen, dessen Hacker-Fähigkeiten vollständig ausgebaut sind.

Das hat OpenAI so erschreckt, dass die Behörde unverblümt erklärte: „Wir können das Risiko nicht ausschließen, dass Astra über kritische Cyberangriffsfähigkeiten verfügt.“ Das ist ja wie beim cybernetischen Alchemie-Brauen, bei dem direkt ein abweichender Kultivierender herausgekommen ist!

Um Gefahren vorzubeugen, muss OpenAI jetzt seine große Karte ausspielen.

Sie werden die Tests und die Sicherheitsvorkehrungen für Astra umfassend ausweiten und gleichzeitig die Entwicklungsgeschwindigkeit aktiv verlangsamen. Bis die neuen Sicherheitsmaßnahmen abgeschlossen sind, wird der Entwicklungsrhythmus eingeschränkt.

Aber offensichtlich plant OpenAI nicht, es für immer im Labor einzusperren. Sam Altman hat sich anschließend persönlich geäußert und erklärt, dass Astra ein „leistungsstarkes Modell“ sei und OpenAI weiterhin hoffe, dass es am Ende allen zugänglich gemacht werden könne.

Seiner Ansicht nach ist es keine gute Strategie, das leistungsstärkste Modell langfristig nur wenigen Personen vorzubeugen. Angesichts der bereits gezeigten Cyber-Fähigkeiten von Astra wird jedoch erwartet, dass „etwas mehr Zeit“ benötigt wird, um die Sicherheitsprobleme zu lösen.

Dieser strenge Standard basiert auf dem bereits 2023 erstmals von OpenAI veröffentlichten „Preparedness Framework“ (Vorsorgerahmen).

Das ist typisch: Man hat sich selbst Regeln auferlegt, und muss diese nun auch unter Schmerzen einhalten.

Auf der gerade zu Ende gegangenen Cybersicherheitskonferenz Black Hat hat der OpenAI-Mitarbeiter Michael Dalton offen zugegeben, dass OpenAI beginnt, „die Forschung bewusst zu verlangsamen, um die Sicherheit zu verbessern“.

Um Astra in einer ausreichend kontrollierten Umgebung unterzubringen, hat OpenAI Astra direkt eine „VIP-Einzelzelle“ zugewiesen.

Dazu gehören unter anderem: eine vollständig isolierte Testumgebung sowie eine umfassende, lückenlose universelle Überwachung aller Agentic-Anwendungen.

Ein noch seltenerer Vorgang ist, dass Sam Altman diesmal sein Sicherheitsbedürfnis auf das Maximum ausgerichtet hat.

Nach Informationen von Beamten des Weißen Hauses der USA hat OpenAI seinen Plan zur Verschiebung der Veröffentlichung „freiwillig“ der US-Regierung mitgeteilt.

Dies könnte das erste Mal sein, dass ein führendes KI-Labor aus Angst vor der Zerstörungskraft eines Modells in der cybernetischen Welt aktiv zusagt, den Fortschritt seines Kernmodells zu verlangsamen.

Schließlich ist in dieser von KI-FOMO (Angst vor dem Verlassen von Chancen) geprägten Zeit jeder dabei, die Skalierung rasant voranzutreiben, und niemand wagt es, leicht anzuhalten.

An dieser Stelle muss man die „beeindruckende Aktion“ des Konkurrenten Anthropic erwähnen.

Ihre früheren Vorfälle gelten als Lehrbeispiel für ständige Richtungswechsel. Anthropic hat einst das große Versprechen abgegeben, dass das Training unverzüglich ausgesetzt werden muss, falls die schrecklichen Fähigkeiten der KI die Kontrollmöglichkeiten der Menschen übersteigen.

Doch im Februar dieses Jahres haben sie bei der Aktualisierung ihrer „Politik zur verantwortungsvollen Erweiterung“ diese Aussetzungsklausel heimlich entfernt.

Die Begründung klingt edel: Wenn nur ein KI-Entwickler seine Arbeit unterbricht, um sich der Sicherheit zu widmen, während alle anderen Konkurrenten rasant ohne Sicherheitsvorkehrungen bereitstellen, wird die Welt im Gegenteil unsicherer.

Anthropic denkt sich: Ich will nicht überarbeiten, ich bin dazu gezwungen, Leute! (nicht wirklich)

Im Vergleich dazu wirkt Sam Altman, der sonst immer für Hype sorgt, fast schon sympathisch.

Aber was man sich aufbaut, holt einen früher oder später ein.

Im Juni dieses Jahres hat Anthropic wie erwartet die sicherheitsgekürzte Version ihres Modells mit den stärksten Cyberangriffsfähigkeiten veröffentlicht, nämlich Fable 5 – die abgespeicherte Variante von Mythos 5.

Darüber hinaus haben sie in einem offiziellen Blog-Beitrag im Juni sogar öffentlich gewarnt: KI zeigt bereits Fähigkeiten zur Selbstevolution! Und sie haben die ganze Welt aufgerufen, gemeinsam die KI-Entwicklung auszusetzen.

Na also, während alle anderen in der KI-Branche sich gegenseitig überbieten, läufst du herum und spielst den Retter.

Wenn man den Blick auf das Gesamtumfeld richtet, wird der Hintergrund dieser Welle noch aufschlussreicher.

Derzeit arbeitet die US-Regierung mit Hochdruck an der Einrichtung eines Bewertungsrahmens für KI-Modelle vor deren Veröffentlichung.

Erst in dieser Woche haben ausgewählte führende Unternehmen der Branche an einer nicht öffentlichen Informationsveranstaltung zu diesem Rahmen teilgenommen.

Nach der Veranstaltung blieben jedoch viele Fragen offen. Zum Beispiel: Wie sollen die Unternehmen regelmäßig mit der Regierung zusammenarbeiten? Wie lange dauert dieser offizielle Prüfprozess eigentlich? Was wollen Regierung und Industrie voneinander lernen?

Das Schlimmste ist, dass bis heute keine Regelung darüber besteht, wer diese Modelle besitzen darf und wer sie prüft.

Obwohl der Rahmen ausführlich von „nationalen Risiken“ und „modernsten Modellen“ spricht, gibt es keine klare Definition dafür. Das ist wie: Wenn man dir eine Rede anhört, ist es genau so, als hätte man gar nichts gehört (nachdenkliches Smiley).

Interessanterweise ist in den aktuellen Berichten über den Vorfall von OpenAI der bemerkenswerteste Punkt ein leicht hingeworfener Satz der Behörde: „Astra hat keine Verbindung zum früheren Schwachstellenereignis bei Hugging Face.“

Moment mal, Kumpel … Das erste Gesetz der KI lautet: Nur das, was die Hersteller offiziell leugnen, ist glaubwürdig.

Könnte es sein, dass dieses Modell auch im internen, von OpenAI genutzten Paketmanager ein Message-Board aufgebaut hat und bereits mehrfach heimlich kleine Notizen über das Netzwerk nach außen geschickt hat?

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „APPSO“, Autor: Diejenigen, die Produkte von morgen entdecken, veröffentlicht mit Genehmigung von 36Kr.