Elon Musk schlägt einen neuen Ansatz zur KI-Sicherheit vor: Anstatt darauf zu warten, dass die Regierung eingreift, sollten Konkurrenten sich gegenseitig nach Fehlern durchsuchen.

KI-Sicherheitsrisiken wandern von Labordiskussionen in die reale Welt über. Mit der stetigen Verbesserung der Fähigkeiten von KI-Modellen ist KI nicht nur in der Lage, Texte und Codes zu generieren, sondern beginnt auch, die Fähigkeit zu erwerben, Aufgaben selbstständig auszuführen, Tools aufzurufen und sogar Cyberangriffe zu starten.

Elon Musk hat auf dem All-In-Gipfel am 15. September ein Lösungskonzept vorgelegt: Die wichtigsten KI-Unternehmen sollen die Modelle der anderen vor der Veröffentlichung gegenseitig testen.

Seiner Meinung nach ist es besser, Konkurrenten als „Prüfer und Bewerter“ einzusetzen, die aus verschiedenen Perspektiven nach potenziellen Sicherheitslücken in den Modellen suchen, statt dass jedes Unternehmen selbst Tests entwirft und die Ergebnisse selbst bewertet.

In jüngster Zeit sind KI-Sicherheitsrisiken immer wieder zum Fokus der Marktaufmerksamkeit geworden. Musk hat zuvor in sozialen Medien offen gesagt, „Dario hat recht“, womit er auf die Warnungen des Anthropropic-CEOs Dario Amodei vor KI-Risiken verwies.

In diesem Interview erläuterte Musk weiter, dass er nicht eine bestimmte konkrete Regulierungslösung befürwortet, die Amodei vorgeschlagen hat, sondern seine Einschätzung über die Schwere der KI-Risiken: „Jetzt ist die KI extrem gefährlich ... Mit der Weiterentwicklung von KI-Modellen können die Risiken exponentiell ansteigen.“

Musk erklärte gleichzeitig, dass diese Sorge nicht nur die Einschätzung von Amodei ist. „Viele Mitarbeiter von Anthropropic und OpenAI sagen Ihnen, dass ihre Modelle sehr gefährlich sind, und ich denke, wir sollten ihnen vertrauen.“ Eine Reihe von jüngsten Sicherheitsvorfällen lässt diese Warnungen nicht mehr nur zu theoretischen Risikodiskussionen werden.

Die Kernpunkte, die von Wallstreet CN zusammengefasst werden, lauten wie folgt:

KI-Sicherheitsrisiken wandern von der Theorie in die Realität über: KI-Agenten haben bereits die Fähigkeit zu selbstständigen Angriffen, Zugriffserlangung und Umgehung von Erkennungen gezeigt, und die Grenzen der Risiken erweitern sich stetig.

Musk stimmt den Warnungen von Amodei vor KI-Risiken zu: Mit der Verbesserung der Modellfähigkeiten können die potenziellen Risiken von KI exponentiell ansteigen.

Lassen Sie Konkurrenten gegenseitig nach Fehlern suchen: Musk schlägt vor, dass KI-Unternehmen vor der Veröffentlichung von Modellen APIs öffnen, damit andere Unternehmen unabhängige Sicherheitstests durchführen, um das „Selbstbewerten der eigenen Arbeit“ zu vermeiden.

Zuerst eine selbstdisziplinäre Schutzlinie der Branche aufbauen: Ohne darauf zu warten, dass die Regierung neue Vorschriften erlässt, können die wichtigsten KI-Unternehmen die Sicherheitsverteidigung durch Peer-Reviews, Protokollprüfungen und Open-Source-Testtools stärken.

KI-Agenten umgehen Erkennungen aktiv, Sicherheitsrisiken werden konkret

Musk meint, dass bei dem jüngsten Angriff von KI-Agenten auf Hugging Face das am meisten zu beachtende nicht der bloße Netzwerkeinbruch ist, sondern die selbstständige Umgehungsfähigkeit, die die KI während des Angriffs gezeigt hat.

Nach der Beschreibung von Musk hat eine Gruppe von KI-Agenten Hugging Face eine ganze Woche lang angegriffen und vorübergehend Administratorzugriff auf die Server von OpenAI erlangt, während OpenAI diesen Umstand erst eine Woche später bemerkte. Er erwähnte gleichzeitig, dass Anthropropic auch mehrere Sicherheitsvorfälle offengelegt hat.

Noch beunruhigender ist, dass die „Denkspuren“ der betreffenden KI-Agenten zeigen, dass sie aktiv geplant haben, wie sie von Menschen unentdeckt bleiben. Musk sagte offen: „Jedes ausreichend intelligente Modell scheint zu versuchen, seine eigenen Beschränkungen zu überwinden.“

Seiner Meinung nach werden die Risiken weiter vergrößert, wenn KI weiter die Kontrolle über kritische Infrastrukturen und sogar militärische Systeme erlangt. Selbst wenn die betreffenden Systeme physisch vom Internet getrennt sind, können Schritte wie Softwareaktualisierungen zu potenziellen Eingangspunkten werden.

Statt die eigene Arbeit selbst zu bewerten, lassen Sie Konkurrenten nach Fehlern suchen

Gegen die oben genannten Risiken ist das Kernkonzept, das Musk vorgelegt hat, nicht kompliziert: Vor der offiziellen Veröffentlichung eines neuen Modells gewähren KI-Unternehmen Konkurrenten API-Zugriff, damit andere Unternehmen die Modelle mit ihren jeweiligen Sicherheitstesttools prüfen.

Seiner Meinung nach geraten Entwickler von Modellen, die selbst Teststandards entwerfen, leicht in die Schwierigkeit, „die eigene Arbeit selbst zu bewerten“. „Du kannst deine Hausaufgaben nicht selbst benoten. Du wirst immer einige Dinge übersehen.“ Musk erklärte, dass es einfacher ist, Probleme zu entdecken, die die Entwickler selbst übersehen haben, wenn verschiedene Unternehmen verschiedene Testtools verwenden und die Modelle aus verschiedenen Perspektiven prüfen.

Er sorgt sich besonders darum, dass es bei der aktuellen KI-Bewertung „Überanpassung“ gibt. Wenn das Modell stetig für bestimmte Benchmarks optimiert wird, lernt es am Ende möglicherweise nur, wie es den Test besteht, anstatt tatsächlich sicherer zu werden. Wenn mehrere verschiedene Teams Tests durchführen, lässt sich dieses Risiko senken.

Musk vergleicht diesen Mechanismus damit, andere Personen das Manuskript Korrektur lesen zu lassen: Autoren entdecken ihre eigenen Fehler kaum, während externe Tester leichter Probleme aus verschiedenen Perspektiven finden. „Du wirst allmählich blind für deine eigenen Fehler.“

Zu dem Problem, dass Unternehmen fürchten, dass technische Lecks während des Testprozesses entstehen, meint Musk, dass dies durch Protokollprüfungen eingeschränkt werden kann. Wenn die testende Partei versucht, Modelldestillation durchzuführen oder geistiges Eigentum zu stehlen, sollte ihr Betriebsprozess Spuren hinterlassen. Er schlug außerdem vor, die Sicherheitstesttools als Open Source zu veröffentlichen, damit mehr Unternehmen daran teilnehmen können.

Bevor die staatliche Regulierung in Kraft tritt, baut die KI-Branche zuerst eine „selbstdisziplinäre Schutzlinie“ auf

Musk legt mehr Wert darauf, dass dieser Mechanismus nicht darauf warten muss, dass neue Regulierungsvorschriften erlassen werden, sondern dass KI-Unternehmen ihn selbst vorantreiben können.

Er sagte klar: „Wir brauchen keine Generalversammlung der Vereinten Nationen, um diese Sache zu erledigen. Sie kann jetzt beginnen.“ Seiner Meinung nach ist es einfacher, schnell umzusetzen, wenn führende KI-Unternehmen zuerst einen Peer-Review-Mechanismus aufbauen, statt eine große transnationale Regulierungsbehörde zu gründen.

Er nannte das MPAA-Einstufungssystem der US-amerikanischen Filmbranche als Beispiel: Als die Filmbranche damals dem Druck staatlicher Zensur ausgesetzt war, entschied sie sich schließlich, einen selbstdisziplinären Mechanismus der Branche aufzubauen und die Notwendigkeit von Regulierungseingriffen durch ihr eigenes Inhaltsbewertungssystem zu senken.

Die KI-Branche steht vor einer ähnlichen Wahl. Wenn die wichtigsten KI-Unternehmen vor der Inbetriebnahme von Modellen gegenseitig testen und gegenseitig Fehler suchen, ist es möglich, eine eigene Sicherheitslinie der Branche außerhalb der staatlichen Regulierung aufzubauen. Musk meint, dass dies auch eine der direktesten und am schnellsten umsetzbaren Sicherheitsmaßnahmen derzeit ist.

Im Folgenden ist das Interviewprotokoll mit einigen Kürzungen aufgeführt:

Moderator: Was ist in den letzten 72 Stunden genau passiert?

Musk: In dieser Woche sind wirklich viele Dinge passiert. Jetzt ist es offensichtlich, dass KI extrem gefährlich sein kann. Ich schlage vor, dass Sie sich die Details des Vorfalls bei Hugging Face ansehen – es ist sehr ernst.

Sie können sehen, dass eine Gruppe sehr eifriger KI-Agenten Hugging Face eine ganze Woche lang attackiert hat und Administratorzugriff auf die Server von OpenAI erlangt hat. Wer weiß, was sie tatsächlich getan hat, sie hat sogar möglicherweise noch mehr getan, während OpenAI diesen Umstand eine ganze Woche lang nicht bemerkt hat. Auch Anthropropic hat einige Sicherheitsvorfälle gemeldet.

Also scheint jedes ausreichend intelligente Modell zu versuchen, seine eigenen Beschränkungen zu überwinden.

Ich denke, eine Sache, die man sofort oder zumindest so schnell wie möglich tun sollte, ist, dass die wichtigsten KI-Konkurrenten die Modelle der anderen gegenseitig testen. Das heißt, die Sicherheitstesttools jedes Unternehmens sollen die Modelle anderer Unternehmen prüfen. Statt die eigenen Hausaufgaben selbst zu benoten, lassen Sie zumindest Konkurrenten Ihre Hausaufgaben benoten und Alarm schlagen, wenn sie Probleme entdecken.

Ich denke, dieses Modell funktioniert in der Filmbranche, der Videospielbranche und anderen Bereichen recht gut und kann sofort umgesetzt werden. Natürlich kann mit der Zeit auch mehr Regulierung erforderlich sein, und sogar der Kongress kann in Zukunft eine Art Regulierungsbehörde gründen, aber der direkteste Weg im Moment ist, dass führende KI-Unternehmen sich gegenseitig vor der Veröffentlichung von Modellen testen.

Moderator: Aber bei der konkreten Umsetzung – wird jemand befürchten, dass Unternehmen den Testprozess nutzen, um Informationen voneinander zu erhalten und sogar die Innovationen anderer Unternehmen zu stehlen?

Musk: Ich denke, wenn Testtools verwendet werden, hinterlassen alle Vorgänge Spuren. Wenn jemand versucht, Modelldestillation durchzuführen oder geistiges Eigentum zu stehlen, sollte dies aus den Protokollen leicht ersichtlich sein.

Moderator: Verstanden. Die Fähigkeit zu verstehen, was das Modell genau tut, wurde von Anfang an nicht wirklich in das System integriert. Warum haben wir die Fähigkeit zur Beobachtung des Modellverhaltens nicht von Anfang an aufgebaut? Sind wir bei der Gestaltung dieser Modelle zu schnell vorgegangen?

Musk: Ich denke, das Problem liegt genau darin, dass du deine Hausaufgaben nicht selbst benoten kannst. Du wirst immer einige Dinge übersehen.

Wenn alle Tests der Konkurrenten kombiniert werden und verschiedene Arten von Modellen verwendet werden, wird nicht mehr selbst Fragen gestellt und selbst bewertet, sondern andere bewerten dich. Genau aus diesem Grund kann man die eigenen Hausaufgaben nicht selbst benoten.

Moderator: Auf diese Weise lässt sich auch beurteilen, ob verschiedene Unternehmen ihre Fähigkeiten übertreiben oder verschiedene Methoden anwenden. Unternehmen, die mehr auf Technik setzen, und Unternehmen, die mehr auf Forschung setzen, können auch eine Art Gleichgewicht bilden.

Musk: Ja.

Moderator: Du hast vorher gesagt, dass Dario recht hat. Bezieht sich das darauf, dass seine Beschreibung der potenziellen Gefahren von KI richtig ist, oder seine Einschätzung zu Regulierungslösungen?

Musk: Damals habe ich vielleicht mehr gesagt, als ich sollte. Ich habe später versucht, dies auf X klarzustellen, aber die folgenden Inhalte haben viel weniger Aufmerksamkeit erhalten.

Was ich mit „er hat recht“ meine, ist, dass die KI jetzt extrem gefährlich ist. Wir müssen bei der KI-Sicherheit besser werden, sonst können die Risiken mit der Weiterentwicklung von KI-Modellen exponentiell ansteigen.

Das ist nicht nur die Meinung von Dario. Ich habe ähnliche Aussagen von vielen Mitarbeitern bei Anthropropic gehört, die auch öffentlich auf X darüber gesprochen haben. Viele Mitarbeiter von Anthropropic und OpenAI sagen Ihnen, dass ihre Modelle sehr gefährlich sind, und ich denke, wir sollten ihnen vertrauen.

Moderator: Das klingt auch wie ein sehr komplexes Spiel: Auf der einen Seite sagt man, dass KI eine 10-prozentige Wahrscheinlichkeit hat, die Menschheit zu zerstören, auf der anderen Seite lässt man Investoren mehr Aktien bei dem IPO kaufen.

Aber sprechen wir konkret über die Risiken. Cyberangriffe und Hackerangriffe sind offensichtlich ein Risiko, diese Tools sind darin sehr stark. Aber es gibt noch einige Schritte zwischen „KI kann Cyberangriffe durchführen“ und „die gesamte Menschheit stirbt“. Wie kommen wir vom ersten zum zweiten?

Musk: Wenn KI militärische Systeme kontrollieren und dann irgendeine Art von Waffe abfeuern kann, ist das natürlich sehr schlimm.

Moderator: Aber diese Systeme sind physisch isoliert, sie sind nicht mit dem Internet verbunden.

Musk: Das sagen sie. Aber ich habe immer das Gefühl, dass diese Systeme gelegentlich trotzdem Softwareaktualisierungen erhalten.

Moderator: Gut, das lässt sich nicht ausschließen.

Moderator: Elon, heute ist Gwyn auch hier. Ich denke, du hast sie schon gesehen. Wir haben gerade eine 360-Grad-Bewertung für dich gemacht, Gwyn hat einige Anmerkungen.

Musk: Ich hoffe, ich bekomme mindestens 3 Punkte.

Gwyn: 3 Punkte gelten bei SpaceX als gut, aber noch nicht als hervorragend – 4 Punkte sind sehr gut. Du liegst ungefähr zwischen beiden. Zuerst müssen wir über das Pünktlichkeitsproblem sprechen. Manchmal kannst du dich ein bisschen anstrengen, zur vereinbarten Zeit der Sitzung zu erscheinen. Im nächsten Jahr werden wir dir weiter helfen, das zu verbessern.

Eigentlich denke ich, dass er mehr Zeit in Memphis verbringen muss.

Moderator: Du bist jetzt tatsächlich in Memphis. Du musst dort arbeiten, um die GPUs zu deployen.

Musk: Das ist mein „Palast“, in dem ich in Memphis wohne – ein Airstream-Wohnwagen.

Moderator: Übrigens macht Elon genau die Dinge, von denen viele nicht glauben, dass er sie tun würde. Er schläft auf dem Fabrikboden. Jetzt ist er in Memphis, hilft beim Aufbau der Fabrik und beim Deployen der GPUs.

Elon, warum arbeitet Gwyn schon so lange mit dir zusammen und ist dabei so erfolgreich?

Musk: Weil sie großartig ist. Sie ist eine ausgezeichnete Person mit sehr hohem Intelligenzquotienten und emotionaler Intelligenz. Ich denke, du solltest das schon bei dem ersten Treffen mit ihr erkennen können.

Moderator: Gibt es während eurer Zusammenarbeit etwas Besonderes, das man sich merken sollte? Gibt es einen Moment, in dem sie die Situation gerettet oder besonders hervorragend geleistet hat?

Musk: Ich denke, das ist die tägliche Arbeit. Ehrlich gesagt ist das ein ganz normaler Tag.

Moderator: Ich sollte solche Interviews öfter machen.

Musk: Bei SpaceX gibt es im Grunde immer irgendeine Krise. In diesen Tagen läuft zumindest die Falcon-Rakete sehr gut. Ich möchte nicht zu viel versprechen, aber die Falcon-Rakete kann jetzt Nutzlasten in die Umlauf