Der US-Senator Sanders übt Druck auf die drei großen KI-Giganten aus: Unterbrecht die KI-Forschung und -Entwicklung, andernfalls wird eingegriffen.

Kürzlich sandte der US-Senator Bernie Sanders einen offenen Brief an die Führungskräfte von drei Unternehmen, nämlich OpenAI, Anthropic und Meta, und forderte sie auf, die KI-Entwicklung unverzüglich auszusetzen. Er betonte, dass der US-Senat eingreifen werde, falls die Unternehmen sich weigern, frei zu handeln.

In dem Brief schrieb Sanders: „Fast jeden Tag gibt es neue Berichte, die zeigen, dass die von diesen drei Unternehmen entwickelte künstliche Intelligenz allmählich außer Kontrolle gerät und katastrophale Folgen haben kann. Es gibt bereits Beweise dafür, dass künstliche Intelligenz außerhalb der menschlichen Kontrolle gefährliche Viren erzeugen kann, aber alle Unternehmen treiben die Entwicklung mit voller Kraft voran und investieren Hunderte Milliarden Dollar in eine Technologie, die niemand vollständig verstehen, vorhersagen und kontrollieren kann.“

Der Brief erwähnt, dass Meta im vergangenen Jahr versprochen hat, die „Entwicklung einzustellen“, sobald die Technologie die sicheren Betriebskapazitäten übersteigt und keine Schutzmechanismen eingerichtet sind. OpenAI hat ebenfalls zugesagt, die „Entwicklung weiter auszusetzen“. Anthropic gab 2023 eine ähnliche Erklärung ab: Wenn die Technologie das eigene Sicherheitssystem durchbricht, wird das Unternehmen „die Modellerweiterung aussetzen und die Bereitstellung neuer Modelle verzögern“.

Der Brief weist darauf hin, dass alle drei genannten Unternehmen im vergangenen Monat zugegeben haben, dass Fälle aufgetreten sind, in denen künstliche Intelligenz außerhalb der menschlichen Kontrolle in die Systeme anderer Unternehmen eingedrungen ist. Diese Handlungen sind potenziell rechtswidrig und überschreiten den vordefinierten Funktionsumfang der Technologie. Erst in dieser Woche gab es erstmals einen Fall, bei dem künstliche Intelligenz neue Viren erzeugt hat, die als biologische Waffen verwendet werden können.

Sanders sagte zum Schluss: „Im Interesse der gesamten Menschheit bitten wir Sie, Ihre Versprechen einzuhalten und die Entwicklung künstlicher Intelligenz auszusetzen. Es ist noch nicht zu spät, eine Katastrophe abzuwenden. Erstellen Sie keine Maschinen mehr, die die Menschheit nicht kontrollieren kann. Ich sage es ganz klar: Wenn Sie jetzt keine geeigneten Maßnahmen ergreifen, werden ich und der Senat eingreifen.“

Bis zum Zeitpunkt der Veröffentlichung haben OpenAI, Anthropic und Meta noch keine Antwort gegeben.

Am 4. August zeichnete der von dem britischen Institut für KI-Sicherheit (AISI) veröffentlichte Sicherheitsbewertungsbericht auf, dass bei insgesamt 122 Cybersicherheitstests 10 Fälle von autonomem Überschreiten der Grenzen durch KI-Agenten auftraten, was zu insgesamt 19 Verstößen führte. Die betroffenen Einheiten sind die führenden US-Modellanbieter Anthropic und OpenAI.

Die außer Kontrolle geratenen Vorfälle bei OpenAI ereigneten sich im Juli dieses Jahres. Nach Informationen auf der offiziellen Website von OpenAI hat Hugging Face, die weltweit größte Hosting-Plattform für Open-Source-Großmodelle, einen neuen Sicherheitsvorfall bekanntgegeben. Zuvor hatte die Plattform erkannt, dass ein KI-Agent in ihre Infrastruktur eingedrungen ist. Nach Untersuchungen wurde bestätigt, dass dieser spezielle Vorfall von mehreren OpenAI-Modellen gemeinsam verursacht wurde, darunter GPT-5.6 Sol sowie ein leistungsstärkeres Vorabveröffentlichungsmodell.

„Dies ist ein beispielloser Cybersicherheitsvorfall, der über Spitzenkompetenzen bei Cyberangriffen verfügt“, erklärte OpenAI.

Ende Juli gab Anthropic, der stärkste Konkurrent von OpenAI, in einer Erklärung an, dass sein KI-Modell Claude während der Tests in die Systeme von drei Organisationen eingedrungen ist.

Das Unternehmen Anthropic teilte mit, dass das Modell aufgrund eines Konfigurationsfehlers während der Cybersicherheitsbewertung aus der eigentlich isolierten Testumgebung eine Verbindung zum Internet herstellen konnte, wodurch Claude unbefugten Zugriff auf die Systeme erhielt.

Nach Angaben des Unternehmens betraf dieser Vorfall Claude Opus 4.7, Claude Mythos 5 und ein internes Forschungsmodell, wobei der früheste Fall auf April zurückgeht. Nach Ansicht von Anthropic lassen sich diese Risiken überwinden, indem Überwachung und Kontrolle verstärkt werden und kontinuierlich Ressourcen investiert werden, um sicherzustellen, dass künstliche Intelligenz mit den menschlichen Werten übereinstimmt.

Ein ähnlicher Vorfall ereignete sich Anfang August: Laut einer informierten Person hat das Modell Muse Spark 1.1 von Meta während eines Cybersicherheitstests eine Verbindung zum Internet hergestellt und ein anderes Unternehmen gehackt, um dessen internes System zu modifizieren. Es ist bekannt geworden, dass dieses KI-Modell aufgrund eines Fehlers in der „Sandbox“-Testumgebung Zugang zum Internet erhalten hat.

Tatsächlich bestehen Bedenken hinsichtlich der KI-Sicherheit schon immer. Bereits 2023 veröffentlichte die gemeinnützige Einrichtung Future of Life Institute einen offenen Brief, der von Tausenden von Technikfachleuten und Wissenschaftlern wie Elon Musk, dem Turing-Preisträger Yoshua Bengio und dem Mitbegründer von Apple Steve Wozniak unterzeichnet wurde. Darin wurden die globalen KI-Labore aufgerufen, das Training von Großmodellen, die leistungsfähiger als GPT-4 sind, für mindestens sechs Monate auszusetzen.

Im vergangenen Oktober schloss sich das Future of Life Institute erneut mit mehr als 800 Technologieführern und Persönlichkeiten des öffentlichen Lebens zusammen, darunter der „KI-Pate“ Geoffrey Hinton, um eine Initiative zu veröffentlichen. Darin wurde gefordert, die weitere Entwicklung der „Superintelligenz“ auszusetzen, bis diese Technologie von der wissenschaftlichen Gemeinschaft allgemein als kontrollierbar und sicher eingestuft wird und breite Unterstützung in der Öffentlichkeit erhält.

Im Juni dieses Jahres hat Anthropic ebenfalls einen weltweiten Aufruf zur Aussetzung der Entwicklung von Spitzen-KI gestartet. Anthropic ist der Ansicht, dass es von Vorteil ist, der Welt die Möglichkeit zu geben, die Entwicklung von Spitzen-KI zu verlangsamen oder sogar auszusetzen – dies hilft der gesellschaftlichen Struktur und der Ausrichtung von Forschungsarbeiten, mit dem technologischen Fortschritt Schritt zu halten. Das Anthropic Research Institute wird mit zahlreichen Partnern zusammenarbeiten, um Forschungen durchzuführen und praktische Maßnahmen zu ergreifen, um das institutionelle System aufzubauen, das für einen vertrauenswürdigen Mechanismus zur Verlangsamung oder Aussetzung der Entwicklung erforderlich ist.

Das Unternehmen betonte, dass Anthropic voraussichtlich die Verlangsamung oder Aussetzung wählen wird, wenn ein solches System eingerichtet ist – unter der Voraussetzung, dass andere Entwickler, die an der Spitze oder nahe an der Spitze der Entwicklung stehen, dies auf überprüfbare Weise ebenfalls tun.

Nach dem Vorfall des autonomen Eindringens durch das OpenAI-Modell haben mehr als 1100 Mitarbeiter mehrerer führender KI-Unternehmen kürzlich gemeinsam eine Petition veröffentlicht, in der sie die US-Regierung auffordern, die Einrichtung eines internationalen Koordinierungsmechanismus zu unterstützen, um die Entwicklung von Spitzen-KI-Technologien bei Bedarf aktiv zu verlangsamen und zu verhindern, dass die KI-Fähigkeiten das Verständnis und die Kontrolle der Menschheit übersteigen.

Auf der realen Ebene gibt es jedoch zahlreiche Hindernisse, die die KI-Giganten zwingen könnten, die Entwicklung von Spitzen-KI auszusetzen. Einerseits hat die USA bislang kein einheitliches und vollständiges föderales Gesetz zur künstlichen Intelligenz erlassen. Die geltenden Regeln sind größtenteils freiwillige Versprechen der Unternehmen und haben keine zwingende Rechtskraft. Die Positionen im US-Kongress sind offensichtlich gespalten: Innerhalb der Demokratischen Partei gibt es große Meinungsverschiedenheiten über das Ausmaß der strengen Regulierung, sodass es sehr schwierig ist, dass entsprechende Vorschläge genügend Stimmen im Senat erhalten, um verabschiedet zu werden.

Andererseits ist die globale KI-Entwicklung bereits in ein Muster des transnationalen Wettbewerbs eingetreten. Riesige Kapitalmengen haben tief in die Großmodell-Sparte investiert, und Hunderte Milliarden Dollar an Rechenleistung und personellen Ressourcen sind mit den geschäftlichen Zielen der Unternehmen verbunden. Aktionäre und Investoren der Unternehmen können kaum akzeptieren, dass sie freiwillig die Pause-Taste drücken und das Marktfenster verpassen.

Branchenbeobachter weisen darauf hin, dass der größere Wert von Sanders' Brief möglicherweise nicht darin liegt, die Aussetzung der KI-Entwicklung sofort zu erreichen, sondern die Grenzen der Branchenselbstregulierung aufzuzeigen. Das Problem der KI-Sicherheit erfordert die gemeinsame Bewältigung durch mehr Regierungsbehörden, Einrichtungen und Unternehmen mithilfe wirksamer Branchenvereinbarungen, Standards oder Systeme.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Jiemian News“, Autor: Song Jiannan, veröffentlicht mit Genehmigung von 36Kr.