Eine große Überraschung! Der CEO von Anthropic wurde gesperrt, weil er sich weigerte, eine Sicherheitslücke zu schließen. Derjenige, der das neue Modell Claude gemeldet hat, ist der eigene Großaktionär des Unternehmens.

Zhidx berichtete am 14. Juni. In der Nacht von gestern meldeten mehrere ausländische Medien, dass der Auslöser für die Entscheidung von Anthropic, den Zugang zu den Modellen Fable 5 und Mythos 5 zu beenden, möglicherweise Amazon-CEO Andy Jassy ist.

Der Wall Street Journal berichtete, dass Amazon-Forscher bei der Forschung mit Anthropics Claude Fable 5 Informationen gewonnen haben, die für Cyberangriffe genutzt werden können. Anschließend hat die US-Regierung ein Exportkontrollverbot für Fable 5 und Mythos 5 verhängt.

David Sacks, der ehemalige AI-Beauftragte von Trump und derzeitige Mitvorsitzender des Präsidentenbeirates für Wissenschaft und Technologie, hat auf der sozialen Plattform X einige Details über das Verbot der US-Regierung preisgegeben. Er erwähnte, dass die US-Regierung von Anthropic verlangt hat, die Sicherheitslücke zu beheben, sonst würde das Modell vom Markt genommen werden. Aber Anthropic-CEO Dario Amodei hat die Behebung abgelehnt und in einer späteren Ankündigung behauptet, dass die Lücke nicht schwerwiegend sei und auch Modelle anderer Unternehmen ähnliche Probleme hätten.

Sacks ist der Meinung, dass diese Risikoverleichtung im Widerspruch zu Anthropics Selbstpräsentation als sicheres AI-Unternehmen steht. Er gab auch bekannt, dass die US-Regierung hofft, dass Anthropic die Sicherheitsfrage so bald wie möglich löst, um die Exportkontrollen aufzuheben und das Fable 5-Modell erneut zu veröffentlichen.

Um die Rechte und Interessen der Benutzer auszugleichen, hat Anthropic einen Rückerstattungsmechanismus eingerichtet. Einige Nutzer haben die E-Mails über die Rückerstattung von Claude veröffentlicht. In den E-Mails heißt es, dass Anthropic den Zugang zum Claude Fable 5-Modell geschlossen hat; alle anderen Modelle wie Opus, Sonnet und Haiku können normal verwendet werden; die Nutzungsquoten der Benutzer wurden zurückgesetzt.

Wenn die Benutzer der Meinung sind, dass diese Anpassung nicht ihren Bedürfnissen entspricht, können sie die Abonnements kündigen und automatisch eine Rückerstattung entsprechend der verbleibenden Laufzeit erhalten. Die Rückerstattung ist bis zum 20. Juni Ortszeit möglich. Diese Rückerstattung ist nicht über die mobile Claude-App möglich.

▲ Rückerstattungs-E-Mail, die ein Nutzer erhalten hat (Quelle: X)

01 . 

Claude startet Rückerstattungen 

Nutzer: Kehrtwende nicht mehr möglich 

Viele Nutzer haben erwähnt, dass das von Anthropic für das Verbot von Fable 5 eilig eingeführte Rückerstattungssystem viele Fehler hat. Ein Nutzer sagte, dass Anthropic alle Abonnements eines Benutzers direkt beendet hat. Seine Abonnementrechte mit fünffacher Laufzeit, die bis zum 19. Juni gültig waren, sind einfach weg, was absurd ist.

Einige Nutzer haben direkt behauptet, dass Claude schon überholt ist und keine Kehrtwende mehr möglich ist.

Einige Nutzer haben analysiert, dass Anthropics Rückerstattungsaktion auch beweist, dass Fable 5 nicht bald wieder verfügbar sein wird.

Einige Nutzer haben angekündigt, ihr Abonnement zu kündigen und auf die neue Version von ChatGPT zu warten.

02 . 

US-Regierung: Anthropic verschleiert die Probleme 

Schwächt Sicherheitslücken des neuen Modells 

Ein Sprecher von Amazon sagte The Information, dass es für die US-Regierung als führender Anbieter von Cloud-Diensten, der eine Vielzahl von privaten und öffentlichen Kunden bedient, nicht ungewöhnlich ist, Amazon um Meinung zu potenziellen Sicherheitsrisiken zu fragen. Selbst wenn solche Gespräche geführt werden, werden die konkreten Inhalte nicht preisgegeben.

Der Sprecher gab auch bekannt, dass Amazon Web Services von Anthropics Modellverbot betroffen ist. Am Morgen des 13. Juni hat Amazon Web Services den Zugang zu Fable 5 und Mythos 5 in allen Regionen aufgehoben.

The Information zitierte eine Quelle, dass nach Gesprächen mit Jassy und anderen Führungskräften der Technologiebranche der US-Netzsicherheitsbeauftragte Sean Cairncross am Freitag eine Sitzung mit hohen Regierungsbeamten einberief. Bei dieser Sitzung wurde beschlossen, dass die Exportkontrollen das direkteste Mittel sind, um gegen Anthropic vorzugehen.

Nach dieser Sitzung hatte Anthropic-CEO Dario Amodei einen Telefonat mit US-Regierungsbeamten. Bei diesem Gespräch erklärte Anthropic, dass die Sicherheitsrisiken, die durch die sogenannte Jailbreak-Lücke aufgedeckt wurden, nicht sehr hoch seien und dass auch andere große Modelle ähnliche Probleme haben könnten. Aber die US-Regierung teilte Anthropic mit, dass die Entscheidung für die Exportkontrollen gefallen sei.

David Sacks, der ehemalige AI-Beauftragte von Trump und derzeitige Mitvorsitzender des Präsidentenbeirates für Wissenschaft und Technologie, hat auf der sozialen Plattform X einige Details preisgegeben.

Er sagte, dass ein zuverlässiger Partner, der sowohl von Anthropic als auch von der US-Regierung sehr vertraut wird, eine Jailbreak-Lücke in einem Modell entdeckt habe. Und als die US-Regierung von Amodei verlangte, diese Lücke zu beheben, sonst würde das Modell vom Markt genommen werden, hat Amodei die Behebung abgelehnt.

Sacks erwähnte auch, dass Anthropic in seinem offiziellen Blog behauptet habe, die Jailbreak-Lücke sei nicht schwerwiegend. Aber der zuverlässige Partner und die US-Regierung stimmen dieser Aussage nicht zu. Diese Risikoverleichtung steht im Widerspruch zu Anthropics Selbstpräsentation als sicheres AI-Unternehmen. Derzeit hofft die US-Regierung, dass Anthropic die Sicherheitsfrage so bald wie möglich löst, um die Exportkontrollen aufzuheben und das Fable 5-Modell erneut zu veröffentlichen.

Außerdem wurde in Anthropics Blogbeitrag über das Modellverbot erwähnt, dass auch andere öffentliche Modelle ähnliche Lücken aufweisen. Aber ein Beamter in der Nähe der US-Regierung sagte The Information, dass es unwahrscheinlich ist, dass die US-Regierung die Exportbeschränkungen für Anthropics fortschrittliche Modelle auf andere AI-Unternehmen ausdehnt.

Amazon ist der Hauptinvestor von Anthropic. Amazon hat im April dieses Jahres bekannt gegeben, dass es seit 2023 13 Milliarden US-Dollar (etwa 87,9 Milliarden Yuan) in Anthropic investiert hat und in Zukunft noch 20 Milliarden US-Dollar (etwa 135,3 Milliarden Yuan) investieren will. Amazons Trainium-Chips helfen bei der Trainierung und dem Betrieb von Anthropics großen Modellen, die auch auf Amazon Web Services laufen.

Es ist erwähnenswert, dass Amazon auch in diesem Jahr in OpenAI, Anthropics Hauptkonkurrent, investiert hat und bis zu 50 Milliarden US-Dollar in das Unternehmen stecken will. Darüber hinaus hat Amazon erstmals OpenAIs neuestes Modell in Amazon Web Services integriert und es für den Verkauf zugänglich gemacht.

Hintergrund für das Verbot der US-Regierung von Anthropics Modellen ist auch, dass die US-Regierung vor zwei Wochen ein Dekret erlassen hat, das ein freiwilliges Compliance-System einführt: AI-Unternehmen können ihre Modelle vor der Veröffentlichung für Partner und die Öffentlichkeit der Regierung zur Prüfung vorlegen. Dies liegt daran, dass in der US-Regierung über die Einführung eines strengeren Genehmigungssystems für AI-Unternehmen, die hochwertige große Modelle einführen wollen, diskutiert wurde. Das Dekret ist das Ergebnis dieses Diskussionsprozesses.

03 . 

Fazit: Anthropics stärkstes Modell wird geschlossen 

Wird die Branchensicherheitsgrenze erhöht? 

Am 10. Juni hat Anthropic die beiden Modelle Claude Fable 5 und Mythos 5 offiziell veröffentlicht. Sie gehören beide zur Mythos-Klasse, teilen sich dasselbe zugrunde liegende Modell und haben eine höhere Leistung als die Opus-Klasse. Dies ist auch die stärkste und leistungsfähigste Klasse von Modellen, die Anthropic bisher entwickelt hat.

Bei der Veröffentlichung hat Anthropic bewusst ein System mit gradueller Öffnung und eingebauter Sicherheitsrouting implementiert, um die starke Leistung und das Risikomanagement auszugleichen. Aber es konnte den Kettenreaktionen, die durch die verborgenen Sicherheitslücken verursacht wurden, nicht standhalten. Innerhalb weniger Tage mussten die beiden Flaggschiffmodelle geschlossen werden. Dies könnte bedeuten, dass in Zukunft vor der Veröffentlichung neuer Modelle Sicherheitsüberprüfungen durch unabhängige dritte Parteien (Red Team) möglicherweise eine obligatorische Voraussetzung werden.

Dieser Artikel stammt aus dem WeChat-Account „Zhidx“ (ID: zhidxcom), Autor: Cheng Qian. Veröffentlicht von 36Kr mit Genehmigung.