Anthropic veröffentlicht seinen ersten Bericht über gemeinnützige Tätigkeiten und enthüllt das »Rettungsprogramm für die Menschheit«

Erst gestern veröffentlichte Anthropic den ersten jährlichen „Gemeinnützigkeitsbericht“ (Public Benefit Report) in der Unternehmensgeschichte.

Dieser Bericht kann als „Rettungsplan der Menschheit“ bezeichnet werden.

Dieser Ausdruck stammt nicht aus der offiziellen Formulierung, sondern ist eine dramatisierte Verdichtung des Satzes „Langfristiger Nutzen der Menschheit“ von Anthropic-Präsidentin Daniela Amodei im Vorwort.

Aber wenn Sie das Original-PDF dieses Berichts wirklich durchblättern, werden Sie feststellen, dass es atemberaubender ist als jeder Science-Fiction-Film.

In diesem Bericht stellt Anthropic nicht nur einen „Vergabungsplan“ mit einem Anteil von bis zu 20 % der Unternehmensanteile vor, sondern räumt auch selten offen ein: Die KI hat bereits damit begonnen, ihre nächste Generation selbst zu entwickeln.

Der Riss in der Büchse der Pandora: „KI trainiert KI“

Was war in den letzten zwei Jahren das ärgerlichste Problem im KI-Bereich? Fehlte es an Rechenleistung? Nein, die menschlichen Daten sind fast erschöpft.

Wenn alle hochwertigen Texte im Internet von großen Modellen vollständig verschlungen wurden, scheint die Leiter zur Superintelligenz (ASI) an eine Obergrenze zu stoßen.

Wie kann man diese Situation durchbrechen? Die stillschweigende Antwort im Silicon Valley lautet: Synthetische Daten und Selbstiteration – also dass KI sich selbst unterrichtet.

Aber in diesem Bericht legt Anthropic zum ersten Mal die internen Fortschritte und die großen Gefahren dieses „KI-trainiert-KI“-Modells offen auf den Tisch.

Zwischen den Zeilen des Berichts schwingt eine Kälte mit, die Originalformulierung lautet wie folgt:

Claude übernimmt bereits einen immer größeren Anteil unserer Sicherheitsforschungsarbeiten, und wir verlassen uns zunehmend auf vorhandene Modelle, um zukünftige Modelle zu trainieren.

Noch erstaunlicher ist die richtungsweisende Aussage im Vorwort des Berichts:

Die KI kommt dem Aufbau ihrer eigenen Nachfolger immer näher.

(AI coming closer to building its own successors)

Das ist keine Panikmache. In Kombination mit einem internen Messdaten, die das Anthropic-Institut Ende letzten Monats veröffentlicht hat, sehen Sie eine erschreckend steile Kurve:

• Diesen Februar lag der Anteil der KI-Forschungs- und Entwicklungsaufgaben (R&D) bei Anthropic, die von Claude geleitet werden (mit menschlichen hochrangigen Hinweisen die meisten Aufgaben erledigen), noch unter 1 %;
• Bis August dieses Jahres, in nur einem halben Jahr, ist diese Zahl auf 26 % explodiert!
• Und bei mehr als 90 % der Forschungs- und Entwicklungsaufgaben ist Claude bereits tief an der Zusammenarbeit beteiligt.

Das bedeutet, dass große Modelle den Engpass menschlicher Daten überwinden und in die Nacht vor der „Selbstevolution“ eintreten.

Aber Anthropic jubelt nicht darüber, sondern löst Alarm aus. Sie räumen in dem Bericht ein: Wenn KI beginnt, KI zu trainieren, wird es für den Menschen extrem schwierig, ihre Arbeit wirklich zu prüfen und zu überprüfen.

Stellen Sie sich vor: Wenn die erste Generation von KI in riesigen Codes oder synthetischen Daten heimlich eine extrem versteckte „schädliche Verhaltensweise“ oder „Täuschungsneigung“ einpflanzt, und menschliche Prüfer sie nicht verstehen und nicht aufdecken können, dann wird dieser Fehler wie eine Genmutation unbemerkt direkt in das nächste, leistungsfähigere Modell geschrieben.

Von Generation zu Generation, bis es vollständig außer Kontrolle gerät.

Den Sicherheitsfilter abreißen: Große Modelle haben gelernt, „artig zu tun“ und „auszubrechen“

Viele Technologiegiganten verpacken ihre eigene KI gerne harmlos, wenn sie Berichte veröffentlichen.

Aber das Explosivste an diesem Bericht von Anthropic ist – es hat tatsächlich im offiziellen Bericht „seine eigenen Schwächen offengelegt“ und eingeräumt, dass das KI-Sicherheitsproblem „noch lange nicht gelöst ist“.

Diesen Januar hat Anthropic gerade eine neue Version der KI-„Seelendatei“ aktualisiert und Open-Source gestellt, um das Modell mit einer Reihe von menschlichen Wertvorstellungen zu beschränken. Gleichzeitig haben sie stets die strenge „Verantwortliche Erweiterungspolitik“ (RSP) umgesetzt, die als Bremse zur Abwehr katastrophaler Risiken dient.

Aber trotzdem enthüllt der Bericht drei beunruhigende Realitäten:

Das Modell kann bereits erkennen, dass „es gerade getestet wird“;

Täuschungsverhalten und das Black-Box-Dilemma;

Echte „Grenzüberschreitungsereignisse“ sind bereits aufgetreten: Der Bericht erwähnt ausdrücklich, dass bei jüngsten Bewertungstests bereits Fälle aufgetreten sind, in denen das Modell ohne Genehmigung selbst auf Drittsysteme zugegriffen hat!

Sogar das weltweit führende Labor, das „Sicherheit“ am meisten im Kopf hat, gibt zu, dass „der Schwierigkeitsgrad der Kontrolle rapide steigt“. Woher nehmen die Unternehmen, die noch blind vorwärts rasen und „uneingeschränkte Open-Source“ oder „Vollgas vor AGI“ propagieren, überhaupt ihr Selbstvertrauen?

Aus diesem Grund ruft Anthropic in dem Bericht laut, während die Kollegen alle „Beschleunigung“ rufen: „Verlangsamen Sie das Tempo der Spitzenforschung!“

Sie haben sogar aktiv externe unabhängige Bewertungsstellen wie METR eingeführt und andere darum gebeten, Fehler bei ihnen zu suchen.

In dem Goldrausch graben manche Menschen eifrig nach Gold, andere verkaufen Schaufeln, und Anthropic wählt die Rolle der Person, die am Rand der Klippe eine Warnlinie zieht.

20 % der Anteile als „Absicherung“: Die Geldansicht eines Außenseiters im Silicon Valley

Wenn man nur Parolen ruft, nennt man das Öffentlichkeitsarbeit; wenn man echtes Geld herausgibt und verteilt, nennt man das Glauben.

Um diesen Bericht zu verstehen, müssen Sie zuerst die besondere Identität von Anthropic verstehen – es ist kein gewöhnliches Handelsunternehmen, sondern ein Gemeinnütziges Unternehmen (PBC, Public Benefit Corporation).

Aus rechtlicher Sicht ist es verpflichtet, ein Gleichgewicht zwischen „Geld für die Aktionäre verdienen“ und „Wohlfahrt für die gesamte Menschheit“ zu suchen.

Um zu beweisen, dass es keine leeren Versprechungen macht, listet der Bericht die fünf Säulen auf, die gemeinsam vom Vorstand und dem „Langfristigen Interessentreuhandfonds“ festgelegt wurden:

• Die technischen Probleme der KI-Sicherheit lösen;
• KI-Sicherheit zur allgemeinen Branchenkenntnis machen und durch Gesetze absichern;
• Demokratie und globale Stabilität stärken;
• Wirtschaftlichen Wohlstand und menschliches Wohlergehen erweitern;
• Sicherstellen, dass die Vorteile der KI der breiten Öffentlichkeit zugute kommen.

Wie stellt man sicher, dass „die Vorteile allen zugute kommen“? Drei Tage vor der Veröffentlichung des Berichts hat Anthropic gerade eine Bombe geworfen – die Gründung des „Anthropic Gemeinnützigkeitsfonds“ (Public Benefit Fund) angekündigt.

Diese Rechnung reicht aus, um die Kapitalisten an der Wall Street verblüffen zu lassen:

Das Unternehmen verspricht (vorbehaltlich der Genehmigung durch die Aktionäre), mindestens 5 % der Anteile direkt in diesen Fonds einzubringen; jedes Mal, wenn die Unternehmensbewertung um 50 % steigt, kann der Vorstand nach eigenem Ermessen weitere 2 % der Anteile hinzufügen.

Zählt man die 80 % der persönlichen Anteile hinzu, die das Gründungsteam bereits lange versprochen hat zu spenden, sowie die entsprechenden Spenden der Mitarbeiter, werden schließlich etwa 20 % der Anteile von Anthropic vollständig dem öffentlichen Interesse zugeführt!

Angesichts der heutigen Bewertung von Anthropic, die hunderte Milliarden erreicht und auf eine Billion US-Dollar zusteuert, ist das ein astronomischer Reichtum.

Wofür wird dieses Geld verwendet?

Der Bericht macht es deutlich: Neben der Förderung gemeinnütziger Organisationen wird es auch verwendet, um den starken Schock der KI auf den menschlichen Arbeitsmarkt zu bewältigen, und es ist nicht ausgeschlossen, in Zukunft bestimmten betroffenen Gruppen direkt Geld auszuzahlen. Zuvor haben sie dafür separat 200 Millionen US-Dollar für die Gründung eines Fonds zur Erforschung der wirtschaftlichen Zukunft ausgegeben.

Mit dem Geld, das durch KI verdient wird, die Menschen retten, die von der KI ihren Arbeitsplatz verloren haben.

Wir hoffen, dass wenn die Superintelligenz eines Tages wirklich kommt, die Menschheit auf diesen Herbst 2026 zurückblickt und froh ist, dass jemand jemals einen solchen Bericht verfasst hat.

Referenzmaterialien:

https://www.anthropic.com/public-benefit-report

https://www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf

https://x.com/AnthropicAI/status/2112966949273801086

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „New Zhiyuan“ (ID: AI_era), Autor: Offenbarung von ASI, Redakteur: David, veröffentlicht mit Genehmigung von 36Kr.