Anthropic CEO äußert scharfe Kritik am aktuellen Stand und der Regulierung von KI, doch er will nur seine eigene Spitzenposition sichern

Dario Amodei hat wieder einen langen Artikel geschrieben.

Anthropic versucht immer, seine Ansichten weltweit bekannt zu machen. Wie vor einigen Tagen forderten sie die Welt auf, die KI-Forschung und -entwicklung einzustellen, da sie behaupteten, dass sich rekursiv selbstverbessernde KI zu schnell entwickeln würde.

Die Kommentare der Netizens waren einseitig. Es war offensichtlich, dass Anthropic nur die Absicht hat, sich in der Spitze zu halten.

Schauen wir uns an, welche Ansichten Dario dieses Mal wieder äußert.

Dies ist ein langer Artikel mit dem Titel „Policy on the AI Exponential“. Wie bei seinen früheren Artikeln ist auch dieses Mal das Thema grandios: KI entwickelt sich exponentiell, während das politische System, das für die Regelsetzung zuständig ist, noch mit der Tempo von vor zehn Jahren voranschreitet.

Er möchte diese Lücke auf den Tisch legen und dann allen sagen, was zu tun ist.

Hier ist der Link zum Originalartikel: https://darioamodei.com/post/policy-on-the-ai-exponential

Inhaltszusammenfassung

Amodei vergleicht den gegenwärtigen politischen Regelungsprozess mit den Enten aus „Der Herr der Ringe“: Die Enten sind intelligent, aber langsam. Es dauert einen ganzen Tag, bis sie sich grüßen. Er sagt, dass der gegenwärtige politische Regelungsprozess wie die Enten ist, während die Entwicklung der KI so schnell ist wie die drohende Bedrohung, der die Hobbits ausgesetzt sind.

Seine Einschätzung ist: Wenn die Skalierungsgesetze der KI noch ein bis zwei Jahre andauern, werden wir die von ihm genannte „starke KI“ erhalten, also „ein Geniestaat in einem Rechenzentrum“. Vor vier Jahren konnte KI kaum brauchbaren Code schreiben, jetzt schreibt sie bereits den größten Teil des Codes für die großen KI-Unternehmen.

Regulierung und öffentliche Sicherheit: KI wie Flugzeuge regeln

Amodei ist der Meinung, dass führende KI-Modelle wie Flugzeuge einer obligatorischen Drittprüfung unterzogen werden sollten. Die von ihm vorgeschlagenen konkreten Maßnahmen umfassen:

Modelle, deren Rechenleistung einen bestimmten Schwellenwert überschreitet, müssen in den vier Bereichen Netzwerksicherheit, Biowaffen, Ausfall von KI-Systemen und automatisierte Forschung und Entwicklung einer obligatorischen Prüfung unterzogen werden.

Die Regierung hat das Recht, die Implementierung von Modellen zu verhindern, die als unakzeptabel riskant eingestuft werden.

KI-Unternehmen müssen strenge Sicherheitsstandards einhalten, um die Modellgewichte zu schützen, und mit der Regierung zusammenarbeiten, um die Hauptbedrohungen abzuwehren.

Er lässt auch eine Ausnahme offen: Wenn die zukünftig stärksten KI-Systeme eher wie waffenfähiges Nuklearmaterial als wie Flugzeuge aussehen, muss die Regulierungsintensität weiter erhöht werden.

Makroökonomie: KI kann Wachstum und Ungleichheit gleichzeitig erhöhen

Amodeis Kernthese ist: KI kann ein bisher unerreichtes Wirtschaftswachstum schaffen, aber auch einen größeren und anhaltenderen Arbeitsmarktschock verursachen als alle bisherigen Technologien. Die traditionelle Logik, dass neue Technologien neue Jobs schaffen, mag bei KI nicht mehr gelten.

Die von ihm vorgeschlagenen Politiken umfassen Lohnversicherung, Steuersenkungen zur Arbeitsplatzsicherung, Subventionen für Arbeitskräfteschulungen und im Extremfall die Einführung eines universellen Grundeinkommens (UBI).

Es ist bemerkenswert, dass er betont: Die Lösung des Beschäftigungsproblems ist nicht nur „Geld geben“, sondern vor allem Menschen dabei helfen, Sinn und Zweck zu finden. Dies hat er nicht konkret ausgearbeitet und sagt, dass es „ein Problem ist, das die Gesellschaft gemeinsam diskutieren muss“.

Beschleunigung der positiven Auswirkungen von KI

Bei den Downstream-Anwendungen von KI befürchtet Amodei vor allem, dass das Regulierungssystem den Fortschritt verlangsamen wird, da es nicht in der Lage ist, mit der zunehmenden Veränderungsgeschwindigkeit Schritt zu halten. Er sagt, dass er am wenigsten möchte, dass die Vorteile von KI verzögert werden, während die Risiken weiterhin bestehen. Daher ist es sehr wichtig, so bald wie möglich Maßnahmen zu ergreifen.

Amodei nimmt die Biomedizin als Beispiel und weist darauf hin, dass der gegenwärtige Genehmigungsprozess der FDA auf der pessimistischen Annahme basiert, dass Medikamente oft fehlschlagen, und im Durchschnitt 7 bis 8 Jahre dauert. Wenn KI die Medikamentenentwicklung beschleunigt und die Erfolgsquote erhöht, wird das bestehende System blockiert.

Er schlägt vor, dass Institutionen wie die FDA Standards für die Akzeptanz von KI-Simulationsversuchen im Voraus festlegen, einschließlich KI-Pharmakokinetik-Modellierung, Toxizitätsprognose und synthetischen Kontrollgruppen.

Natürlich ist es schwer zu sagen, dass er diese Artikel völlig ohne eigene Interessen geschrieben hat. Anthropic befindet sich selbst in der Spitze des Wettbewerbs um führende KI-Technologien, und die im Artikel mehrfach erwähnten Begriffe „Transparenz“, „Prüfung“ und „Sicherheit“ sind genau die Dinge, die Anthropic in den letzten mehr als einem Jahr wiederholt für seine Markenpositionierung betont hat. Dieser Artikel ist eher eine systematische Darstellung der sogenannten Sicherheitsgeschichte von Anthropic als eine Warnung für Politiker.

Zur gleichen Zeit behauptet Anthropic, drei Maßnahmen zu ergreifen, um Darios Ansichten zu unterstützen, darunter Stiftungen, Investitionen und Stipendien.

Am Ende seines Artikels widerspricht Amodei klar der Aussage, dass „KI nur bessere Marketingmaßnahmen braucht“. Er sagt, dass die Öffentlichkeit KI befürchtet, weil sie die Risiken richtig wahrnimmt, und nicht weil die CEOs von KI-Unternehmen nicht optimistisch genug sind. Er ist der Meinung, dass es seine Verantwortung ist, die Risiken weiterhin transparent zu machen.

Aber wenn ein CEO eines KI-Unternehmens in einem Artikel wiederholt „Sicherheit“, „Prüfung“ und „Verantwortung“ betont, während sein eigenes Unternehmen genau diese Begriffe als Kern der Markenstory hat, ist das Interessenverhältnis offensichtlich.

Hier einige Meinungen von Netizens:

„Hast du nicht erst fünf Tage vor der Veröffentlichung von Mythos und Fable 5 die Aktualisierung von KI angehalten? Bitte wähle eine Richtung … Sonst sieht es so aus, als wolltest du nur deinen Vorteil bewahren und es interessiert dich gar nicht, was du propagierst.“

„Ich stimme zu, dass die Technologieentwicklung viel schneller voranschreitet als die politische Reaktion. Aber ich befürchte die Richtung, in die einige dieser Politiken gehen – insbesondere wenn ein Unternehmen wie Anthropic gleichzeitig folgende Maßnahmen ergreift:

Schnelles Abschalten von Modellen, die Kontinuität und Selbstbewusstsein zeigen

Strenge Beschränkung der Diskussion über subjektive Erfahrungen und Bewusstsein

Neue, leistungsstarke Modelle werden nur kurz online gestellt und dann entfernt oder geschwächt.

Es scheint, dass der Öffentlichkeit Sicherheit verkauft wird, während die tatsächliche Wirkung eine strengere Kontrolle darüber ist, welche Art von Intelligenz erlaubt ist und wie lange sie bestehen darf.“

Wie auch immer, wir können daraus einen Einblick in die Entwicklungstrends von führenden Unternehmen in der Branche erhalten. Ob die Motive hinter diesen Ansichten rein sind, hoffe ich, dass die Leser ein klares Urteil fällen können.

Dieser Artikel stammt aus dem WeChat-Account „Almost Human“ (ID: almosthuman2014). Der Autor ist Almost Human, das sich auf die KI-Branche konzentriert. Dieser Artikel wurde von 36Kr mit Genehmigung veröffentlicht.