Ehemaliger Anthropic-Forscher Jacob Coxon: 2027 wird das verrückteste Jahr sein, KI sollte verstaatlicht werden, und die Labore behandeln Superwaffen als gewöhnliches Geschäft

In einem aktuellen Podcast-Interview sprach Jacob Coxon, ehemaliger Forscher bei Anthropic und OpenAI, darüber, warum er am 8. September seinen viralen Kündigungs-Tweet veröffentlichte, sowie über seine Einschätzung zur Zukunft der KI. Die Kernaussagen lassen sich wie folgt zusammenfassen: 2027 wird ein verrücktes Jahr sein, in dem KI-Modelle in der Lage sein werden, eine große Anzahl von Arbeiten zu automatisieren. Es ist beunruhigend, dass Labore Superwaffen wie ein gewöhnliches Geschäft betreiben. Die KI-Technologie sollte verstaatlicht werden, da es gefährlich ist, privaten Unternehmen eine so enorme Macht zu überlassen.

1. Ein einziger Tweet lässt die Welt für einige Tage stillstehen

Am 8. September veröffentlichte Jacob Coxon auf Twitter eine Erklärung, die den Tech-Kreis erschütterte: „Ich habe heute bei Anthropic gekündigt. In den letzten drei Jahren habe ich bei OpenAI und Anthropic an der Vortrainingsforschung gearbeitet. Keines der beiden Unternehmen hat seine gebotene Verantwortung wahrgenommen. Sie wetteifern darum, sich selbst verbessernde Superintelligenz zu entwickeln, und setzen dabei unser Leben aufs Spiel.“

Dieser Tweet erhielt 803.000 Likes und 175 Millionen Aufrufe. Trump veranstaltete im Weißen Haus eine KI-Konferenz, die indirekt von ihm angeregt wurde. Politiker schalteten sich ein, auch Weltführer beteiligten sich.

Der Moderator fragte ihn: Du hast alle deine Aktien verkauft und hast nicht einmal das Recht auf die Zuteilung der Aktien erhalten, denn dein Timing bedeutet, dass das Geld, das du zurücklassen könntest, ebenfalls verloren geht. „Für dich gab es keine andere Wahl.“

2. 2027 wird ein verrücktes Jahr sein

Coxon sagte, dass er zum Zeitpunkt seiner Kündigung eigentlich nur an das nächste und das übernächste Jahr gedacht habe. „Ich glaube, 2027 wird ein verrücktes Jahr sein.“

Er blickte auf die Entwicklung der KI in den Nachrichten zurück: Vor drei Jahren war KI kaum in den Zeitungen zu finden; in diesem Jahr gibt es jeden Monat große Nachrichten über KI; im nächsten Jahr wird es täglich wichtige Nachrichten über KI geben.

„Ich bin nach dem Zweiten Weltkrieg geboren, aber während des Zweiten Weltkriegs überschattete der Begriff des Krieges alles. Er durchdrang alle Aspekte unseres täglichen Lebens. In allen Nachrichtenberichten war der Krieg stets der Hintergrund. Ich glaube, das wird im nächsten Jahr auch im Bereich der KI der Fall sein.“

Was die Fähigkeiten der KI-Modelle betrifft, urteilte Coxon: „Die KI-Modelle im nächsten Jahr werden sehr leistungsfähig sein und auf gewisse Weise sehr viele Arbeiten automatisieren können. Das betrifft die Arbeit aller, aber besonders die Arbeit vieler KI-Forscher.“

Auf die Frage, ob 2027 mit „Chaos“ beschrieben werden könne, antwortete Coxon ohne Zögern: „Absolutes Chaos.“

3. Labore behandeln Superwaffen wie ein gewöhnliches Geschäft

Coxons zentralste Kritik lautet, dass die Labore KI genauso behandeln wie gewöhnliche Unternehmen gewöhnliche Technologien.

„Das Wichtigste ist derzeit, dass die Labore diese Technologie wie eine gewöhnliche Technologie behandeln. Weißt du, das ist Geschäft. Sie haben vielleicht Entwicklerkonferenzen wie die von OpenAI veranstaltet, Produkte mit Nutzern geteilt und auf Twitter gepostet: ‚Oh, ich freue mich sehr, dieses neue Produkt zu veröffentlichen.‘“

„Der Punkt ist, dass dies eine Superwaffe ist. Deshalb werden die Menschen bald erkennen, dass dies keine zufällige geschäftliche Angelegenheit ist. Es handelt sich um eine Superwaffentechnologie, die wirklich verstaatlicht werden sollte.“

Er glaubt, dass das nächste Jahr ungefähr der Zeitpunkt ist, an dem die Menschen dies wirklich erkennen werden – „Das ist eine sehr, sehr ernste Angelegenheit.“

4. Verstaatlichung ist erforderlich: Man würde Zuckerberg keine Atomwaffen besitzen lassen

Als der Moderator nachfragte: „Wenn du von Verstaatlichung sprichst, bedeutet das, dass du der Einmischung der Regierung zur Kontrolle dieser Technologie mehr vertraust als dem freien Markt“, antwortete Coxon klar:

„Ja, ich sage nicht, dass Verstaatlichung nicht nötig ist. Ich meine, diese Angelegenheit ist so ernst, dass ich überrascht bin, dass die Regierung sie noch nicht verstaatlicht hat.“

Er ist verwundert darüber, dass die Regierungen diese Unternehmen beobachten, die Macht erlangen werden. „Diese Technologie ist extrem mächtig. Ich bin sehr überrascht, dass Trump dort sitzen und sagen kann: ‚Ich werde Dario Amodei … Ich werde Sam Altman … Ich habe den Schlüssel.‘ Derart mächtige Technologie ist normalerweise Sache der Regierung. Sie hält den Schlüssel zur Lösung all dieser Probleme in der Hand.“

„Man sollte Mark Zuckerberg keine Atomwaffen besitzen lassen. So etwas passiert normalerweise nicht.“

Coxon zog eine Analogie zwischen KI und Atomwaffen: Atomwaffen können offensichtlich die Welt ins Chaos stürzen, und das gilt auch für KI. „Der Punkt ist: Möchtest du wirklich, dass ein privates Unternehmen diese Entscheidungen trifft? Arbeitslosigkeit, große Ereignisse, vielleicht wenn sie einen Fehler machen, könnten einige Regime in der Welt biologische Waffen herstellen. Das wäre ein totales Chaos. Möchtest du, dass alle diese Entscheidungen von privaten Unternehmen kontrolliert werden?“

5. Private Unternehmen werden zu quasi-staatlichen Einheiten

Coxon wies weiter darauf hin, dass private Unternehmen wie Anthropic sich sogar Sorgen um die Geopolitik machen. „Du trainierst eine KI und planst, sie mit der ganzen Welt zu teilen. Eines der Dinge, über die sie sich Sorgen machen, ist: Was ist, wenn China davon Vorteile stehlen kann? Das ist ein privates Unternehmen, das sich Sorgen um Geopolitik macht. Das ist wirklich eine sehr seltsame Sache.“

Der Moderator fügte hinzu: „Ein privates Unternehmen Entscheidungen treffen zu lassen, die das gesamte geopolitische System beeinflussen.“ Coxon antwortete: „Man wird so groß, dass man zu einem kleinen Staat wird.“

Der Moderator stellte fest: „Du solltest dir bewusst machen, dass Zuckerberg ein Weltführer ist. 2,4 Milliarden Menschen nutzen Facebook. Er hat seine eigenen Regeln und Vorschriften. Er muss mit Regierungen zusammenarbeiten und die einschlägigen Vorschriften in jedem Land einhalten, in dem er tätig ist. Deshalb gerät er ständig in Rechtsstreitigkeiten, weil er gegen einige Regeln verstoßen hat.“

Coxon stimmte zu: „Das gilt auch für Twitter. Das gilt auch für Google, und auch für YouTube. Alle diese Leute sind gleich. Sie werden das mit ziemlicher Sicherheit tun müssen, weil sie mit solchen Personen zu tun haben.“

Schlusswort

Dass Jacob Coxons Kündigungs-Tweet eine so enorme Resonanz auslöste, liegt daran, dass er ein grundlegendes Problem aufzeigt: Wenn KI-Technologie bereits so mächtig ist, dass sie die globale Geopolitik, den Arbeitsmarkt und die Biosicherheit beeinflussen kann, sollte sie nicht wie ein gewöhnliches Geschäft betrieben werden. 2027 wird ein verrücktes Jahr sein, es wird täglich wichtige Nachrichten über KI geben, und die Modelle werden in der Lage sein, eine große Anzahl von Arbeiten zu automatisieren. Das Beunruhigendste ist, dass diese Superwaffentechnologie derzeit in den Händen privater Unternehmen liegt. Wie Coxon sagte: „Man sollte Zuckerberg keine Atomwaffen besitzen lassen.“

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Hou Lang Evolution Planet“, Autor: Mark, veröffentlicht mit Genehmigung von 36Kr.