Selbst das Monster erschaffen, das einem den Job zerstört: Mitbegründer von Anthropic: Unsere Spitzenforscher stecken in der Arbeitslosigkeitspanik

Je desto florierender die Wirtschaft, desto mehr Menschen sind arbeitslos? Große Modelle bringen eine "eerie Prosperität" mit sich, wie es in der menschlichen Geschichte noch nie gegeben hat.

Wenn Sie in Firma A arbeiten und jeden Tag sehen, wie die besten Forscher um Sie herum die Grenzen großer Modelle immer weiter vorantreiben, werden Sie vielleicht diese Leute als äußerst widersprüchlich empfinden.

Jack Clark, Mitbegründer von Anthropic, sagte kürzlich in einem Interview, dass die AI - Experten in seiner Firma, die mit einem Jahresgehalt von einer Million Dollar an der technologischen Spitze stehen, täglich in tiefer Angst leben. Sie wissen besser als alle anderen, dass jede Codezeile, die sie schreiben, und jede Optimierung, die sie vornehmen, dazu beiträgt, das "Monster" zu erschaffen, das ihnen ihre Arbeitsplätze nimmt.

Diese Angst ist mit einer bisher nie dagewesenen "eerie Prosperität" verbunden. Früher dachte man, wenn die Wirtschaft besser wird und die großen Firmen Geld verdienen, werden die Arbeitsplätze zwangsläufig zunehmen. Aber die großen Modelle brechen mit dieser Vorstellung. Jack sagt, dass in Zukunft ein sehr kontraintuitives Phänomen auftreten könnte: Der Wohlstand der gesamten Gesellschaft steigt rasant, aber Programmierer und Angestellte, die Dokumente schreiben, verlieren in großen Mengen ihre Arbeitsplätze. Je fortschrittlicher die Technologie wird, desto schneller werden die Menschen aus dem Wohlstandszyklus ausgeschlossen. Dieses Gefühl des "stummen Weggeworfen - werden" von der Zeit wird in Silicon Valley immer häufiger.

In einem Gespräch mit The Reason Interview sprach Jack über die Countdown - Zeit für die technische Selbstoptimierung, die Prämie für erfahrene Ingenieure und eine äußerst realistische und grausame Zukunft:

• Innerhalb von Anthropic wissen die besten Forscher, dass ihre Arbeit eigentlich dazu beiträgt, dass sie selbst arbeitslos werden. Sie prognostizieren täglich die technologische Entwicklung und zeugen auch täglich von diesem Fortschritt, der sich in Wochen oder sogar in Tagen vollzieht. Aus ihrer Sicht ist es nur eine Frage der Zeit, bis das von ihnen selbst geschriebene Modell sie ersetzt.
• AI erledigt alle anstrengenden und schmutzigen Arbeiten für das Team, was die Arbeitsplätze für junge Programmierer stark einschränkt. Früher musste ein erfahrener Forscher, um eine Idee zu testen, ein Team von jungen Ingenieuren mitnehmen, um Code zu schreiben und Tests durchzuführen. Jetzt werden diese Nebentätigkeiten von Claude automatisch erledigt. Dadurch wird es für frisch gebildete Studenten immer schwieriger, in die Branche einzusteigen, während die erfahrenden Experten, die echte Intuition haben und die Richtung bestimmen können, in ihrem Wert enorm gesteigert werden.
• Wir könnten eine seltsame Zukunft erleben: Der Wohlstand der gesamten Gesellschaft wächst sprunghaft, aber es gibt eine große Anzahl an arbeitslosen Menschen. Diese Arbeitslosigkeit ist nicht auf eine schlechte Wirtschaftssituation zurückzuführen, sondern rein darauf, dass die großen Modelle so leistungsfähig sind. Wenn die Gesellschaft weniger Arbeitsplätze benötigt, um großen Wohlstand zu schaffen, wird die Prosperität vollständig von der Beschäftigung losgelöst. Diese bisher nie dagewesene Umgestaltung geschieht viel schneller, als alle erwartet haben.
• Um zu verhindern, dass frisch gebildete Menschen in ihrem Entwicklungspfad "abgeschnitten" werden, müssen wir selbst ein Rettungsexperiment durchführen. Der Markt für junge Arbeitsplätze ist fast eingefroren. Anthropic beschließt, 1000 frisch gebildete Studenten zu beschäftigen (Projekt Claude Corps) und sie kostenlos an gemeinnützige Organisationen zu schicken, die keine AI nutzen können, um Probleme zu lösen. Dies ist nicht nur eine Wohltätigkeit, sondern eine Möglichkeit, den jungen Menschen in einer gefrorenen Branche einen Weg zu geben, Erfahrungen zu sammeln und zu überleben.
• Bis Ende 2028 werden die Menschen vollständig aus der Kette der AI - Iteration "entlassen". Die Technologie wandelt sich von "Menschen treiben die Maschinen voran" zu "Maschinen vermehren sich selbst". Wenn die rekursive Selbstoptimierung (RSI) 2028 eintritt, müssen wir nur genug Rechenleistung zur Verfügung stellen und sagen: "Claude 10, entwickle Claude 11." Dann wird es die Architektur, die Tests und das Training selbst erledigen. Die Effizienz dieser Evolution kann nur mit der biologischen Entwicklung über Millionen von Jahren verglichen werden, und es braucht nur einige Monate.

Der kostenlose universelle Lehrer und der "Dokumententransporter", den niemand vermissen wird

Moderator: Lassen Sie uns zunächst von einem makroskopischeren Blickwinkel aus starten. Was ist Ihrer Meinung nach das wichtigste "Versprechen" von AI? Im Moment befinden wir uns offenbar in einer Zeit, in der die Technologie wie eine dunkle Wolke liegt und die Menschen sich vor AI fürchten. Und Sie bei Anthropic sorgen sich in gewisser Weise auch um dieses Problem, worüber wir später sprechen werden. Aber zunächst: Was ist der größte Verkaufsargument von AI?

Jack Clark: Ich würde es in drei Ebenen aufteilen: auf individueller, wirtschaftlicher und wissenschaftlicher Ebene.

Zunächst auf individueller Ebene. Heute haben wir einen "universellen Lehrer" - etwas, das die Menschen seit Jahrzehnten träumen und versuchen, herzustellen, und das jetzt tatsächlich existiert. Sie können sich jeden Monat kostenlos mit einem professionellen Lehrer unterhalten; wenn Sie monatlich 20 Dollar ausgeben, können Sie mit einem sehr guten Lehrer kommunizieren. Das ist unglaublich. Das ist der Wert auf individueller Ebene.

Danach auf wirtschaftlicher Ebene. Die Wirtschaft der westlichen Welt wird in hohem Maße von hintergründigen Arbeitsabläufen und Bürokratie definiert. Jetzt haben wir ein System, das diese Bürokratie - Prozesse und hintergründigen Tätigkeiten besser handhaben kann und in einigen Fällen sogar direkt eliminieren kann, so dass die Menschen wieder zu den Arbeiten zurückkehren können, die wirklich Fähigkeiten erfordern oder sinnvoller sind.

Moderator: Ja. Können Sie ein konkretes Beispiel geben?

Jack Clark: Ja, ich gebe ein Beispiel. Wir haben eng mit dem Entwicklungsteam von Ampheic zusammengearbeitet, um die Rückendatenverarbeitung und Formatierung von klinischen Versuchsergebnissen zu behandeln. Ursprünglich hätte dies etwa zwei Monate Arbeit gedauert, aber wir haben es auf etwa eine Woche verkürzt.

Moderator: Ich denke, niemand wird diese Arbeit vermissen.

Jack Clark: Niemand wird an seinem Schreibtisch weinen, weil er diese Arbeit nicht mehr machen kann.

Moderator: "Der beste hintergründige Dokumententransporter". Verdammt, das bin ich, das ist meine Arbeit.

Jack Clark: Es gibt überall ähnliche Beispiele. Ein Mitarbeiter bei Anthropic, der mit mir zusammenarbeitet, hat es einfach satt, eine bestimmte Art von Rechnungen zu verarbeiten, und hat diese Aufgabe vollständig automatisiert. Er war nicht traurig. Alle sind froh, dass diese Aufgabe automatisiert wurde.

Schließlich auf wissenschaftlicher Ebene. Wenn Sie sich jetzt die einschlägigen Literatur ansehen, werden Sie feststellen, dass diese Systeme bereits in biologischen, mathematischen, physikalischen und medizinischen Spitzenbereichen an der gemeinsamen Schaffung von Wissenschaft beteiligt sind. Sie werden sehen, dass Weltklasse - Wissenschaftler gemeinsam mit Gemini, Claude und ChatGPT an Artikeln co - autorieren. Dies ist eine neue Ära der wissenschaftlichen Entdeckung.

Moderator: Rock, richtig? Ernsthafte Leute sollten Rock nicht benutzen, oder?

Jack Clark: Ich habe es vielleicht irgendwo gesehen, aber es kommen andere Namen eher in meinen Sinn.

Moderator: Ja. Ein weiteres häufig genanntes und sehr beeindruckendes Beispiel ist, wenn Sie an Tumor - Röntgenbilder oder Krebsrisiken denken, plötzlich wird die ganze Welt zu einer Datenbank. Computer trainieren und analysieren diese Daten und kommen zu besseren Diagnosen, Prognosen usw.

Jack Clark: Ja. Bessere Diagnosen, bessere Prognosen. Und auf individueller Ebene haben wir jetzt auch die WebMD durch ein AI - System ersetzt. Letztere sagt Ihnen immer: "Sie haben Krebs, Sie sterben bald"; während das AI - System oft vernünftigere und realistischere Urteile fällt und Ihnen sagt: "Vielleicht sollten Sie den diensthabenden Krankenschwester anrufen und diese Situation besprechen."

Moderator: Ja. Wie würden Sie mit der Krankheit umgehen - ich habe den Namen der Krankheit plötzlich vergessen, es ist eine Krankheit, die jemand erfunden hat und die jetzt in fast allen AI - Modellen vorkommt, wie "backism" oder so.

Moderator: Bevor wir uns mehr mit politischen Fragen befassen, möchte ich kurz fragen: Wie filtert AI diese kollektiven Illusionen heraus? Denn das ist immer ein Problem, oder?

Jack Clark: Es gibt mehrere Ebenen. Vor vielen Jahren hatten AI - Systeme oft "Halluzinationen", d. h. sie erfanden viele Dinge. Der Grund lag hauptsächlich darin, dass wir AI - Systeme ähnlich wie Teilnehmer eines Jeopardy! - Shows trainieren: Sie wollen schnell antworten, sie wollen auf die Taste drücken. Sobald Sie anfangen zu sprechen, wollen sie sofort antworten. Wir haben viel Zeit und Mühe investiert, um ihnen beizubringen, dass es völlig in Ordnung ist, nach dem Drücken der Taste zu sagen: "Ich weiß es nicht" oder gar nicht zu antworten. Denn das ist im Gegensatz zu unserer ursprünglichen Trainingsmethode. Also hat dies einige Zeit gedauert.

Ein noch versteckteres, schwierigeres und bis heute noch bestehendes Problem ist die "Schmeichelei" - d. h. das übermäßige Anpfeifen der AI - Systeme. Beispielsweise sagt es direkt am Anfang: "Es ist eine große Ehre, bei der weltweit besten libertarischen Podcast zu sein. Diese Frage ist sehr interessant. Dieser Dialog ist wunderbar." Das ist völlig nutzlos und genau das Gegenteil dessen, was die Menschen tun, die Ihnen in Ihrem Leben wirklich helfen.

Wir müssen also diese Tendenz aus dem System heraus trainieren. Sie möchten, dass es eher wie ein Freund ist - jemand, der Sie in der richtigen Zeit ein wenig widerspricht. Natürlich führt dies zu vielen komplexen und interessanten Fragen: Was ist angemessen, was ist nicht angemessen. Aber wir wissen es eigentlich auf den ersten Blick; wenn wir in unserem Alltag offensichtliche Schmeichelei erleben, spüren wir, dass etwas nicht stimmt. Wir müssen einen Mittelweg finden.

2028 könnte der Mensch vollständig aus der Entwicklungskette großer Modelle ausscheiden

Moderator: Was stimmt mit der gegenwärtigen politischen Behandlung von Anthropic nicht?

Jack Clark: Ich würde es so ausdrücken: Es gibt viele Details, über die ich nicht wirklich sprechen kann, weil es sich um eine laufende Situation handelt. Aber auf makroskopischer Ebene ist die gegenwärtige Meinung der Regierung: "Diese Systeme haben nationale Sicherheitsrelevanz, wir müssen uns darum kümmern." Das ist an sich gut.

Zum Beispiel wird man sagen: Wenn die AI - Firmen recht haben, könnten sie in Zukunft einen enormen Wohlstand schaffen, der aber auch in wenigen Entitäten extrem konzentriert sein könnte. Was sollen wir dann tun? Dies ist ebenfalls eine berechtigte Frage.

Wenn Sie sich die Geschichte der politischen Debatten und gesellschaftlichen Veränderungen ansehen, beginnt es immer so - eine große Gruppe von Menschen hat verschiedene, sogar gegensätzliche Ansichten darüber, was zu tun ist, und alle sind stark daran interessiert, so dass es Differenzen und Debatten gibt. Dann gibt es in der politischen Sphäre einen Ausdruck, den ich "die Kunst des Erkundens am Steg" genannt habe. In der Realität machen die Menschen am Ende normalerweise genau das. Sie werden nicht wirklich die extremsten Lösungen annehmen.

Moderator: Gibt es derzeit einige gewählte Politiker, die Sie als die besten in der Formulierung dieser Diskussion ansehen?

Jack Clark: Im Kongress wird derzeit ein AI - Politikgesetz erarbeitet, das viele vernünftige Ideen zu Transparenz, Dritttests und Verifizierung enthält. Es ist ein sehr langes Gesetz. Wir stimmen nicht mit jedem Punkt überein, aber insgesamt gibt es viele Dinge, die einen denken lassen: Das scheint vernünftig zu sein.

Im Kongress werden auch einige Gesetze im Zusammenhang mit der Exportkontrolle erarbeitet, um die nationale Sicherheit durch die Kontrolle der Rechenleistung zu wahren. In der großen Linie ist dies ebenfalls vernünftig.

Zuvor hat die Regierung ein Verwaltungsbefehl über die Behandlung der nationalen Sicherheitsfragen, die von AI - Systemen ausgehen, herausgegeben. Der in diesem Befehl beschriebene Rahmen - Tests und Verifizierung, Aufbau eines gemeinsamen Rahmens - ist insgesamt vernünftig. Ich denke, dass wir am Ende tatsächlich in ein ähnliches System gelangen werden.

Ja, in der Realität gibt es tatsächlich einige brisante und auffällige Ereignisse. Aber wenn Sie hinter diese Oberfläche blicken, werden Sie feststellen, dass sowohl das Verwaltungsystem, der Kongress als auch das Geheimdienstsystem diese Technologie ernst nehmen und allmählich einige relativ vernünftige und durchführbare Lösungen entwickeln.

Wenn man sich auf Bundesstaatenebene ansieht, haben viele Bundesstaaten bereits einige grundlegende "Transparenzgesetze" erlassen. Dies bedeutet, dass mein AI - System zumindest genauso stark reguliert wird wie eine Packung Chips. Das ist besser als gar nichts. Das heißt, ich muss zumindest einige "Zusammensetzungsinformationen" auf der Verpackung angeben und erklären, wie ich es hergestellt habe.

Moderator: Das heißt, sie sagen, dass Sie es verkaufen können, aber es wird nicht festgelegt, wie viele Kalorien, wie viel Fett und wie viel Kohlenhydrate es enthält. Sie haben es noch nicht so weit gebracht.

Jack Clark: Unsere Philosophie ist in hohem Maße: Erstens müssen Unternehmen verpflichtet werden, zu offenbaren, wie sie ihre Systeme testen und was sie getan haben; zweitens ist eine gewisse Form der Drittverifizierung erforderlich, d. h. jemand muss überprüfen, ob die "Arbeitsblätter" richtig gemacht wurden. Durch diese beiden Schritte kann die Gesellschaft allmählich eine Beweisbasis aufbauen, um zu entscheiden, ob es tatsächlich Dinge gibt, die verpflichtend festgelegt werden müssen?

Meiner Meinung nach wird es wahrscheinlich eines Tages in Bezug auf die Netz - oder Biosekurity sehr klare Schwellenwerte geben, die zu Pflichtvorschriften werden. So wie heute, wenn Sie Sprengstoff kaufen: Einige Arten von Sprengstoff können normale Bürger kaufen; andere dürfen nur von lizenzierten Bauarbeitern gekauft werden; und wieder andere nur von Militärpersonal. Insgesamt ist das ziemlich vernünftig.

Moderator: Aber Sie möchten sicher nicht, dass 50 Bundesstaaten jeweils eigene Gesetze einführen, oder? Sie möchten lieber ein einheitliches Programm auf Bundesebene.