Das gesamte Silicon Valley war von Metas Jahresgehalt von 100 Millionen US - Dollar verblüfft. Der Mitbegründer von Anthropic stellte sich mutig entgegen: Die Mission des Teams ist wertvoller als Gold, und man kann ihn nicht mit Geld anwerben.
Wenn KI in der Lage ist, mehr als 50 % der wirtschaftlichen Aufgaben unabhängig zu erledigen und die entsprechende Vergütung zu erhalten, wird der echte Wendepunkt der AGI (Allgemeine Künstliche Intelligenz) eintreten.
In den letzten drei Wochen hat in Silicon Valley ein beispielloser "Rekrutierungskampf um 100 Millionen US - Dollar" stattgefunden. Sobald das Meta Superintelligence Labs (MSL) gegründet wurde, machte es Top - KI - Unternehmen wie OpenAI, Anthropic und Google DeepMind Kernpersonal mit astronomischen Angeboten: Ein Jahresgehalt von über 100 Millionen US - Dollar und ein Maximalgehalt von 300 Millionen US - Dollar über vier Jahre, nur um einige wenige "Superintelligenz - Ingenieure" zu gewinnen, die die Zukunft der KI definieren können.
Hinter diesem Wettrennen um Techniktalente steckt ein heftiger Wettlauf der Techniktitane um die Monopolisierung von KI - Talenten. Meta hat es sich sogar leisten können, den Leiter des Wahrnehmungsteams von OpenAI mit einem durchschnittlichen Gehalt von über einer Million US - Dollar pro Person zu rekrutieren, was insgesamt mehrere Milliarden US - Dollar kostet.
Im Laufe dieser Kapitalorgie hat Benjamin Mann, Mitbegründer von Anthropic, in einer Podcast - Sendung namens "Lenny's Podcast" eine ernste Warnung ausgesprochen: Der exponentielle Fortschritt der KI wird den Arbeitsmarkt neu gestalten, und etwa 20 % der Arbeitsplätze könnten neu definiert oder sogar verschwinden.
Als einer der Kernarchitekten von GPT - 3 war Ben an der frühen Entwicklung von OpenAI beteiligt. Aufgrund seiner Haltung zur Sicherheit der KI entschied er sich jedoch, sein Team mitzunehmen und Anthropic zu gründen, das die "Alignment" (Abstimmung) als Kernmission hat.
Im Jahr 2020 verließ Ben zusammen mit dem gesamten Sicherheitsteam von OpenAI das Unternehmen und gründete gemeinsam Anthropic. Berichten zufolge hat das Unternehmen derzeit einen Schätzwert von über 100 Milliarden US - Dollar.
Heute arbeitet er als Leiter der Produktentwicklungstechnologie bei Anthropic und setzt den Großteil seiner Zeit und Energie ein, um die KI nützlich, ungefährlich und ehrlich zu machen.
Bens Prognose über die Auswirkungen der KI auf die Beschäftigung basiert auf einem Schlüsselkonzept - dem "Wirtschaftlichen Turing - Test": Wenn KI in der Lage ist, mehr als 50 % der wirtschaftlichen Aufgaben unabhängig zu erledigen und die entsprechende Vergütung zu erhalten, wird der echte Wendepunkt der AGI (Allgemeine Künstliche Intelligenz) eintreten, und dieser Moment könnte zwischen 2027 und 2028 liegen.
Bens Prognose ist nicht nur optimistisch: Er sagt direkt aus, dass die Verbreitung der KI dazu führen wird, dass etwa 20 % der Arbeitsplätze neu gestaltet oder sogar verschwinden, insbesondere in den Bereichen Programmierung und Kundenservice. Aber er betont auch, dass diese Veränderung nicht unbedingt negativ ist - durch Sicherheitsabstimmungsforschung kann die KI ein Partnerschaftspartner für den Menschen statt eine Bedrohung werden. Dies wird durch den KI - Assistenten Claude von Anthropic bestätigt: Seine beliebte "sanfte Perspektive" ist das direkte Ergebnis der KI - Sicherheitsforschung.
Für die Zukunft gibt Ben Vorschläge, die sowohl realistisch als auch zukunftsweisend sind: Er verlässt sich nicht mehr auf das traditionelle Bildungssystem, sondern lehrt Kindern drei Schlüsselfertigkeiten, um den Herausforderungen der KI - Ära zu begegnen. Dieser Dialog enthüllt nicht nur die neuesten Trends in der KI - Technologie, sondern ist auch eine tiefgehende Überlegung darüber, wie der Mensch die technologische Welle meistern kann.
Im Folgenden finden Sie die Übersetzung des Podcasts. InfoQ hat die Übersetzung ohne Änderung des ursprünglichen Sinns bearbeitet:
Der Rekrutierungskampf um KI - Talente
Lenny: Ben, ich freue mich, mit Ihnen sprechen zu können. Ich möchte zunächst über etwas sehr Aktuelles sprechen, etwas, das in dieser Woche passiert ist. In den Nachrichten gibt es derzeit eine Geschichte: Nachdem Zuckerberg allen Top - KI - Forschern einen Einjahresvertrag mit 100 Millionen US - Dollar angeboten hat, rekrutiert er aus allen Top - KI - Labors. Ich vermute, dass Sie sich damit beschäftigen, und ich bin einfach neugierig, was Sie innerhalb von Anthropic beobachten. Was halten Sie von Meta's Strategie? Wie sehen Sie die weitere Entwicklung?
Ben: Ich denke, dass dies ein Produkt unserer Zeit ist. Die Technologien, die wir entwickeln, sind sehr wertvoll, und die Unternehmen entwickeln sich rasant, wie auch viele andere Unternehmen in diesem Bereich.
Ich denke jedoch, dass Anthropic weniger von diesem Trend betroffen ist als andere Unternehmen, weil die Mitarbeiter hier sehr missionsorientiert sind. Sie bleiben, weil sie einen größeren Sinn darin sehen. In einem Unternehmen wie Meta ist das beste, was man erreichen kann, Geld zu verdienen. Bei Anthropic haben wir jedoch die Möglichkeit, wirklich die Zukunft der Menschheit zu beeinflussen und die gemeinsame Prosperität von KI und Menschen voranzutreiben. Für mich ist dies keine schwierige Entscheidung.
Natürlich verstehe ich, dass sich die Situation für jeden anders darstellt, und einige Menschen müssen möglicherweise komplexere Überlegungen anstellen. Wenn jemand tatsächlich eines dieser lukrativen Angebote annimmt, werde ich ihn nicht verurteilen. Aber wenn ich in seiner Lage wäre, würde ich auf keinen Fall gehen.
Lenny: Was Meta's Angebote angeht, halten Sie das Einjahresgehalt von 100 Millionen US - Dollar für realistisch? Haben Sie jemals so hohe Angebote gesehen?
Ben: Ich bin mir sehr sicher, dass das Angebot realistisch ist. Wenn man nur den Einfluss eines Einzelnen auf die Entwicklung eines Unternehmens betrachtet - in unserem Fall verkaufen wir etwas, das sehr gefragt ist. Wenn wir eine Effizienzsteigerung von 1 %, 5 % oder sogar 10 % erreichen können, wird der Wert unseres Inferenzstapels unglaublich hoch. Vom geschäftlichen Standpunkt aus gesehen ist ein Gehalt von 100 Millionen US - Dollar über vier Jahre im Vergleich zum geschaffenen Wert tatsächlich relativ günstig.
Wir befinden uns in einer Zeit unvorhergesehener Skalierung, und die Dinge werden nur noch verrückter. Wenn man die exponentielle Zunahme der Unternehmensausgaben fortsetzt - derzeit verdoppeln sich die Kapitalausgaben etwa alle zwei Jahre, und die gesamte Branche investiert in diese Richtung möglicherweise etwa 300 Milliarden US - Dollar. Einhundert Millionen US - Dollar sind in diesem Kontext nur ein Tropfen auf den heißen Stein. In ein paar Jahren, wenn die Skalierung nochmalige Verdopplungen erfährt, werden wir von Billionen von US - Dollar sprechen, und diese Zahlen werden dann möglicherweise unmöglich zu messen sein.
Lenny: In Bezug auf diesen Gedanken befürchten viele Menschen den Fortschritt der KI - wir stoßen in vielen Bereichen auf Grenzen, und es scheint, dass neue Modelle nicht mehr die gleichen Sprünge in der Intelligenz bringen wie früher. Ich weiß jedoch, dass Sie diese Meinung nicht teilen. Ich weiß, dass Sie nicht glauben, dass wir in der Skalierung einen Plateau erreicht haben. Können Sie etwas darüber erzählen, was Sie beobachten, und welche Schlüsselfaktoren, die Menschen übersehen?
Ben: Das ist ziemlich lustig, denn diese Geschichte taucht ungefähr alle sechs Monate auf, aber es hat sich nie wirklich bewahrheitet. Ich wünschte, die Leute hätten einen "Quatsch - Detektor", der sich automatisch auslöst, wenn sie solche Argumente hören. Tatsächlich denke ich, dass der Fortschritt beschleunigt - man muss nur den Rhythmus der Modellveröffentlichungen betrachten: Früher war es einmal im Jahr, jetzt, dank der Fortschritte in der Post - Trainingstechnologie, können wir alle ein bis drei Monate neue Modelle sehen.
Hier gibt es einen interessanten Zeiteffekt. Unser CEO Dario Amodei vergleicht es mit einer Reise nahe der Lichtgeschwindigkeit: Ein Tag an Bord des Raumschiffs entspricht fünf Tagen auf der Erde. Wir beschleunigen, und der Zeitdilatationseffekt wird immer deutlicher. Dies könnte einer der Gründe sein, warum die Leute den Fortschritt als verlangsamt empfinden. Aber wenn man sich die Skalierungsgesetze genauer ansieht, gelten sie immer noch. Wir müssen tatsächlich von reinem Pre - Training zu anderen Methoden wie Verstärkungslernen übergehen, um die Skalierungsgesetze fortzusetzen, aber das ist wie in der Halbleiterindustrie - es geht nicht darum, wie viele Transistoren auf einem einzelnen Chip passen, sondern wie viel Rechenleistung in einem gesamten Rechenzentrum eingesetzt werden kann. Man muss nur die Definition etwas anpassen, um weiter voranzukommen.
Es ist erstaunlich, dass dies eines der wenigen Gesetze auf der Welt ist, das über mehrere Größenordnungen hinweg gilt. In der Physik verlieren viele Gesetze ihre Gültigkeit innerhalb von 15 Größenordnungen, also ist dieses Phänomen wirklich erstaunlich.
Lenny: Was Sie sagen, bedeutet im Wesentlichen, dass die Leute, die sagen, der Fortschritt verlangsamt sich, immer das neueste Modell mit dem vorherigen vergleichen und den Fortschritt als gering empfinden. Wenn man jedoch den Zeitraum verlängert, ist der Fortschritt im Vergleich zur früheren Situation, in der es nur einmal im Jahr einen großen Durchbruch gab, tatsächlich schneller. Es ist nur eine Täuschung, die durch die vielen Iterationen entsteht. Können wir es so verstehen?
Ben: Ich verstehe die Leute, die sagen, dass der Fortschritt verlangsamt wird. Bei bestimmten Aufgaben haben wir tatsächlich einen Sättigungspunkt der Intelligenz erreicht - bei einfachen Aufgaben wie der Informationsextraktion aus strukturierten Dokumenten können wir möglicherweise bereits 100 % Genauigkeit erreichen. Wir sehen oft, dass wenn ein neues Benchmark veröffentlicht wird, es innerhalb von sechs bis zwölf Monaten vollständig bewältigt wird. Der echte Engpass liegt also darin, dass wir bessere Benchmarks und ambitioniertere Werkzeuge brauchen, um das volle Potenzial der aktuellen KI - Systeme zu entfalten.
Definition von AGI und der Wirtschaftliche Turing - Test
Lenny: Dies ist eigentlich ein guter Übergang, um uns auf eine konkretere Weise über die AGI zu Gedanken zu geben und die Bedeutung der AGI genau zu definieren. Können Sie näher darauf eingehen?
Ben: Ich denke, dass der Begriff "AGI" zu viele Bedeutungen hat, deshalb verwenden wir ihn inzwischen in unserem Unternehmen weniger häufig. Ich bevorzuge den Begriff "transformative Künstliche Intelligenz" - es geht nicht darum, ob sie alles kann, was ein Mensch kann, sondern ob sie die sozio - wirtschaftliche Struktur wirklich verändern kann.
Hier gibt es eine sehr konkrete Messmethode, den "Wirtschaftlichen Turing - Test" (obwohl ich ihn nicht erfunden habe, gefällt mir der Ansatz sehr). Stellen Sie sich vor: Wenn Sie einen Agenten für einen Monat oder drei Monate anstellen und am Ende feststellen, dass es tatsächlich eine Maschine und kein Mensch ist, hat es diesen Arbeitsplatz den Wirtschaftlichen Turing - Test bestanden.
Wir können diesen Begriff erweitern, ähnlich wie Ökonomen mit einem "Warenkorb" die Kaufkraft oder die Inflation messen. Wir können einen "Arbeitsplatzkorb" definieren. Wenn ein KI - System 50 % der geldgewichteten Arbeitsplätze in diesem Korb den Wirtschaftlichen Turing - Test besteht, betreten wir die Ära der transformativen KI. Die genaue Schwelle ist nicht so wichtig. Wichtig ist, dass wir erwarten, dass sich das globale BIP, die Gesellschaftsstruktur und der Arbeitsmarkt radikal verändern, sobald diese Schwelle überschritten wird.
Gesellschaftliche Institutionen sind träge, und Veränderungen erfolgen normalerweise langsam. Aber wenn diese Durchbrüche tatsächlich eintreten, wissen Sie: Eine neue Ära beginnt.
Lenny: Ihr CEO Dario Amodei hat kürzlich darüber gesprochen, wie die KI einen Großteil der Büroarbeiten übernehmen wird und die Arbeitslosigkeit möglicherweise um etwa 20 % steigen könnte. Ich weiß, dass Sie sich in dieser Frage noch entschiedener positionieren - der tatsächliche Einfluss der KI auf den Arbeitsmarkt könnte weit größer sein, als die Menschen derzeit annehmen. Können Sie näher darauf eingehen, welche Schlüsselpunkte in Bezug auf den Einfluss der KI auf die Beschäftigung von der Öffentlichkeit übersehen werden? Sowohl die zukünftigen als auch die bereits bestehenden Auswirkungen.
Ben: Aus ökonomischer Sicht kann die Arbeitslosigkeit in verschiedene Typen unterteilt werden: Einerseits können die Arbeiter die neuen Fähigkeiten fehlen, die die Wirtschaft erfordert, andererseits können bestimmte Arbeitsplätze direkt ersetzt werden. Ich denke, dass die Realität eine Kombination aus beiden ist. Wenn wir jedoch in 20 Jahren in die Zukunft blicken - wenn wir bereits den technologischen Singularitätspunkt überschritten haben - ist es mir schwer vorstellbar, dass der Kapitalismus noch die gleiche Form haben wird wie heute.
Wenn wir es schaffen, eine sichere und zuverlässige Superintelligenz zu entwickeln, wie Dario in "Maschinen aus Liebe und Gnade" beschreibt: Ein Rechenzentrum könnte ein ganzes Geniestaat enthalten, was den Fortschritt in den Bereichen Wissenschaft, Technologie, Bildung und Mathematik enorm beschleunigen würde. Dies würde jedoch auch bedeuten, dass wir in einer Welt leben würden, in der es materielle Überfluss gibt, die Arbeitskraft fast kostenlos ist und jeder professionelle Dienst sofort verfügbar ist. In diesem Fall könnte sich der Begriff "Arbeit" selbst grundlegend ändern.
Wir befinden uns derzeit in einer schwierigen Übergangsphase: Die Menschen arbeiten noch, und das kapitalistische System funktioniert noch, aber die Welt in 20 Jahren wird völlig anders sein. Der technologische Singularitätspunkt wird "Singularitätspunkt" genannt, weil die Veränderungen nach diesem Punkt so schnell und tiefgreifend sind, dass sie unsere Vorstellungskraft übersteigen.
Langfristig gesehen könnte Arbeit in einer Welt des materiellen Überflusses nicht mehr so wichtig sein. Der Schlüssel liegt jedoch darin, wie wir diese Übergangsphase reibungslos meistern können.
Lenny: Ich möchte mich auf einige Aspekte konzentrieren. Zunächst: Obwohl die Medien voller Schlagzeilen über KI sind, haben die meisten Menschen diese Veränderungen noch nicht wirklich persönlich erlebt und die tatsächlichen Auswirkungen noch nicht gesehen. Dies führt dazu, dass viele Menschen denken: "Vielleicht verändert die KI tatsächlich einige Dinge, aber für mich sieht es so aus, als ob sich an meiner Arbeit nichts geändert hätte."
In dieser Situation: Welche tatsächlichen Veränderungen, die die KI bereits gebracht hat, sind von den meisten Menschen noch nicht bemerkt oder missverstanden? Mit anderen Worten, in welchen Bereichen hat die KI bereits hinter den Kulissen den Arbeitsmarkt verändert?
Ben: Ich denke, dass ein Teil des Problems darin besteht, dass die Menschen nicht gut in der Lage sind, exponentielles Wachstum zu verstehen. In einem Diagramm sieht eine Exponentialkurve am Anfang fast wie eine gerade Linie aus, bis plötzlich der Wendepunkt eintritt und die Kurve senkrecht nach oben geht - genau so ist es hier. Ich persönlich habe 2019, als GPT - 2 veröffentlicht wurde, erkannt: "Dies ist der Weg zur AGI", aber viele Menschen haben die Veränderungen erst mit ChatGPT wahrgenommen.
Ich möchte einige Bereiche nennen, in denen sich die Veränderungen schnell vollziehen: Beispielsweise im Kundenservice: Unsere Partner Fin und Intercom können bereits 82 % der Kundenfragen automatisch beantworten, ohne menschliche Intervention. Im Bereich der Softwareentwicklung: Unser Claude Code - Team generiert etwa 95 % des Codes mit KI, was bedeutet, dass kleine Teams 10 - 20 Mal mehr Code produzieren können