100 Millionen US-Dollar können den Traum nicht kaufen, aber nur wegen diesem Satz von Altman verließ er OpenAI.

Der globale Wettlauf um künstliche Intelligenz hat bereits 300 Milliarden US-Dollar verschlungen, doch die Anzahl der Wissenschaftler, die sich wirklich darum bemühen, ein „Terminator“-Szenario zu vermeiden, beläuft sich auf weniger als tausend! Benjamin Mann, ein Kernmitglied von Anthropic, enthüllt: Wenn humanoide Roboter zum Bewusstsein kommen, fehlt ihnen nur noch ein „Gehirn“ – und dieser Tag könnte bereits 2028 eintreffen.

100 Millionen US-Dollar oder das Schützen der Menschheit?

Während Mark Zuckerberg mit neunstelligen Summen um die besten Köpfe in der KI-Branche werbt, sagt Benjamin Mann, der ehemalige Sicherheitschef von OpenAI, nur lachend: „Geld kann Modelle kaufen, aber nicht Sicherheit.“

In einem jüngsten Podcast hat Benjamin Mann, Mitbegründer von Anthropic, erklärt, warum das Sicherheits-Team von OpenAI wechselte und warum er entschieden „Nein“ zu 100 Millionen US-Dollar sagte.

Spitzenkünstler in der KI-Branche sind Zeitgenossenhelden und wert 100 Millionen US-Dollar

Zuckerberg setzt derzeit auf die Rekrutierung der besten Köpfe in der KI-Branche.

Dies ist ein Zeichen der Zeit, denn die von diesen Talenten geschaffenen KI-Systeme sind von enormem Wert.

Benjamin Mann meint, dass der Verlust an Teammitgliedern nicht so gravierend ist:

Bei Meta ist das beste Ergebnis, „Geld zu verdienen“; bei Anthropic hingegen ist es, „die Zukunft der Menschheit zu verändern“. Letzteres ist wertvoller.

Für Mann war die Entscheidung einfach: Er wird kein Angebot von Meta annehmen, auch wenn es astronomisch hoch ist.

Wir befinden uns in einer beispiellosen Skalierungsepoche, die nur noch extremer werden wird.

Die Kapitalausgaben von Anthropic verdoppeln sich jährlich, was erstaunlich schnell ist.

Das ist die Branchenrealität – ein gutes Modell ist wie ein Geldpresse.

Aber bei Anthropic hat Metas „Geldoffensive“ keine großen Wellen geschlagen. Neben dem Sinn für Mission gibt es zwei Geheimnisse:

Teamatmosphäre – „Hier gibt es keine Superstar-Halo. Alle wollen einfach das Richtige tun.“

Freie Wahl – „Ich verstehe, wenn jemand aus familiären Gründen ein astronomisches Angebot annimmt.“

Benjamin Mann bestätigt, dass ein Vertragsbonus von 100 Millionen US-Dollar tatsächlich existiert.

Mann hat gerechnet: Wenn die Inferenzeffizienz um 5 % steigt, können bei der gesamten Inferenzkette mehrere Hundert Millionen US-Dollar an Kosten eingespart werden. Ein Investment von 100 Millionen US-Dollar für diese Verbesserung würde enorme Renditen bringen.

In Zukunft, nach einigen exponentiellen Wachstumsschüben, könnten die Zahlen im Billionsbereich liegen. Es ist schwer, sich die Bedeutung dieser erstaunlichen Renditen vorzustellen.

Er sagt, dass die Entwicklung der KI nicht stagniert, die Skalierungsgesetze noch immer gelten und die Fortschritte beschleunigen.

Das Skalierungsgesetz ist nicht tot: Monatlich entsteht eine „neue Spezies“

Erstens beschleunigt sich der Rhythmus der Modellveröffentlichungen:

Früher haben wir einmal im Jahr ein neues Modell veröffentlicht;

heute werden durch Nachbearbeitung fast monatlich oder alle drei Monate neue Modelle veröffentlicht.

Warum wird das Fortschreiten manchmal als langsam empfunden? Ein Grund ist, dass die Menschen manchmal meinen, die neuen Modelle seien nicht so intelligent wie die alten.

Tatsächlich gelten die Skalierungsgesetze immer noch, aber um diese fortzusetzen, muss man von der Vorhersage auf die Verstärkungslernen umsteigen.

Auch erreicht die Intelligenz der Modelle in einigen Aufgabenbereichen fast die Sättigung.

Nach der Veröffentlichung neuer Benchmarks erreicht die Leistung innerhalb von 6 bis 12 Monaten die Sättigung.

Der entscheidende Engpass könnte also die Tests selbst sein: Bessere Benchmarks und ambitioniertere Aufgaben sind erforderlich, um die echten Intelligenzsprünge der Modelle zu zeigen.

Dies hat Mann auch zu einer Überlegung über die Definition von AGI angeregt.

Ökonomischer Turing-Test, das Windrad für den Singularitätspunkt

Er meint, dass der Begriff AGI zu sehr emotional beladen ist und bevorzugt stattdessen den Begriff „transformative KI“.

Transformative KI konzentriert sich darauf, ob sie soziale und wirtschaftliche Veränderungen bewirken kann.

Das konkrete Maß ist der Ökonomische Turing-Test (Economic Turing Test):

Wenn ein Unternehmen einen Kandidaten für 1 bis 3 Monate ausprobiert, ihn schließlich einstellt und erst später feststellt, dass es sich um eine Maschine und nicht um einen Menschen handelt, hat die KI den Ökonomischen Turing-Test bestanden.

Mit anderen Worten: AGI ist nicht die Prüfnote, sondern der Arbeitsvertrag vom Chef!

Wenn die KI den Ökonomischen Turing-Test in etwa 50 % (bezogen auf das Gehalt) aller Arbeitsplätze besteht, bedeutet dies den Beginn der transformativen KI.

Da soziale Institutionen und Organisationen Trägheit haben, wird diese Veränderung zunächst sehr langsam voranschreiten.

Mann und Dario Amodei gehen davon aus, dass dies bis zu 20 % Arbeitslosigkeit verursachen könnte, insbesondere in den geistigen Berufen.

Aus wirtschaftlicher Sicht gibt es zwei Arten von Arbeitslosigkeit: Mangel an Fähigkeiten oder das Verschwinden von Arbeitsplätzen. In Zukunft wird es eine Kombination aus beiden sein.

Wenn wir in Zukunft über sicher ausgerichtete Superintelligenz verfügen, werden wir, wie Dario sagt, über eine Gruppe von Genies in den Rechenzentren verfügen, die positive Veränderungen in Wissenschaft, Technik, Bildung und Mathematik vorantreiben. Das wäre erstaunlich!

Aber das bedeutet auch, dass in einer Welt, in der Arbeit fast kostenlos ist, man alles, was man will, von Experten machen lassen kann. Wie wird dann die Arbeit aussehen?

Das Schrecklichste ist, dass der Übergang von der heutigen Welt, in der die Menschen noch arbeiten, zu der Welt in 20 Jahren sehr schnell sein wird.

Aber gerade weil diese Veränderung so dramatisch ist, wird es als „Singularität“ bezeichnet – weil dieser Zeitpunkt schwer vorherzusagen ist.

In der Physik ist der Singularitätspunkt ein Punkt mit unendlich kleiner Größe, unendlich hoher Dichte, unendlich starker Gravitation und unendlich hoher Raumzeitkrümmung, an dem die bisher bekannten physikalischen Gesetze nicht gelten.

Die Veränderungen werden so schnell sein, dass man sie kaum vorhersehen kann.

Mit der Verbesserung der KI-Fähigkeiten werden viele Aufgaben, die bisher von Menschen erledigt wurden, von KI-Systemen übernommen, insbesondere repetitive, einfache und standardisierte Jobs.

Diese Veränderung hat schnelle und tiefgreifende Auswirkungen auf den Arbeitsmarkt.

Beispielsweise hat das Claude Code-Team in der Softwareentwicklung 95 % des Codes mit Claude geschrieben. Auf der anderen Seite bedeutet dies, dass die gleiche Anzahl von Menschen mehr Code schreiben kann.

Ähnliches passiert im Kundenservice: KI-Werkzeuge können 82 % der Kundenanfragen automatisch lösen, sodass die menschlichen Mitarbeiter sich auf komplexere Probleme konzentrieren können.

Aber für Arbeitsplätze mit geringer Qualifikation und wenig Verbesserungspotenzial wird die Substitution sehr heftig sein. Die Gesellschaft muss sich darauf vorbereiten.

Das Überlebenshandbuch für die Zukunft

Wie wird der Arbeitsmarkt in Zukunft aussehen?

Selbst wenn er mitten in dieser Veränderung steht, glaubt Benjamin Mann, dass er nicht davor gefeit ist, von KI ersetzt zu werden.

Eines Tages wird dies alle betreffen.

Aber die nächsten Jahre sind entscheidend. Derzeit ist es noch nicht so weit, dass Menschen vollständig ersetzt werden können.

Wir befinden uns noch am Anfang der Exponentialkurve – dem flachen Teil. Es hat erst begonnen.

Deshalb ist es immer noch extrem wichtig, gute Talente zu haben. Das ist auch der Grund, warum Anthropic aktiv rekrutiert.

Der Moderator fragte ihn andersherum: „Sie haben zwei Kinder. Welche Bildung sollten die nächste Generation bekommen, um in der Zukunft bestehen zu können?“

Mann meint, dass die gegenwärtige Bildung Wissen und Fähigkeiten vermittelt, aber in Zukunft könnten diese traditionellen Standards nicht mehr gelten.

Anstatt seine Tochter nur auf Prüfungen vorzubereiten, sollte man ihre Neugier und ihr Problemlösevermögen fördern.

Er hofft, dass seine Tochter Bereiche erkunden wird, die ihr interessieren, und dass sie unabhängig denken und kreativ sein wird.

In einer von KI dominierten Welt werden Kreativität und emotionale Intelligenz die Schlüssel sein, um mit Maschinen zu konkurrieren.

Die Zukunft ist voller Unsicherheiten. Das Schlüssel zum Erfolg wird es sein, sich an Veränderungen zu gewöhnen, ständig zu lernen und sich anzupassen.

Geheimnisse: Die erste Spaltung von OpenAI

Es ist bekannt, dass Ende 2020 Benjamin Mann und acht weitere Kollegen OpenAI verließen und Anthropic gründete.

Was hat sie dazu gebracht, eine eigene Firma zu gründen?

Damals war Mann Mitglied der OpenAI-Projekte GPT - 2 und GPT - 3 und einer der ersten Autoren des GPT - 3 - Papers.

Link zum Paper: https://arxiv.org/abs/2005.14165

Er hat Microsoft viele Technologien demonstriert und so 1 Milliarde US - Dollar an Investitionen für OpenAI beschafft. Gleichzeitig war er auch für die Migration der GPT - 3 - Technologie auf Microsofts Systeme zuständig, um die Bereitstellung und den Service auf Azure zu ermöglichen.

Bei OpenAI war er sowohl an der Forschung als auch an der Produktentwicklung beteiligt.

Damals sagte immer jemand:

OpenAI braucht drei „Lagern“: Das Sicherheitslager, das Forschungslager und das Unternehmungslager, die sich gegenseitig ausgleichen sollen.