In der Ära der Superintelligenz, müssen Menschen dann nicht mehr arbeiten?

Science fiction und Technologie überlappen sich immer schneller.

Am 24. September, als Alibaba-CEO Wu Yongming auf der Yunqi-Konferenz sagte, dass das ultimative Ziel der KI die ASI (Super-Künstliche Intelligenz) sei und jeder Hunderten von Agenten habe, die ihm dienen, war die erste Frage, die mir in den Sinn kam: "Was macht dann der Mensch?"

Elon Musk sagte einmal in einem Interview: "Wenn die KI deine Arbeit besser als du erledigen kann, wie finden wir im Leben einen Sinn?" Dieselbe Frage taucht in Nick Bostroms Buch "Zukunftsländer: Das Ziel und der Sinn des Menschen im Zeitalter der Superintelligenz" auf. In einer Welt, in der "alle Probleme gelöst sind", was gibt unserem Leben dann noch Sinn und Zweck?

Die zweite, noch realistischere Frage ist: Wird der Mensch wirklich nicht mehr arbeiten müssen, wenn die ASI hereinkommt?

John Maynard Keynes sagte einst, dass bis 2030 das Bruttoinlandsprodukt der menschlichen Gesellschaft im Vergleich zu seiner Zeit um das Vier- bis Achtfache steigen würde und die durchschnittliche Arbeitszeit auf 15 Stunden pro Woche sinken würde. Aber in der Realität ist es so, dass es noch fünf Jahre bis 2030 gibt, das Pro-Kopf-BIP bereits um mehr als das Siebenfache gestiegen ist, aber die Hauptarbeitszeit weltweit immer noch 35 bis 40 Stunden pro Woche beträgt. Natürlich wird diese Zahl noch viele große chinesische Internetunternehmen ausgeschlossen, schließlich ist "996" ihre Arbeitskultur.

Die dritte, ebenfalls sehr realistische Frage ist: Was wird mit den traditionellen kommerziellen Softwareunternehmen passieren, wenn das Large Language Model das nächste Betriebssystem wird und man mit einem Satz einen Agenten erstellen kann? Wu Yongming sagte, dass das Large Language Model schließlich die Software verschlingen werde und es keine kommerzielle Software mehr geben werde, die von Ingenieuren professionell entwickelt werden muss.

Im Jahr 2023, als beim Programmieren mit Large Language Modellen "Intelligenz-Emergenz" auftrat, habe ich bei mehr als zehn Softwareunternehmen gefragt, was sie tun würden, wenn das Large Language Model in Zukunft die Anfragen der Benutzer, die in natürlicher Sprache formuliert sind, direkt in ausführbare Funktionen umwandeln könnte. Die meisten Unternehmensleiter hielten das für eine Phantasie.

Zwei Jahre später ist dies bereits eine sichtbare Zukunft.

Quelle: unsplash

Die Reihenfolge, in der man diese drei Fragen beantwortet, ist genau umgekehrt.

Wenn man mit der konkretesten und realistischsten Frage "Das Schicksal der Softwareunternehmen" beginnt und schließlich zur abstraktesten und grundlegendsten Frage "Der Sinn des menschlichen Daseins" gelangt, ist dieser umgekehrte Fragungsprozess vielleicht die Zeit von einigen Jahrzehnten, in der wir diese drei Fragen allmählich klären können.

Erstens: Wird das kommerzielle Softwareunternehmen verschwinden?

Nein, es wird "verschmelzen".

Die Kernlogik der traditionellen kommerziellen Software ist die "Funktionsverkapselung": Die Geschäftsprozesse werden in Code festgelegt, und die Benutzer können über die Benutzeroberfläche interagieren. Aber wenn das Large Language Model natürliche Sprache verstehen, APIs aufrufen, Code generieren und Aufgaben ausführen kann, wird die "Hülle" der Software überflüssig. Der Benutzer muss nicht mehr auf die Schaltfläche "Bestellung erstellen" klicken, sondern kann einfach sagen: "Erstelle für mich eine Bestellung von 5.000 Stück für Kunden A mit dem besten Logistikplan." - Der Agent erledigt den gesamten Prozess automatisch.

Das bedeutet, dass die Software nicht mehr in Form eines "Produkts" existiert, sondern in Form eines "Serviceflusses" oder eines "Absichts-Agenten". Die Rolle der Softwareunternehmen wird sich grundlegend ändern.

Das kann man auch an den neuesten Schritten einiger multinationaler kommerzieller Softwareunternehmen erkennen. SAPs Strategie dieses Jahres lautet "KI zuerst, Suite zuerst". Durch KI + Suite werden die Dateninseln gebrochen, und die Geschäftsprozesse können reibungslos von Anfang bis Ende ablaufen. So kann der Agent in allen Bereichen wie Finanzen, Lieferkette, Personalwesen und IT-Entwicklung sofort einsatzbereit sein. Wenn es so weitergeht, werden die Softwareunternehmen in Zukunft vielleicht zu "Agent-Betreibern". Auf den ersten Blick scheint es so zu sein, dass der Benutzer mit einem Satz einen Agenten erstellt, aber dahinter steckt die Branchensemantik, die auf unzähligen "Best Practices" gelernt wurde.

Deshalb wird das kommerzielle Softwareunternehmen nicht "verschwinden", sondern wird in die Ökosystem des Large Language Models integriert. Seine Schutzmauern sind nicht mehr der Code, sondern das Branchenwissen, die Datenressourcen und die Fähigkeit der ethischen Governance.

Zweitens: Wird der Mensch wirklich nicht mehr arbeiten müssen?

Arbeiten muss man nicht mehr, aber lernen muss man.

Innerhalb von weniger als drei Jahren seit ChatGPTs Einführung hat sich die Welt grundlegend verändert. Programmieren, Design, Rechtsdokumente, Marktanalyse und sogar Schreiben ... diese Jobs, die früher als "hochqualifiziert" galten, können jetzt von KI ganz oder teilweise erledigt werden.

Mit dieser Geschwindigkeit wird die KI in fünf Jahren einige menschliche Jobs ersetzen, und selbst die Jobs, die wir früher als kreativ-kognitiv betrachtet haben, können von Agenten ersetzt werden.

Quelle: unsplash

Aber "nicht mehr arbeiten müssen" bedeutet nicht "keine Aufgaben mehr haben". In der realen Welt müssen die Menschen immer noch Ziele setzen, Ergebnisse bewerten und Unklarheiten und Wertkonflikte behandeln. Beispielsweise kann ein Marketing-Agent 100 Pläne generieren, aber "welcher Plan passt besser zum Markenwert" muss immer noch vom Menschen beurteilt werden.

Wenn das Beurteilen und Entscheiden über die Arbeit der KI eine neue Arbeitsform wird, woher kommt dann diese Entscheidungsfähigkeit?

Kürzlich hat iQiyi angekündigt, ein "KI-Theater" zu starten, bei dem die Serien vollständig von KI erstellt werden, und hat den Regisseur von "Crouching Tiger, Hidden Dragon", Peter Pau, als Generalberater eingeladen. Warum einen Fotografen statt eines Regisseurs? Meine persönliche Vermutung ist, dass Ästhetik die wichtigste Fähigkeit für die zukünftige KI-Inhaltserstellung sein wird.

Ähnlich dazu, wenn der Mensch der wichtigste Entscheider für die Arbeitsergebnisse der KI werden will, muss man die Beurteilungsfähigkeit haben. Genau wie Peter Pau ein Oscar-Sieger für die beste Kameraarbeit ist.

Deshalb, wenn du ein neuer Berufstätiger wie "Agent-Ethik-Auditor", "Absichts-Klärer", "Digitaler Empathie-Coach" werden willst, musst du vielleicht nicht mehr anstrengende geistige und körperliche Arbeit leisten, aber das Lernen darf nicht aufhören, sondern muss sogar lebenslang fortgesetzt werden.

Drittens: Was macht der Mensch, wenn alle Probleme gelöst sind? (PS: Auch das Lernen ist nicht mehr notwendig, denn über die Hirn-Computer-Schnittstelle kannst du sofort Datenintelligenz erhalten.)

Ich habe keine Antwort.

In der mittelalterlichen Kokain-Legende ist die Utopie eine wunderbare Welt, in der "man mühelos lebt, nicht arbeiten muss, alle, ob jung oder alt, stark oder schwach, können das Leben genießen, niemals Sorgen um die Knappheit von Gütern haben, und sogar die Mauern aus Würstchen gebaut sind". In Wu Yongmings Beschreibung ist es, dass man jeden Tag Hunderte von Agenten hat, die 24 Stunden am Tag ununterbrochen für sich arbeiten. So wie Kevin Kelly meint, dass die zukünftigen intelligenten Brillen alle Daten der Welt und des Menschen kennen werden, und es wird eine transparente "Spiegelwelt" geben, und der Mensch kann dadurch vollkommen individualisierte Dienstleistungen erhalten und das Leben ist extrem bequem.

Aber bevor wir in die ASI-Zeit gelangen, in der der Mensch endlich "ausruhen" kann und alle Probleme gelöst sind, wie überwinden wir die "Dunkler Wald"-Regel, die sich in Hunderten von Tausenden von Jahren der menschlichen Evolution gebildet hat?

Isaac Asimov hat in seinen Kurzgeschichten der "Roboter"-Reihe eine Erde beschrieben, die von einem Supercomputer kontrolliert wird. Dieser Computer kennt jeden Schritt der Erde und kann die am besten geeigneten wirtschaftlichen Aktivitäten gemäß den Ressourcen der Erde planen. Er ist der eigentliche "Herrscher" auf der Erde. In "Zukunftsländer: Das Ziel und der Sinn des Menschen im Zeitalter der Superintelligenz" erzählt Fuchs Theodor in einem Brief an seinen Onkel die Geschichte, wie er und ein Philosoph versuchen, eine Tier-Utopie zu gründen, aber schließlich von einem Wolfsrudel angegriffen werden. Dies scheint zu andeuten, dass die Utopie schließlich der realen Welt, in der die Stärkeren die Schwächeren fressen, nicht widerstehen kann.

Von diesem Blickwinkel aus ist Kevin Kelly vielleicht realistischer. Er schrieb in "The Inevitable": "Die Progressivität bringt neue Vorteile, aber auch fast ebenso viele neue Probleme. Die heutigen Probleme stammen aus den Erfolgen von gestern. Und die technologischen Lösungen für die heutigen Probleme werden auch für morgen neue Probleme schaffen. Im Laufe der Zeit sammeln sich die echten Vorteile hinter diesem sich ständig wiederholenden Zyklus von Problemen und Lösungen allmählich an."

Trotzdem wird die ASI, ob wir sie wollen oder nicht, schließlich kommen.

Bilder / unsplash  Doubao AI

Dieser Artikel stammt aus dem WeChat-Account "IT Times", Autor: Hao Junhui. Veröffentlicht von 36Kr mit Genehmigung.