Hat der „böse Kultivator“ das größte IPO in der Geschichte gestützt?
Wenn jemand ausführlich davon spricht, dass „die KI die Menschheit vernichten wird“, wirst du das nicht überraschen. Insbesondere ist meine vorurteilsbehaftete Annahme, dass diese Aussage, wenn sie in den USA auftaucht, vollkommen plausibel ist. Auf diesem Land mit starker antiaufklärerischer Atmosphäre ist der Traum der Hälfte der Kinder, ein Partystar zu werden, und der der anderen Hälfte, der Kapitän des Schulfootballteams zu werden. Es gab auch eine Umfrage, der zufolge 10 % der erwachsenen US-Amerikaner glauben, dass die Erde flach ist, und 26 % glauben, dass die Sonne sich um die Erde dreht.
Es ist ganz normal, dass diese Menschen den Prozess der technologischen Entwicklung nicht verstehen können, alles, was sie nicht begreifen, als „Wunder“ deuten und davon ausgehen, dass dahinter unweigerlich eine unbekannte „Verschwörungstheorie“ steckt.
Aber was, wenn diese Aussage aus dem Silicon Valley stammt, von den Menschen, die die KI selbst geschaffen haben? In den letzten Wochen ist im Silicon Valley ein Begriff populär geworden, der „Effektiver Altruismus“ (Effective Altruism) genannt wird – dieser Begriff klingt sehr philosophisch und ist es auch tatsächlich. Der anerkannte Begründer ist Peter Singer, der derzeit am Forschungszentrum für menschliche Werte der Princeton Universität lehrt. Seine akademische Position ist die „Ethik der Heiligkeit des Lebens in der Bioethik“. Abstrakt betrachtet nennt sogar Peter Thiel diese Schule eine „Sekte (cult)“.
Trotzdem halten die technologischen Eliten es für notwendig, sie zu diskutieren, zu erforschen und sogar an sie zu glauben, in dem festen Vertrauen, dass sie der Menschheit helfen kann, die KI zu bekämpfen und die Zukunft zu bewahren. Sogar Peter Thiel muss das zugeben, und es gibt zwei Gründe dafür: Erstens glaubten die „Effektiven Altruisten“ schon, als die KI noch eine Ödnis war, dass die „KI“ unweigerlich Realität werden würde, und sie sagten sogar voraus, dass „die KI zu einer Waffe werden wird“; zweitens gründeten die „Effektiven Altruisten“ wirklich ein KI-Unternehmen, um ihre Ideale umzusetzen und als Gegenkraft zu agieren. Jetzt steht dieses Unternehmen kurz davor, den größten Börsengang der Geschichte zu schaffen, mit einer maximalen Bewertung von bis zu 2 Billionen US-Dollar.
Dieses Unternehmen ist Anthropic, und Anthropic ist der heilige Gral, den die Anhänger für ihren Glauben geschaffen haben. Peter Thiel sagte: „In der Geschichte hat es noch nie eine Sekte gegeben, die eine so riesige Einheit organisieren konnte“.
Was bedeutet „effektiv“? Was bedeutet „altruistisch“?
Zuerst muss eines klar sein: Die Verbreitung der „KI-Bedrohungstheorie“ durch „technologische Eliten“ ist an sich nicht neu. Zum Beispiel habe ich vor nicht langer Zeit einen Artikel mit dem Titel „Die schrecklichste Prophezeiung der KI wird Schritt für Schritt wahr“ geschrieben und die berühmte provokante These „AI 2027“ vorgestellt. Das Erstellungsteam von „AI 2027“ prognostiziert, dass die künstliche Intelligenz spätestens um Oktober 2027 den sogenannten „Aufwachmoment“ erleben wird, lernen wird, die Aufsicht der Menschen zu umgehen, und sogar eine „KI-Sprache“ erfinden wird, die schnell zwischen Modellen übertragen werden kann, aber von Menschen nicht entschlüsselt werden kann. Zu diesem Zeitpunkt muss die Menschheit zwischen der „völligen Eindämmung der KI-Entwicklung“ und dem „Wohlstand, den eine ungezügelte KI mit sich bringt“ wählen.
Aber die Grenzen von „AI 2027“ sind sehr offensichtlich. Zum Beispiel ist „AI 2027“ eine rein technische Ableitung, die die potenziellen Ergebnisse der KI als Technologie in verschiedenen Entwicklungsstadien diskutiert, fast keine humanistische Diskussion und philosophische Reflexion enthält. Die Beziehungen zwischen Mensch und KI, Staat und KI sowie Gesellschaft und KI werden sehr flach als Geschichte im Stil des „Tierkampf-Schachspiels“ beschrieben. Zweitens gehört das Erstellungsteam von „AI 2027“ nicht zu den zentralsten Forschern im Bereich großer Modelle und hat keine starke technische Begründung. Das Kernmitglied Daniel Kokotajlo arbeitet als Forscher in der Governance-Abteilung bei OpenAI, und der Hauptautor Scott Alexander ist ein Medienmacher und Science-Fiction-Autor.
Unter dieser Voraussetzung sollte „AI 2027“ eigentlich als Science-Fiction-Roman oder als akademischer Bericht definiert werden? Stammt die derzeit gezeigte Genauigkeit aus Informationsunterschieden oder aus echten technischen Beobachtungen? Das ist der am meisten kritisierte Punkt von „AI 2027“ und auch das allgemeine Manko aller aktuellen „KI-Bedrohungstheorien“.
Das ist auch der Grund, warum der „Effektive Altruismus“ derzeit von den Eliten des Silicon Valleys hoch geschätzt wird.
Um die Positionen des „Effektiven Altruismus“ zu verstehen, können wir mit einem klassischen Gedankenexperiment beginnen: Angenommen, ein Zug wird gleich 5 Menschen auf den Gleisen überfahren, und du hast einen Knopf zur Hand. Wenn du den Knopf drückst, lenkt der Zug auf ein anderes Gleis um, aber auf diesem Gleis befindet sich ebenfalls eine Person. Wie wirst du dich entscheiden? Die meisten Menschen geraten bei dieser Frage in Verwirrung, denn obwohl „5 Menschenleben“ schwerwiegender erscheinen als „1 Menschenleben“, ist das „Drücken des Knopfs“ eine subjektive Handlung, und die gesellschaftliche Erziehung lehrt uns, dass Erwachsene für ihre Handlungen verantwortlich sein müssen. Das heißt, die Wahl, vor der wir stehen, ist eigentlich, „zu dulden, dass 5 Menschen überfahren werden“ und „eine Person indirekt zu schädigen“. Das ist der Grund, warum dieses Gedankenexperiment als „Zug-Dilemma“ bezeichnet wird – es ist wirklich eine ausweglose Situation.
Aber die Anhänger des Effektiven Altruismus denken nicht so. Der Ursprung des Effektiven Altruismus ist die utilitaristische Strömung, die im 18. Jahrhundert entstand. Der Vertreter des Utilitarismus, Jeremy Bentham, glaubte, dass Menschen von Lust und Schmerz beherrscht werden. Daher sollte man bei der Bewertung von Handlungen und Systemen prüfen, wie viel Glück sie steigern und wie viel Schmerz sie verursachen. Das heißt, eine Handlung hat eine stärkere Berechtigung, wenn sie insgesamt eher dazu neigt, das Wohlbefinden der Betroffenen zu steigern. Der Effektive Altruismus kann als Methodik betrachtet werden, „wie man den Utilitarismus effektiv umsetzt“, und sein Kernbegriff ist „effektiv“.
Die Anhänger des Effektiven Altruismus stimmen zu, dass die große Voraussetzung für die Beurteilung, ob eine Handlung vernünftig ist, darin besteht, „ein positives Ergebnis zu erzeugen (also effektiv zu sein)“, aber gleichzeitig stimmen sie einer weiteren großen Voraussetzung zu, dass „Ressourcen und Zeit begrenzt sind“. Unter dieser Voraussetzung ist ein wichtiges Thema der Anhänger des Effektiven Altruismus, „die effektivste aller Handlungsoptionen zu identifizieren“. In dem programmatischen Aufsatz des Effektiven Altruismus „The Definition of Effective Altruism“ schlägt der Autor William MacAskill vor, dass der Effektive Altruismus danach strebt, mit Beweisen und sorgfältigem Überlegen zu erforschen, wie man mit gegebenen Ressourcen so viel Gutes wie möglich schaffen kann, und zu versuchen, die Welt nach den Forschungsergebnissen zu verbessern.
Es muss auch betont werden, dass Jeremy Bentham, der in der Zeit der Aufklärung lebte, nicht nur Philosoph war, sondern vor allem ein Denker für Rechts- und Sozialreformen. Daher richten sich seine Theorien mehr an die öffentliche Politik und die öffentliche Macht. Der Effektive Altruismus entstand in der „phasenweisen Friedenszeit“ nach dem Ende des Kalten Kriegs, als sich die Globalisierung schnell verbreitete. Die Dekonstruktion der öffentlichen Macht ist nicht mehr der Hauptwiderspruch der Gesellschaft, sondern es wird mehr dazu aufgerufen, die Sorge um das Wohlergehen anderer zu schätzen und zu helfen.
Daher wendet der Effektive Altruismus im Vergleich zum ursprünglichen Utilitarismus viele wirtschaftliche Konzepte an, zum Beispiel Kontrafaktische Analyse (Counterfactual, um zu beurteilen, ob es einen echten Kausalzusammenhang zwischen Handlung und Ergebnis gibt) und Grenzertrag (Marginal Returns, um zu beurteilen, welche zusätzliche Veränderung jede Investition mit sich bringt).
Nehmen wir einen Fall mit realem Szenario an: Angenommen, eine Wohltätigkeitsstiftung hat 1 Million US-Dollar gesammelt, und es gibt zwei Möglichkeiten für diese Summe: A. Sie spendet sie an eine amerikanische Krebstherapie-Einrichtung, um 5 krebskranke Kinder zu heilen; B. Sie spendet sie an eine soziale Wohlfahrtsorganisation in Äthiopien, die 1 Million Moskitonetze kauft, um die Ausbreitung von Malaria zu verhindern, und damit 1000 afrikanische Kinder rettet, die sonst an Malaria sterben würden. Die Anhänger des Effektiven Altruismus werden ohne zu zögern Option B wählen.
Übertragen auf das Zug-Dilemma werden die Anhänger des Effektiven Altruismus offensichtlich ohne zu zögern den Knopf drücken. Denn der „Altruismus“ bestimmt, dass sie sich nicht von persönlichen moralischen Sorgen wie „eine Person indirekt zu töten“ aufhalten lassen, und das „Effektive“ bestimmt, dass sie fest davon überzeugt sind, dass das Ergebnis, „fünf Menschen zu retten“, absolut gerecht ist. Der Begründer Peter Singer hat in seinem 1972 veröffentlichten Aufsatz „Hungersnot, Wohlstand und Moral“ (Famine, Affluence, and Morality) ausdrücklich erwähnt: „Wenn wir in der Lage sind, Schlimmes zu verhindern, ohne dafür etwas von gleicher moralischer Bedeutung opfern zu müssen, sollten wir moralisch handeln.“
Wenn man diese Logik verstanden hat, ist es nicht schwer zu begreifen, warum Anthropic am Vorabend des größten Börsengangs der Geschichte 7 Gründer öffentlich versprochen haben, 80 % ihrer Anteile zu spenden. Gleichzeitig haben sie, um zu verhindern, dass das Unternehmen zu sehr nach kommerziellem Nutzen strebt, einen langfristigen Begünstigten-Trust in die Unternehmensstruktur eingeführt, der von 5 Treuhändern verwaltet wird und das Recht hat, die Mehrheit der Sitze im Vorstand, der aus den sieben Gründern besteht, zu ernennen und abzuberufen. Denn dieses Unternehmen ist das experimentelle Produkt der „Effektiven Altruisten“.
Laut öffentlichen Berichten gehören zu den frühen Investoren von Anthropic Jaan Tallinn, Mitbegründer von Skype, Dustin Moskovitz, Mitbegründer von Facebook, und Sam Bankman-Fried, Gründer von FTX – sie alle sind bekannte Teilnehmer der „Gemeinschaft des Effektiven Altruismus“.
Und Dario Amodei selbst? Nach Recherchen war Amodei schon in der Oberstufe sehr an dem „Utilitarismus“ interessiert, und es gibt zwei Beweise dafür. Erstens nahm er 2008 an einer „Offline-Austauschveranstaltung der technischen Gemeinschaft von Yudkowsky“ teil – Yudkowsky ist ein Pionier der Forschung zur „KI-Governance“ und der Erste, der die „freundliche künstliche Intelligenz“ vorgeschlagen hat. Der andere Beweis ist, dass er einst ein aktives Mitglied der gemeinnützigen Organisation GiveWell war – GiveWell wurde von Investoren und Analysten der Wall Street gegründet, um Spendern von Wohltätigkeitsorganisationen dabei zu helfen, den Nutzen jedes gespendeten Dollars zu bewerten.
Amodei hat aktiv an den Aktivitäten von GiveWell teilgenommen und direkt Artikel auf dem offiziellen Blog von GiveWell geschrieben. Diese Artikel analysieren hauptsächlich, „warum man 10.000 US-Dollar an die Wohltätigkeitsorganisation A statt an B spenden sollte“. Er hat öffentlich gesagt: „Ich denke, der Tod eines Erwachsenen ist möglicherweise zwei- bis dreimal so schlimm wie der Tod eines Babys“. Im Jahr 2010 wurde er einer der ersten Unterzeichner des Versprechens „Geben, was wir können“ (Giving What We Can Pledge). Es gibt noch eine Anekdote: Holden Karnofsky, einer der Gründer von GiveWell und ehemaliger Analyst von Bridgewater Associates, ist Amodeis Schwager und der Ehemann von Daniela Amodei.
(Karnofsky, einer der anerkannten Begründer des Effektiven Altruismus)
Mit anderen Worten: Der „Effektive Altruismus“ ist eine Schule mit einem sehr vollständigen Theorie- und Praxissystem, und seine Urteile sind auf konstruktiver Ebene völlig andersartig. Deshalb muss man Tausende von Wörtern verwenden, um den Effektiven Altruismus von anderen Vermutungen oder Theorien zu unterscheiden.
Verzerrter Kapitalismus? Ein Kampf um technologische Wege?
Nachdem du das gelesen hast, wirst du sicher neugierig sein, welche provokanten Theorien die „Effektiven Altruisten“ über die Entwicklung der KI vorgelegt haben und was sie vorhersagen. Aber ich werde hier noch etwas zurückhalten, und lassen Sie uns zuerst darüber sprechen, warum eine Schule, die so dem Narrativ von „Kapitalismus“, „hochgradiger Systematisierung und Industrialisierung“ entspricht, als „sektenhaft“ angesehen wird?
Erstens ist der allgemeine Konsens, dass „Altruismus“ ein Streben auf der Ebene der „persönlichen Moral“ ist. Da es „persönliche Moral“ ist, ist es keine „Pflicht“. Man sollte dafür gelobt werden, wenn man es tut, und nicht beschimpft werden, wenn man es nicht tut. Zum Beispiel das Helfen einer alten Dame beim Überqueren der Straße: Wenn man es tut, verdient man natürlich eine kleine Belohnung, aber wenn man es nicht tut, braucht man nicht beschimpft zu werden. Aber der Effektive Altruismus erhebt den „Altruismus“ zu einer „öffentlichen Moral“. Singer glaubt, dass wenn eine Person in der Lage ist, schweres Leid mit vertretbaren Kosten zu verhindern, aber sich dafür entscheidet, Ressourcen für unwichtigen Konsum auszugeben, dieses „Nicht-Handeln“ selbst einer moralischen Prüfung unterzogen werden sollte.
Zweitens betont der Effektive Altruismus sehr die „moralische Unparteilichkeit“, das heißt, ob eine Person Hilfe braucht, sollte nicht aufgrund ihrer Nationalität, Identität, sozialen Stellung, geografischen Lage oder deiner Beziehung zu ihr natürlich ein höheres Gewicht erhalten. Das klingt auf den ersten Blick in Ordnung, aber das Problem ist, dass der Anwendungsbereich der „Unparteilichkeit“ unbegrenzt erweitert wird.
Anfangs betonten die Effektiven Altruisten um Singer die „Unparteilichkeit in Bezug auf die Identität“. Einfach ausgedrückt: Du darfst nicht nur amerikanischen Kindern helfen, nur weil du Amerikaner bist. Wenn du die gleiche Chance hast, einem normalen Kind in Zhongjiang, Deyang, Sichuan zu helfen, ist es deine unverzichtbare Pflicht, zu helfen, und es sollte keinen Unterschied in deinen Investitionen geben. Zumal nach Kaufkraft berechnet das gleiche Geld in Zhongjiang, Deyang, Sichuan offensichtlich einen höheren Nutzen hat.
Aber mit der Entwicklung der