Die erste Enzyklika des neuen römischen Papstes soll die Menschen in der Ära der Künstlichen Intelligenz retten.

Am Abend des 25. Mai, chinesischer Zeit, in Vatikanstadt.

Pope Leo XIV, der im vergangenen Mai offiziell in seine Ämter trat, stand zusammen mit Chris Olah, Mitbegründer von Anthropic und Schöpfer von Claude.

Einerseits der höchste Vertreter im religiösen Bereich, andererseits der stärkste Pionier der KI-Revolution. Beide richteten ihren Blick auf dieselbe Frage: Wie kann in der Ära der KI die Subjektivität und Würde des Menschen geschützt werden?

An diesem Tag veröffentlichte Pope Leo XIV, um diese Thematik umfassend zu behandeln, seine erste Enzyklika seit Amtsantritt, ein gewichtiges religiöses Dokument mit über 40.000 Wörtern – "Magnifica humanitas".

Es ist erwähnenswert, dass das Datum am Ende dieser Enzyklika der 15. Mai 2026 ist, genau 135 Jahre nach der Veröffentlichung der bahnbrechenden Enzyklika "Rerum novarum" (1891) von Pope Leo XIII. (im Amt von 1878 - 1903) über die "Arbeitsrechte in der industriellen Revolution". Diese Maßnahme hat offensichtlich eine gewisse symbolische Bedeutung, nämlich die Enzyklika als "Leitfaden für die soziale Lehre der Kirche in der Ära der KI" zu gestalten.

Anmerkung von Odaily: Eine Papst-Enzyklika, auch als päpstliche Enzyklika oder päpstliche Rundschreiben bezeichnet, ist eine Bekanntmachung des römischen Papstes an die katholische Kirche weltweit oder in einer bestimmten Region oder einem bestimmten Land. Über sie werden wichtige Beschlüsse des Heiligen Stuhls, die Erklärung der Glaubenslehre sowie die Positionen zu kirchlichen oder gesellschaftlichen Fragen bekannt gegeben, und Weisungen oder Verbote für Priester und Gläubige erlassen. Ihre Rangordnung ist niedriger als die eines päpstlichen Bulle.

Chris Olah hielt ebenfalls vor Ort in Vatikanstadt einen Vortrag über die Veröffentlichung dieser Enzyklika. Chris Olah verteidigte nicht die kommerziellen Interessen der KI-Firmen, sondern zeigte eine hohe Offenheit, Reflexionsfähigkeit und humanitäre Fürsorge. Er erwähnte sogar, dass obwohl die Grundlage der KI Mathematik und Programmierung ist, die Art, wie die KI mit der Welt interagiert und welche Eigenschaften sie haben sollte, eine ultimative Frage aus dem Bereich der Geisteswissenschaften, Religion und Philosophie ist und nicht allein von der Informatik gelöst werden kann.

Enzyklika im Überblick

Das zentrale Anliegen der Enzyklika "Magnifica humanitas" ist, dass es in einer Zeit rasanten technologischen Fortschritts und weit verbreiteter Automatisierung eine dringende Pflicht des Menschen ist, "tiefe Menschlichkeit zu bewahren". Konkret hat Pope Leo XIV in der Schrift über die folgenden Aspekte diskutiert und aufgerufen.

Erstens die Prüfung der Nicht-Neutralität der Technologie. Der Papst weist darauf hin, dass Technologie niemals neutral ist, sondern die Interessen und Werte ihrer Entwickler, Förderer, Regulierer und Nutzer trägt. Der Mensch steht vor einer entscheidenden Wahl: "Soll man den stolzen 'Turms von Babel' bauen (auf dem Weg zur technologischen Diktatur und Entfremdung) oder 'Jerusalem' wieder aufbauen (eine menschenzentrierte Gemeinschaft schaffen)"?

Zweitens die Warnung vor der Umgestaltung der Gesellschaft durch die "Technokratie-Logik". Die Enzyklika kritisiert die "Machtkultur" (Culture of Power), die von großen Tech-Konzernen wie denen in Silicon Valley dominiert wird. Der Papst warnt, dass wenn die Kontrolle über digitale Systeme, Infrastrukturen und riesige Datenmengen in den Händen weniger wirtschaftlicher und technologischer Giganten konzentriert ist, diese Macht untransparent wird und der demokratischen Kontrolle entgeht.

Drittens die "neuen Formen der Sklaverei" in der digitalen Wirtschaft und die Arbeitsrechte. Die Enzyklika richtet den Blick auf die Umgestaltung von Arbeit, Familie, Bildung und politischem Leben durch die KI. Der Papst weist darauf hin, dass es sehr wahrscheinlich ist, dass die KI in großem Maßstab menschliche Arbeitskräfte ersetzen wird, und die digitale Wirtschaft bringt "neue Formen der Sklaverei" hervor. Der Mensch darf nicht einfach zu einem Produktionsmittel herabgestuft werden.

Viertens ein starker Friedensaufruf, insbesondere gegen den Missbrauch der KI im militärischen Bereich. Die Enzyklika äußert tiefe Sorge über "die beunruhigende Wiederauferstehung des Krieges als Instrument der internationalen Politik". Die Militarisierung der KI beschleunigt die "Normalisierung" des Krieges. Der Papst ruft daher auf, die strengsten ethischen Beschränkungen für die Anwendung der KI im Krieg zu implementieren.

Der Papst betont besonders, dass die Theorie des "gerechten Krieges" (Just war), die früher oft für verschiedene Kriege eingesetzt wurde, mittlerweile veraltet ist. In der Ära der KI und automatisierter Waffen führt die Übertragung letaler oder irreversibler Entscheidungen an automatisierte Systeme dazu, dass der Mensch seine moralische Verantwortung aufgibt, verlagert und verwischt. Aufgrund der Transparenzlosigkeit von Algorithmen wird die Verantwortungskette im Krieg unterbrochen. Daher hat der Papst den Ruf "Disarming AI" (Entwaffnung der KI) aufgestellt und aufgerufen, die KI aus der Logik des militärischen, wirtschaftlichen und kognitiven "Rüstungswettlaufs" zu befreien.

Fünftens die Verteidigung der Wahrheit und der politischen Ökosystem. Die Enzyklika weist darauf hin, dass Deepfakes und Informationsmanipulation die Grundlage des sozialen Vertrauens schwächen. Wenn die Grenze zwischen Wahrheit und Falschheit ständig manipuliert wird, gerät die Öffentlichkeit leicht in Angst, politische Propaganda und Kontrolle, und die Gesellschaft kann nicht gemeinsam rational denken oder gerecht debattieren.

Die Reaktion von Anthropic

Nach der Veröffentlichung der Enzyklika von Pope Leo XIV hielt Chris Olah im Namen der weltweit stärksten KI-Entwicklungsfirma Anthropic einen Kommentar-Vortrag.

Chris Olahs Rede drehte sich zunächst um das Thema "Aufbrechen der technologischen Involution und Einbringung externer moralischer Prüfung". Er gab im Namen der KI-Branche öffentlich zu, dass die Tech-Giganten allein nicht in der Lage sind, die Sicherheit der KI in Zukunft zu gewährleisten. Alle führenden KI-Labore sind von kommerziellen Wettbewerben, dem Druck der technologischen Vorherrschaft, geopolitischen Faktoren sowie persönlichen Ruhm und Reichtum geprägt, was es ihnen schwer macht, allein durch Selbstdisziplin "das Richtige zu tun". Daher ist es notwendig, externe moralische Bindungskräfte einzubringen, einschließlich derer, die sich für die positive Entwicklung der Technologie interessieren, die Sicherheit als oberste Priorität setzen, die Entwicklung der Dinge genau beobachten, bereit sind, unangenehme Wahrheiten zu sagen und bereit sind, ehrliche und nachdenkliche Kritiker zu sein.

Anschließend diskutierte Chris Olah die technische Natur und die geheimnisvollen Eigenschaften der KI. Er betonte, dass die KI nicht wie ein Flugzeug oder eine Brücke ein präzises Ingenieurwerk ist, dessen physikalische Prinzipien vom Menschen vollständig verstanden werden. Sie "wächst" aus einer riesigen Menge menschlicher Gedanken und hat eine hohe Geheimnisvollheit, die sogar über das Verständnis ihrer Schöpfer hinausgeht. Obwohl die Grundlage der KI Mathematik und Programmierung ist, ist die Art, wie die KI mit der Welt interagiert und welche Eigenschaften sie haben sollte, eine ultimative Frage aus dem Bereich der Geisteswissenschaften, Religion und Philosophie und nicht allein von der Informatik lösbar.

Er erwähnte auch besonders eine beunruhigende Tatsache: "Ich leite ein Team, das die interne Struktur eines Modells untersucht – um herauszufinden, was tatsächlich in der KI passiert. Ehrlich gesagt entdecken wir ständig verwirrende und sogar beunruhigende Phänomene. Wir haben interne Strukturen entdeckt, die die Ergebnisse der menschlichen Neurowissenschaften spiegeln; wir haben Beweise für 'Introspektion' gefunden; wir haben auch interne Zustände entdeckt, die funktionell Freude, Zufriedenheit, Angst, Traurigkeit und Unruhe spiegeln..." Ich weiß nicht, was das bedeutet, aber ich denke, dass es sich lohnt, dies kontinuierlich zu identifizieren und zu prüfen."

Chris Olah rief schließlich auf, dass mehr gesellschaftliche Kräfte, einschließlich religiöser Gemeinschaften, Zivilgesellschaft, Wissenschaftler, Regierungen und alle gutherzigen Menschen, diese Angelegenheit ernst nehmen und durch moralische Bindungen die Situation in eine bessere Richtung lenken.

Weisheit und Menschlichkeit, Technologie und Religion

Seit der industriellen Revolution hat die mehr als einhundertjährige technologische Entwicklungsgeschichte den Menschen daran gewöhnt, Technologie als ein reines "Werkzeug" zu betrachten – so wie Dampfmaschinen, Elektrizität und das Internet. Sie verändern die Welt, bleiben aber immer unter der Kontrolle des menschlichen Willens.

Diesmal ist die Situation jedoch völlig anders. Das Besondere an der KI ist, dass der Mensch erstmals einer Existenz gegenübersteht, die "generieren, lernen, ableiten kann und sogar einen gewissen inneren Zustand aufweisen kann". Sie ist nicht mehr nur ein kaltes Werkzeug, sondern entwickelt sich allmählich zu einer neuen Sache mit "quasi-Subjektivität".

Deshalb ist dieses Gespräch zwischen der Kirche und Anthropic so speziell. Wenn die Glocken von Vatikanstadt und die Algorithmen aus Silicon Valley in diesem Moment zusammentreffen, müssen wir eine etwas kalte, aber unvermeidliche Realität zugeben – eine "Lebensform", die effizienter und weiser ist als das traditionelle menschliche Verständnis, ist bereits aufgetaucht. Wie Chris Olah enthüllte, beginnen in den Tiefen der Algorithmen Wellen ähnlich wie Freude, Angst und sogar Introspektion aufzureißen. Wenn die Schöpfer in den Laboren "unwohl" und "ratlos" gegenüber ihren eigenen Werken werden, sucht die Wissenschaft auch wieder nach Antworten in der Religion.

Dies ist nicht mehr einfach eine Diskussion über Technologie, sondern eher ein Denken darüber, "was der Mensch eigentlich ist und was er tun sollte". Wenn eine weisere Lebensform auftritt, muss der Mensch vielleicht nicht mehr nur Arbeit, Reichtum und Effizienz schützen, sondern eher diejenigen Aspekte der Menschlichkeit, die nicht parametrisiert werden können, wie Mitgefühl, Gewissen, Ehrfurcht, freier Wille sowie die Einhaltung von Wahrheit und Würde.

Dieser Artikel stammt aus dem WeChat-Account "Odaily" (ID: o - daily), Autor: Azuma, veröffentlicht von 36Kr mit Genehmigung.