Es ist so überraschend, dass der Papst und der Gründer von Anthropic gemeinsam eine Pressekonferenz abhalten werden.

Papst Leo XIV wird am 26. Mai seine erste Enzyklika während seiner Amtszeit veröffentlichen. Das Thema dieser Enzyklika richtet sich direkt auf KI. Chris Olah, Mitbegründer von Anthropic und Schöpfer von Claude, ist eingeladen, gemeinsam aufzutreten. Der Vatikan gründet gleichzeitig einen KI-Beirat. Eine zweitausendjährige alte Institution versucht, mit ihrer moralischen Autorität die Lücke in der KI-Regulierung zu schließen – und die Bevölkerung, die sie umfasst, ist größer als die Zuständigkeitsbereiche jeder KI-Gesetzgebung.

Eine Institution mit 1,4 Milliarden Gläubigen und zweitausendjähriger Geschichte hat KI als oberste Priorität auf die Tagesordnung gesetzt und hat den Schöpfer von Claude eingeladen, zusammen eine Positionspapier zu veröffentlichen.

Die zentrale Frage, die dieses Papier beantworten soll, ist genau die, der sich die gesamte KI-Branche nicht entziehen kann: Wenn Maschinen immer menschlicher werden, worauf gründet sich eigentlich die Würde und die Unersetzbarkeit des Menschen?

Am 26. Mai wird Papst Leo XIV in Rom die Enzyklika „Magnifica Humanitas“ („Die großartige Menschlichkeit“) veröffentlichen, die sich auf den „Schutz des Menschen in der KI-Zeit“ konzentriert.

Eine Enzyklika ist eines der höchstrangigen Lehrdokumente der katholischen Kirche und richtet sich an die weltweit 1,4 Milliarden Katholiken. Sie ist auch ein markantes Signal des neuen Papstes, seine politischen Prioritäten zu benennen.

Dieser US-amerikanische Papst mit mathematischem Hintergrund hat sich seit jeher um die Ethik in der KI-Zeit und den Schutz der Menschlichkeit bemüht.

Die erste Enzyklika des Papstes richtet sich an die KI

Diese Veröffentlichung bricht zwei Traditionen.

Normalerweise tritt der Papst nicht persönlich bei der Veröffentlichung einer Enzyklika auf, sondern lässt dies von Kardinalen erledigen. Leo XIV hat sich entschieden, persönlich anwesend zu sein.

Zusätzlich hat er Chris Olah, Mitbegründer von Anthropic, als Laiensprecher eingeladen. Dies ist in der Geschichte der Enzyklikapublikationen fast ohne Präzedenz.

Die Einschätzung des Vatikanjournalisten Andrea Vreede lautet: „Wenn nur die Kardinäle die Enzyklika veröffentlichen, wird niemand wirklich zuhören. Aber wenn der Papst anwesend ist, werden alle Kameras auf ihn gerichtet.“

Der Zeitpunkt wurde sorgfältig gewählt.

Die Enzyklika wurde am 15. Mai unterzeichnet, genau an demselben Tag wie vor 135 Jahren Papst Leo XIII. die Enzyklika „Rerum novarum“ unterzeichnet hat.

Leo XIII.

„Rerum novarum“ beantwortete die Auswirkungen der industriellen Revolution auf die Rechte der Arbeiter und gilt als Gründungsdokument der katholischen Soziallehre.

Leo XIV hat in seiner Inaugurationsrede diese Parallele deutlich gemacht: „Die Kirche stellt ihren Schatz an Soziallehre allen Menschen zur Verfügung, um auf eine weitere industrielle Revolution und die Entwicklungen im Bereich der Künstlichen Intelligenz zu antworten.“

Fast gleichzeitig hat der Vatikan am 16. Mai die Gründung eines KI-Beirats genehmigt, der sieben kirchliche Institutionen integriert und erstmals die verstreuten KI-Aktivitäten koordiniert.

Leo XIV hat zuvor in einer Rede an einer der größten Universitäten Europas die Militarisierung der KI als eine Tendenz beschrieben, die die Welt in eine „Zerstörungsschleife“ treibt.

Warum Anthropic?

Die Einladung an Olah ist das Ergebnis einer präzisen Übereinstimmung der Interessen beider Seiten.

Olah leitet bei Anthropic die Forschung zur Interpretierbarkeit (Interpretability), deren Ziel es ist, die schwarze Kiste der KI aufzuschließen und zu verstehen, was in neuronalen Netzen tatsächlich passiert.

Dies ist genau die technische Version der Frage, die die Kirche am meisten interessiert: Kann die KI ausreichend verstanden und somit vertraut werden?

Anthropic hat ein systematisches Engagement in der religiösen Ethik.

Das Unternehmen hat zuvor Geistliche eingeladen, an der Erstellung der „Verfassung“ von Claude mitzuwirken.

Weiterführende Lektüre: Anthropic hat offiziell die „Seele“ von Claude Open Source gemacht.

Ende April dieses Jahres haben Vertreter von Anthropic und OpenAI gemeinsam an der ersten Runde Tische der „Faith-AI Covenant“ in New York teilgenommen und mit Führern aus verschiedenen religiösen Traditionen wie Hinduismus, Sikhismus, Judentum und Orthodoxie über ein KI-Ethik-Rahmenwerk diskutiert. Weitere Veranstaltungen werden in mehreren Städten weltweit folgen.

Ein noch realistischeres Argument ist, dass Anthropic mit der US-Regierung wegen der militärischen Nutzung von KI in Konflikt geraten ist und sich weigert, dass seine Modelle für die Zielsuche von autonomen Waffen und die Massenüberwachung eingesetzt werden. Diese Position stimmt in hohem Maße mit der anti-militaristischen Haltung der Kirche überein.

Für Anthropic stärkt die moralische Zustimmung der Kirche die Markenposition als „verantwortliche KI“.

Für die Kirche bedeutet es, dass ein Unternehmen, das tatsächlich an KI-Sicherheitstechnologien arbeitet, die Enzyklika stärkt und sie von leerem Reden abhebt. Beide Seiten profitieren voneinander.

Silicon Valley war lange Zeit skeptisch gegenüber organisierter Religion.

Brian Boyd vom Future of Life Institute interpretiert diese Wende so: „Das Motto von Silicon Valley lautet 'Schnell handeln und alles brechen'. Sie haben zu viele Dinge und zu viele Menschen zerstört.“

Die Annäherung an religiöse Autoritäten ist ein Versuch, das übermäßige Vertrauen wiederherzustellen.

Moralische Outsourcing oder PR-Werkzeug?

Obwohl die Erzählung warm klingt, sehen Kritiker eine andere Realität.

Die schärfste Kritik kommt von Dylan Baker, Leiter der Forschung am Distributed AI Research (DAIR) Institute.

Er meint, dass die Diskussion um „ethische KI“ die grundlegendere Frage verdeckt: Sollten bestimmte KI-Systeme überhaupt entwickelt werden?

Wenn der Diskussionsrahmen sich auf „Wenn wir es bauen, dann richtig“ beschränkt, wird die vorherige Frage „Sollten wir es überhaupt bauen?“ völlig übersprungen.

Rumman Chowdhury, CEO von Humane Intelligence und ehemalige AI-Wissenschaftsbeauftragte in der Biden-Regierung, ist ebenfalls skeptisch: „Im besten Fall ist es ein Ablenkungsmanöver, im schlimmsten Fall wird der eigentliche wichtige Diskussionspunkt abgeleitet.“

Nach ihrer Meinung versucht Silicon Valley, aus der Religion „allgemeine Ethikprinzipien“ zu finden, um graue Zonen zu behandeln. Aber die Wertunterschiede zwischen den weltweiten religiösen Traditionen sind nicht kleiner als die Regulierungsunterschiede zwischen den Ländern.

Die strukturellen Probleme sind deutlicher.

Papstliche Enzykliken beruhen auf moralischer Überzeugung und haben keine rechtliche Bindungskraft.

Das Faith-AI Covenant ist ein freiwilliges Versprechen, und die Teilnehmer können jederzeit zurücktreten.

Das EU-KI-Gesetz sieht Strafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes vor, aber die extraterritoriale Zuständigkeit ist begrenzt.

Auf Bundesebene in den USA gibt es bislang kein einheitliches KI-Regulierungsrahmenwerk.

Es gibt derzeit keine einzige globale Mechanismus, der die Entwicklung der KI effektiv einschränken kann.

Die Kirche füllt eher eine Lücke in der Diskussionsmacht als in der Regulierungsfähigkeit.

Wenn Maschinen immer menschlicher werden, wie kann der Mensch sich selbst als Mensch identifizieren?

Alle Diskussionen über KI-Ethik, unabhängig davon, ob sie auf religiösen Lehren, Gesetzen oder Unternehmenswerten basieren, führen letztendlich auf dieselbe Frage: Wo liegt die Unersetzbarkeit des Menschen?

In der Vergangenheit wurden viele Antworten gegeben: Intelligenz, Kreativität, Sprachfähigkeit, emotionale Resonanz, moralische Urteilsfähigkeit.

Diese Antworten werden zunehmend erschüttert.

KI kann Gedichte schreiben, Musik komponieren, Jurastatexamen bestehen und Benutzer zu einer echten emotionalen Abhängigkeit bringen.

Wenn diese Fähigkeiten, die einst als „das, was den Menschen ausmacht“ galten, nun nachgeahmt werden können, worauf kann der Mensch sich dann noch berufen, um sich selbst zu definieren?

Die Antwort könnte in einer Eigenschaft liegen, die KI niemals erlangen kann: Endlichkeit.

Der Mensch stirbt.

Gerade weil das Leben ein Ende hat, hat jede Entscheidung Gewicht, jeder Verzicht hat eine Kosten und jeder Versprechen hat einen Sinn.

Moralische Urteile sind niemals das Ergebnis einer logischen Deduktion.

Sie basieren auf der Erfahrung, dass „wenn man etwas falsch macht, es weh tut, man bereut es und man etwas Unersetzliches verliert“.

KI kann den Prozess des Abwägens von Vor- und Nachteilen simulieren, aber sie hat keine Fähigkeit, die Konsequenzen zu tragen, keine Notwendigkeit, die durch den Tod entsteht, und keine Angst vor der Existenz, die aus der Einsicht erwächst, dass man nur eine Chance in diesem Leben hat.

Angesichts des bevorstehenden Auftretens von AGI und ASI ist das wirklich bedrohliche Szenario, dass der Mensch, obwohl er die Wahl hat, bewusst Urteile, Entscheidungen und sogar moralische Verantwortung an Maschinen abgibt.

Der Mensch neigt dazu, sich der Aufgabe zu entziehen, „Entscheidungen zu treffen und die Konsequenzen zu tragen“, und die KI bietet scheinbar die perfekte Lösung.

Die Enzyklika des Papstes, die Verfassung von Anthropic und die Runde Tische der Faith-AI Covenant haben zwar verschiedene Formen, aber im Kern lautet die Botschaft dieselbe: Die Technologie kann sich unendlich entwickeln, aber am Ende muss es ein sterblicher, empfindender und für die Konsequenzen verantwortlicher Mensch sein, der den Knopf