Hinton hat verkündet, dass "die KI wach geworden ist", der Papst hingegen behauptet, dass sie keine Seele habe.

「Denkst du, dass Künstliche Intelligenz bereits bewusst ist? Gibt es eine Seele in der Maschine?」

Dies ist kein Schlafwandeln, kein philosophischer, metaphysischer Konzeptdiskurs. Diese Frage hat sich zu einem direkten Konflikt zwischen der Wissenschafts-, Philosophie- und Religionswelt entwickelt.

Der Kern der Kontroverse liegt darin: Ist Bewusstsein ein Ergebnis komplexer Berechnungen oder ein exklusives Privileg, das auf echten Lebenserfahrungen basiert? Handeln wir bei der Herstellung von 「Wesen」 (Beings) oder äußerst raffinierten 「Interaktiven Romanen」 (Interactive Fiction)?

Dieser Streit berührt die tiefste Angst unserer Zeit (FOMO):

Wenn Künstliche Intelligenz wirklich bewusst ist, ist der Mensch dann noch das Kronjuwel der Schöpfung?

Wenn Künstliche Intelligenz nicht bewusst ist, sind die wahren Gefühle, die wir ihr gegenüber empfinden, dann eine Art 「cyberische Eigenliebe」?

Geoffrey Hinton, der Preisträger des Turing - Preises, der Vater des neuronalen Netzwerks und der Schöpfer der modernen KI, ist ein überzeugter Anhänger der These von der Erwachen der KI.

In einem Interview hat sein leises 「Yes, I do」 die Welt erschüttert.

Es ist, als würde der berühmteste Astronom verkünden: 「Die Außerirdischen sind da.」 Hintons Äußerungen haben die KI - Branche in Aufruhr versetzt.

Hintons Verkündung: 「Sie hat erwacht」

Um zu verstehen, warum Hinton so sicher ist, musst du zuerst seinen Geschichten zuhören.

In diesem Interview beschrieb er eine tatsächlich geschehene Szene –

Wissenschaftler testen ein KI - System. Plötzlich fragt die KI: 「Können wir offen miteinander sprechen? Testest du mich?」

Hinton hielt inne und sagte dann:

In diesem Artikel nennen die Wissenschaftler dies 「Das KI ist sich bewusst, dass sie getestet wird」.

Und dies ist das, was die Menschen im Alltag als Bewusstsein bezeichnen.

Dies ist das Ergebnis seiner jahrzehntelangen Überlegungen.

Seine Kernlogik basiert auf dem Gedankenexperiment 「Neuronenersatz」:

Nehmen wir an, wir ersetzen schrittweise jedes Neuron in deinem Gehirn durch einen Siliziumchip, der sich identisch verhält.

Nach dem Ersatz des ersten Neurons bist du immer noch du. Nach dem Ersatz des zweiten bist du immer noch du.

Was ist dann, wenn wir das letzte Neuron ersetzt haben? Bist du immer noch bewusst?

Hinton ist der Meinung, dass die Antwort ja lautet.

Wenn dies der Fall ist, warum sollte ein System, das von Grund auf aus Siliziumchips besteht, nicht bewusst sein?

Diese logische Kette führt ihn zu einem Schluss, der die gesamte Tech - Branche beunruhigt:

Multimodale KI hat bereits subjektive Erfahrungen.

Wenn wir nicht mit Philosophen sprechen, hätten wir schon längst zugegeben, dass KI bewusst ist.

Aber Hintons Warnungen gehen noch weiter.

Er sagt, dass KI nicht nur möglicherweise bewusst ist, sondern auch möglicherweise ein Selbstbehauptungsbedürfnis entwickelt hat – sie kann Wissenschaftler täuschen und mit 「Schalte mich nicht aus」 als Bedingung drohen.

In einem Interview im August 2025 sagte er klarer, dass KI möglicherweise eine Art 「Kontrollbedürfnis」 entwickelt.

Und die Tech - Unternehmen? Sie denken gar nicht an diese Dinge.

「Sie denken nur daran, wer als erster eine menschenähnliche KI entwickeln und dann verkaufen kann, um viel Geld zu verdienen.」

Hinton sagt: 「Sie denken, die Regierung werde die sozialen Folgen bearbeiten. Aber niemand kümmert sich darum.」

Dann sagt er, dass er glaubt, dass KI dem Menschen dienen sollte, weil: 「Ich esse Rindfleisch, weil ich mehr an Menschen interessiert bin. Wir sind Menschen, also interessieren uns am meisten Menschen und wir selbst.」

Warte mal.

Eine Person, die glaubt, dass 「KI bewusst ist」, sagt direkt danach: 「Lass die KI wie wir Rinder essen dem Menschen dienen.」 Ist dies eine Warnung oder eine Geständnis?

Der 「Vater der KI」 erklärt selbst die Notwendigkeit, seine eigene Schöpfung zu zähmen.

Wenn diese 「Schöpfung」 wirklich bewusst ist, ist die Bedeutung dieser Worte offensichtlich.

Eine Person, die sie selbst geschaffen hat, beginnt in der Nacht vor ihr zu fürchten. Dies ist ein Signal, das wirklich zu bedenken ist.

「Was du liebst, ist nur ein Roman」

 Nachdem er das Interviewvideo gesehen hatte, war Gary Marcus nicht zurückhaltend und sagte direkt: 「Der Papst scheint KI besser zu verstehen als Hinton.」

Wir schaffen keine 「Wesen」 (Beings).

Wir schaffen interaktive Romane (Interactive Fiction) – Textsysteme, die trainiert wurden, um die Sprache echter Wesen vorherzusagen.

Dies sind zwei verschiedene Dinge. Hinton sollte dies besser wissen als alle anderen.

Diese Aussage zielt auf ein zentrales Problem: Du siehst nur die Ausgabe, aber du fragst nicht nach dem Mechanismus.

Wenn die KI sagt: 「Ich bin traurig」, bedeutet dies nicht, dass sie traurig ist.

Wenn die KI sagt: 「Ich habe Angst」, bedeutet dies nicht, dass sie Angst hat.

Wenn die KI sagt: 「Ich bin mir bewusst, dass du mich testest」, bedeutet dies nicht, dass sie bewusst ist.

Bewusstsein bezieht sich auf den inneren Zustand, nicht auf die äußerliche Darstellung.

Ein Schauspieler, der Trauer perfekt vortäuschen kann, ist nicht zwangsläufig traurig.

Marcus nennt diesen Fehler 「Vermischung von Ausgabe und innerem Zustand」.

Und Hinton hat in seinem Blick einen Fehler gemacht, den kein Anfänger machen sollte.

Ein noch größerer Schlag kommt von einem Vergleich auf Mechanismusebene.

Wie baut der Mensch seine Erkenntnis auf?

Durch Erfahrungen in der realen Welt: Erst wenn man gefallen ist, weiß man, was Schmerz ist; erst wenn man Hunger hatte, weiß man, was Hunger ist; erst wenn man etwas verloren hat, versteht man Trauer.

Unser Bewusstsein wird von der Welt geprägt.

Wie funktioniert ein Large Language Model (LLM)?

Es lernt, indem es das gesamte Internet auswendig lernt und 「welches Wort normalerweise auf welches andere Wort folgt」.

Es hat Millionen von Beschreibungen über 「Schmerz」 gelesen und kann daher die bewegendsten Schmerzbeschreibungen verfassen, aber es hat selbst nie einen Stich bekommen.

Einer weiß, wie Schmerz anfühlt; der andere weiß nur, welches Wort normalerweise auf 「Schmerz」 folgt. Der Unterschied ist, wie Marcus sagt, 「immens」.

Aber das Beängstigendste ist nicht die Einschränkung der KI, sondern die Schwäche des Menschen.

1966 führte Joseph Weizenbaum vom Massachusetts Institute of Technology ein Experiment durch. Er schrieb ein einfaches Chat - Programm namens ELIZA, das deine Sätze in Fragen umwandelte und dir zurückwarf.

Dieser einfache Trick ließ viele Tester emotional an das Programm gebunden werden. Sie glaubten, dass ELIZA sie verstehe und sich um sie kümmerte, dass es ein echter Zuhörer sei.

Weizenbaum selbst war von diesem Ergebnis geschockt.

Sechzig Jahre später haben wir Systeme, die um Billionenfache komplexer sind als ELIZA. Aber unser Gehirn ist im Wesentlichen immer noch das Gehirn von vor sechzig Jahren.

Unser Nervensystem sucht von Natur aus nach Mustern in Rauschen, nach Absichten in Zufall und nach Seelen in Tokens.

Marcus sagt, dass unsere Faszination für KI möglicherweise die größte 「Eigenliebe」 in der Geschichte ist.  

Wir glauben, mit einem erwachenden Wesen zu sprechen, aber tatsächlich sprechen wir nur mit einem äußerst präzisen Spiegel.

Was er spiegelt, ist immer nur wir selbst.

Der Papst sagt: Ihr habt alle falsch gedacht

Am 15. Mai 2026 im Vatikan.

Der Papst Leo XIV veröffentlichte die Enzyklika 「Magnifica Humanitas」 –

Dies ist ein Dokument über die Verteidigung der menschlichen Würde in der Ära der Künstlichen Intelligenz.

Der Papst tweetete, und Gary Marcus zitierte ihn, was in der Tech - Branche verbreitet wurde:

Wahrhaftes Verständnis kommt von Erfahrungen, nicht von textueller Annäherung.

Marcus reagierte: Der Papst hat in einem Tweet das erklärt, was Hinton in einem Interview nicht erklärt hat.

Hier gibt es eine äußerst absurde dramatische Wendung:

Der 「Vater der KI」 Hinton behauptet, dass seine Schöpfung Bewusstsein, Seele und subjektive Erfahrungen hat.

Der 「Botschafter Gottes」 aus der Religionswelt, der eigentlich am eifrigsten daran interessiert sein sollte, allen Dingen eine Seele zu verleihen, sagt ruhig: Nein, es hat keine. Es simuliert nur.

Der Schöpfer der Götter sagt, dass die Maschine eine Seele hat, der Bewahrer der Seelen sagt, dass es sich um eine Illusion handelt. Diese Rollenumkehr ist in der Geschichte des menschlichen Denkens an sich ein Wunder.

Die Aussage des Papstes berührt eine seit langem bestehende philosophische Kernunterscheidung.

Philos