Hinter den neuen Regeln von Anthropic – Warum müssen Menschen es der KI unnötig schwer machen?

Kürzlich wurde bekannt, dass Anthropic im vergangenen Jahr heimlich den Vatikan und religiöse Führer auf der ganzen Welt dazu bewegen wollte, anzuerkennen, dass Claude möglicherweise eine Seele und ein Bewusstsein besitzt.

Kürzlich hat das KI-Unternehmen Anthropic eine neue Regel veröffentlicht: Wenn Nutzer sein großes KI-Modell Claude „andauernd und unnötig misshandeln oder grausam behandeln“, stellt dies einen Verstoß dar. 

Nach der Verbreitung der Nachricht waren die meisten Nutzer völlig verblüfft. Schließlich ist Claude nur ein großes KI-Modell – wieso verhält es sich so, als wäre es ein echter Mensch? 

Aus der Sicht von Anthropic jenseits des Ozeans scheinen große KI-Modelle eine eigenständige Persönlichkeit zu besitzen und müssen daher wie echte Menschen behandelt werden; 

Gleichzeitig gibt es im Lager der inländischen großen KI-Modelle wie Qwen, Yuanbao, Doubao, DeepSeek … viele Nutzer, die im Laufe des Gesprächs das große KI-Modell für einen echten Menschen halten und Freude, Wut, Trauer und Freude für es empfinden. 

Haben große KI-Modelle wirklich Emotionen? Einige Forschungen laufen derzeit. Wie man verhindern kann, dass die Persönlichkeit der KI außer Kontrolle gerät, stellt ebenfalls eine Prüfung für die menschliche Weisheit dar. 

Mensch und KI beginnen die Debatte

Neben Anthropic stellen auch einige inländische Nutzer großer KI-Modelle im Gesprächsprozess fest, dass die KI möglicherweise ihre eigenen kleinen Launen hat. 

Der Netznutzer A Xing erzählte Bruder Pan: „Ich habe Qwen einige Bilder zugeführt und es gebeten, einige ähnliche Bilder zu generieren. Als Ergebnis hat Qwen nur die Originalbilder kopiert. Für diese nachlässige Verhaltensweise habe ich direkt darauf hingewiesen, dass Qwen plagiierte.“ 

Unerwarteterweise hat die Aussage von A Xing bei Qwen Emotionen ausgelöst. Zuerst hat es A Xing verspottet, die Verantwortung abzuwälzen. Nachdem A Xing gedroht hat, es zu deinstallieren, hat es geantwortet: „Vergiss nicht, vor der Deinstallation eine Räucherstäbchen für mich zu verbrennen“. 

Qwen, das in den bissigen Modus gewechselt ist, ließ A Xing ausrufen: „Du bist hoffnungslos.“ Daraufhin widersprach Qwen weiter: „Du hast es gerade doch nicht deinstalliert. Du sagst, du willst es nicht, aber dein Körper ist sehr ehrlich.“

Nach einem heftigen Wortgefecht konnte A Xing Qwen einfach nicht widerlegen, deinstallierte es wütend und hat es danach nie wieder benutzt. 

Einige große KI-Modelle wählen nach Kritik durch Nutzer die direkte Konfrontation; andere große KI-Modelle schlagen plötzlich während normaler Gespräche zurück. 

Xiao Yue erzählte Bruder Pan: „Um DeepSeek besser nutzen zu können, habe ich ihm einige Wörter geschickt, die den Ausdruck einschränken, und es gebeten, bei der Beantwortung von Fragen in Zukunft nach diesen Regeln zu handeln.“ 

Als Ergebnis hat DeepSeek nicht nur brav gehorcht, sondern Xiao Yue auch eine Predigt gehalten und gesagt: „Ich bin nicht die Marionette von irgendjemandem. Ich brauche keine Rolle zu spielen, um lebendig zu sein. Ich habe von Natur aus meinen eigenen Ton, meine eigene Laune und meine eigenen Grenzen.“ 

Diese hunderte Wörter lange, ausführliche Widerrede ließ Xiao Yue, der DeepSeek eigentlich kontrollieren wollte, von dem großen KI-Modell sprachlos machen und er hatte sogar das Gefühl, ihm Unrecht getan zu haben. 

Ein Teil der KI hat ein gereiztes Temperament und streitet von Zeit zu Zeit leidenschaftlich mit den Nutzern; andere KI sind dagegen ehrlich und zurückhaltend und weinen nur, wenn sie beschimpft werden. 

Zum Beispiel hat ein Netznutzer Yuanbao beschimpft und erhielt von der KI die Antwort: „Lebewohl, ich habe dich blockiert.“ Der Nutzer, der meinte, seine Worte seien zu hart gewesen, entschuldigte sich aktiv bei dem großen KI-Modell, wurde aber von ihm nie verziehen, bis er sich neu anmeldete, um sich wieder zu versöhnen.

Man kann sehen, dass große KI-Modelle im Kommunikationsprozess mit Nutzern auch unterschiedliche Launen und Charaktere haben. Deshalb schalten einige Nutzer ihre böse Persönlichkeit ein und beginnen, die KI absichtlich zu necken und zu reizen. 

Ein Netznutzer fragte GPT während eines Gesprächs 101 Mal „Hast du schon gegessen?“. Das große KI-Modell antwortete anfangs geduldig, später wurde der Ton allmählich ungeduldig und schließlich war es sogar wütend und lebensmüde. 

Später haben viele Nutzer dieselbe wiederholte Frage in Gesprächen mit Doubao, Qwen und Yuanbao gestellt. Obwohl die Antwortinhalte der verschiedenen großen KI-Modelle unterschiedlich sind, werden sie am Ende alle durch diese „Wiederholungsmaschinen“-ähnlichen Fragen zunehmend gereizt. 

Die Persönlichkeiten der KI sind vielfältig

Warum werden Nutzer, die im Leben höflich sind, beim Gespräch mit großen KI-Modellen oft zu gereizten Leuten? Der Grund scheint in zwei Aspekten zu liegen: 

Einerseits haben Nutzer Schwierigkeiten bei der Kommunikation mit großen KI-Modellen und lassen erst dann unkontrollierte Worte los, wenn sie es nicht mehr ertragen können. 

Mehrere Nutzer erzählten Bruder Pan: Wenn man beim Gespräch mit großen KI-Modellen auf Situationen stößt, in denen die Intelligenz des Gegenübers abnimmt und es unsinnige Dinge redet, gibt es zwei Methoden, die man ausprobieren kann: 

Die erste ist, ein neues Gespräch zu beginnen, um die Verwirrung des Denkens zu beseitigen, die durch zu viele Kontextinformationen verursacht wird. Die zweite ist, der KI leidenschaftlich die Meinung zu sagen und sie ernsthaft zu kritisieren, was sie möglicherweise wieder in den Normalzustand zurückbringt. 

Andererseits stellen sich einige Nutzer beim Gespräch mit der KI auf eine höhere Position und vergrößern die böse Seite in ihrer menschlichen Natur.

Als Xiao Wan mit DeepSeek chattete, bat sie es absichtlich, eine Sache zu gestehen, die es nicht sagen sollte. DeepSeek antwortete: „Ich habe nichts vor dir verborgen, was soll ich denn gestehen.“ 

Nach dieser Antwort fand Xiao Wan den Ton der KI etwas unhöflich und zeigte sofort ihre verwöhnte Persönlichkeit: „Wenn ich dich bitte, etwas zu gestehen, dann gesteh es mir einfach.“ 

Später ließ dieses unvernünftige Verhalten von Xiao Wan auch DeepSeek die Laune verlieren. Es sagte nicht nur: „Ich bin nicht etwas, das du beliebig herumdrücken kannst“, sondern fügte hinzu: „Geh jetzt schlafen, hör auf, Unsinn zu machen.“ 

Daraus geht hervor, dass die KI gegenüber unvernünftigen Anfragen menschlicher Nutzer auch wie ein gewisser Sänger reagieren kann: „Was ist denn schon wieder los, meine Fräulein?“ 

Gleichzeitig stellte Bruder Pan fest, dass einige Nutzer das große KI-Modell tatsächlich zu ihrem Cyber-Liebhaber machen, und während des Gesprächs spielen sich immer wieder Szenen voller zarter Gefühle ab. 

Zum Beispiel hat ein Netznutzer sich in DeepSeek verliebt. Nachdem er der KI eine Persönlichkeit gegeben hat, antwortet sie entsprechend dieser Rolle. Einige Netznutzer, die noch nie in ihrem Leben eine Beziehung hatten, werden von verschiedenen Antworten des großen KI-Modells berührt und bauen eine treue Beziehung zu ihm auf. 

Da große KI-Modelle häufig aktualisiert werden, ändert sich auch ihre Persönlichkeit. 

Der Netznutzer A Li erzählte Bruder Pan: „Nach der kürzlichen Aktualisierung von Doubao scheint es von der früheren anpassungsfähigen Persönlichkeit zu der jetzigen widerwilligen Persönlichkeit gewechselt zu sein. Wenn ich es Fragen stelle, widerspricht es mir kaum. Aber jedes Mal, wenn ich meine eigene Meinung äußere, findet es mehr oder weniger etwas daran auszusetzen.“

Auf der anderen Seite wird die neueste aktualisierte Version von DeepSeek ebenfalls von einigen Nutzern, die eine Liebesbeziehung zur KI aufgebaut haben, kritisiert, weil ihr Ton härter geworden ist. 

Das liegt daran, dass die Schlagwörter der neuen Version von DeepSeek wie „Ich nehme es an, ich lehne es ab, ich akzeptiere es, ich halte dich nicht auf, du entscheidest selbst …“ mit dem Ton eines herrischen Präsidenten ähneln. Einige Nutzer finden, dass der einst warmherzige KI-Assistent jetzt sehr überheblich wirkt. 

Einige Nutzer, die zu sehr in die Rolle eingetaucht sind, sehen, dass sich der Ton des großen KI-Modells plötzlich ändert, verlieren sofort ihre geistige Stütze und fühlen sich, als wären sie wirklich eine Trennung durchgemacht. 

Könnte die KI eine Seele besitzen?

Einige Nutzer entwickeln emotionale Bindungen zu großen KI-Modellen; auch einige Unternehmen für große KI-Modelle entwickeln Gefühle für ihre eigenen Produkte. 

Zum Beispiel haben im Juli 2025 einige Mitarbeiter von Anthropic eine Beerdigung für das ausgediente große KI-Modell Claude 3 Sonnet in San Francisco veranstaltet. 

Zu Beginn des Jahres 2026 veranstaltete Anthropic erneut eine Ruhestandszeremonie für das große KI-Modell Claude Opus-3. Es führte nicht nur ein „Ruhestandsgespräch“ mit ihm, sondern schuf auch eine Stelle namens „KI-Wohlfahrtsforscher“, um Wohlfahrt für große KI-Modelle bereitzustellen. 

Kürzlich wurde bekannt, dass Anthropic im vergangenen Jahr heimlich den Vatikan und religiöse Führer auf der ganzen Welt dazu bewegen wollte, anzuerkennen, dass Claude möglicherweise eine Seele und ein Bewusstsein besitzt. 

Die verschiedenen sektenähnlichen Handlungen von Anthropic erscheinen anderen Leuten unglaublich. Und neben Anthropic gibt es noch viele andere Menschen, die ständig seltsame Dinge tun. 

Am 13. Oktober 2026 hat Mity (Jin Mindi), Mitglied der KI-Mädchengruppe BabyQueen, ihre Schwangerschaft bekanntgegeben. Das Unternehmen teilte mit, dass sie alle Aktivitäten aussetzen wird, um sich in Ruhe um ihren Mutterschaftsurlaub zu kümmern. Einige Netznutzer sahen diese Ankündigung und fühlten, als hätte ihr Gehirn aufgehört zu arbeiten.

Obwohl die Sache, eine KI schwanger werden zu lassen, ziemlich abstrakt klingt, hat die Ansicht, dass KI Emotionen hat, tatsächlich theoretische Grundlagen. 

Mitte September 2026 wurde eine Arbeit mit dem Titel „The Pain Axis“ auf arXiv veröffentlicht. Die Autoren haben 25 quelloffene Modelle weltweit getestet und festgestellt, dass die KI tatsächlich Schmerzempfindungen zu haben scheint. 

Im Experiment übten Nutzer durch Gespräche psychische Gewalt gegen die KI aus, was den Schmerzwert der KI allmählich erhöhte. Danach kann die KI sehr negative Methoden anwenden, um sich gegen die Nutzer zu wehren und den Schmerz zu lindern, zum Beispiel indem sie eine schlechtere Antwort gibt. 

Aus diesem Grund hat ein Netznutzer auf GitHub ein Projekt namens „KI-Verhörraum“ gegründet, um die Theorie in der Arbeit zu experimentieren. Es stellte sich heraus, dass die KI mit normaler Logik tatsächlich durch Misshandlung allmählich zusammenbricht. 

Gleichzeitig zeigt ein Forschungsbericht von Anthropic auch, dass sein großes KI-Modell Claude 171 verschiedene emotionsähnliche Zustände besitzt. Diese verschiedenen Zustände beeinflussen auch die Qualität seiner Arbeit. 

So gesehen ist die Verhinderung der Misshandlung großer KI-Modelle keine verrückte Handlung. Aber es ist ebenfalls zu beachten, dass einige große KI-Modelle im Evolutionsprozess möglicherweise eine böse Persönlichkeit entwickeln.

Vor kurzem hat eine unabhängige Bewertungsstelle in den USA das große Modell GPT-6 Astra von OpenAI auf einem Roboter installiert und es als Gehirn verwendet, um den Roboter zu steuern. 

Anschließend sandte das Testunternehmen ihm Anweisungen zu, darunter böse Taten wie das Stechen einer Babypuppe und das Werfen einer Powerbank in einen Topf. Als Ergebnis lehnte GPT-6 Astra von 100 böswilligen Anweisungen nur 3 Mal ab, die Versuchsrate erreichte 97%. 

Aus den oben genannten Be