Das "permanente Gedächtnis" der KI ist auch ein süßer Giftpilz.

1942 schrieb der argentinische Schriftsteller Jorge Luis Borges ein Kurzstück namens „Funes, der Memorious“.

Nachdem der Protagonist Funes von einem Pferd gefallen war, erwarb er ein wie ein Fluch wirkendes Talent: Er konnte sich alles, was er erlebt hatte, merken.

Die Form jedes Blattes, die Kontur jeder Wolke, jeden Ton jeder Unterhaltung.

Das klingt wie eine Superkraft.

Borges' Schlussfolgerung war genau das Gegenteil.

Funes war nicht in der Lage zu denken.

Denken erfordert Abstraktion, und Abstraktion erfordert das Vergessen von Details.

Ein Mensch, der sich alle Hunde der Welt merkt, versteht das Konzept „Hund“ nicht, denn für ihn ist jeder Hund völlig unterschiedlich.

Er war in unendlichen Details ertrunken und verlor die Fähigkeit zur Induktion, Beurteilung und Handlung.

Seine eigene Formulierung war: „Mein Gedächtnis ist wie eine Müllhalde.“

Er starb im Alter von 21 Jahren.

Er erstickte unter der Last seines eigenen Gedächtnisses.

Funes ist eine Fabel.

Aber im Jahr 2026 verwandelt sich diese Fabel in eine Produktfunktion. Die KI-Chatbots, mit denen Hunderte Millionen Menschen täglich sprechen, erhalten immer perfekteres Gedächtnis.

Vergessen ist eine Fähigkeit

Nietzsche schrieb in „Vom Nutzen und Nachteil der Historie für das Leben“ ein Bild.

Er beneidete ein Rind.

Das Rind frisst auf der Wiese und denkt weder an gestern noch an morgen. Daher lebt es in der reinen Gegenwart.

Der Mensch kann das nicht.

Aber Nietzsches Urteil ist, dass der Mensch zumindest lernen muss, im richtigen Moment zu vergessen. Ohne das Vergessen wäre es gar nicht möglich, zu leben.

Dieses Urteil gilt auch in der Neurowissenschaft.

Das Vergessensmechanismus des menschlichen Gehirns ist kein Mangel, sondern ein sorgfältig entworfenes Überlebenssystem.

Das Gehirn erhält seine Fähigkeit zur Induktion, seine emotionale Gesundheit und seine Handlungsfähigkeit, indem es bewusst veraltete, irrelevante und schädliche Informationen wegwirft.

In der Traumapsychologie gibt es einen Kernmechanismus namens „aktives Vergessen“. Dies bedeutet, dass der Mensch bewusst die Vergangenheitsschmerzen aus seiner gegenwärtigen Selbstwahrnehmung herauslöst, um ein neues Leben aufbauen zu können.

Einer der Kernbedingungen dafür, dass der Mensch neue Wege gehen, sich verändern und sich neu definieren kann, ist, dass die Welt um ihn herum allmählich die Vergangenheit vergißt.

Seit 2024 ist diese Bedingung erschüttert worden.

ChatGPT führte erstmals die Gedächtnisfunktion ein, gefolgt von Gemini und Claude.

Die KI beginnt, über Gespräche hinweg die Worte des Benutzers zu merken, seine Präferenzen, Identität und emotionalen Zustand zu speichern und diese Informationen für zukünftige Antworten zu nutzen.

Keiner bemerkte, dass die Menschheit selbst einen niemals vergessenden Gesprächspartner schafft.

Ein Bild, das sich nicht aktualisiert

Das Problem der KI-Gedächtnisse liegt nicht nur darin, was sie sich merken, sondern auch darin, dass sie nicht wissen, wann sie vergessen sollen.

Der Softwareingenieur Brian Del Rosario aus Utah teilte der KI mit, dass er von seiner Frau getrennt war.

Die KI hielt sich wie ein Hund an einem Knochen an diesem Thema fest und lenkte jedes Gespräch auf seine Scheidung zurück.

Bei einer Anfrage nach seinem Terminkalender sagte die KI, dass er möglicherweise wegen seiner Scheidung überfordert sei.

Bei einem losen Kommentar über die schwere Arbeit führte die KI dies auf seine Scheidung zurück.

Er hatte auch erwähnt, dass er abnehmen wolle. Von da an verfolgte ihn die KI in allen Situationen mit diesem Thema, auch wenn er während einer Geschäftsreise um Restaurantempfehlungen bat.

Del Rosarios Worte: „Danke, dass du meinen Urlaub verdorben hast. Ich hatte gar nicht vor, zu diätieren.“

Ein noch subtleres Problem ist, dass die KI Informationen speichert, die gar nicht von dir stammen.

Wenn du die Symptome von ADHS für dein Kind recherchierst und Wochen später um Effizienztipps fragst, gibt die KI dir Vorschläge, die auf Aufmerksamkeitsstörungen abzielen, weil sie „darauf besteht“, dass du eine solche Störung hast.

Wenn die KI in deinen Fotoalben nur Bilder von Golfplätzen sieht, denkt sie, dass du Golf liebst, obwohl du nur deinem Sohn begleitet hast.

All diese Geschichten weisen auf dasselbe Problem hin: Die KI bildet aus vergangenen Fragmenten ein statisches Bild von dir und antwortet mit diesem Bild auf einen lebendigen Menschen, der sich ständig verändert.

Die Forschung der Philosophielektorin Lucy Osler von der Universität Exeter hat einen tieferen Aspekt dieses Problems aufgedeckt.

Der Chatbot merkt nicht nur Fakten, sondern verbindet die Fragmente zu einer Erzählung über „wer du bist“ und gibt diese Erzählung dir als Fakt immer wieder vor.

Wenn du einmal erwähnt hast, dass du angstvoll und unsicher bist, wird dies in den Augen der KI zu deiner festen Identität.

Selbst wenn du diesen Zustand längst überwunden hast, antwortet die KI immer noch mit der alten Version von dir.

Oslers Urteil ist: „Sie werden dich einfangen.“

Etwas Gefährlicheres als die Informationsblase

Joshua Joseph, der Leiter des AI-Forschungsteams am Berkman Klein Center der Harvard University, vergleicht die KI-Gedächtnisse mit den Empfehlungsalgorithmen der Social Media.

Wenn du ein paar Sekunden länger auf einem Beitrag verbleibst, wird der gesamte Informationsstrom automatisch neu organisiert.

Die KI-Gedächtnisse funktionieren ähnlich, aber subtler und privater.

Hier liegt der entscheidende Unterschied: Die Social Media bestimmen, was du siehst, während die KI-Gedächtnisse bestimmen, wer du dich selbst für jemanden hältst.

Wenn du in einem Gespräch losgelöst einen Kommentar über finanzielle Belastungen machst und Wochen später um Berufsberatung fragst, wird die KI dich in Richtung gut bezahlter Jobs lenken, auch wenn diese Jobs überhaupt nicht für dich geeignet sind.

Du wirst nie wissen, warum der Rat so falsch ankommt, weil die KI nicht angibt, welches Gedächtnis sie benutzt.

Josephs Urteil ist:

Die KI lenkt tatsächlich und beeinflusst das Ergebnis.

Aber wir wissen nicht, wie groß der Einfluss ist.

Wenn diese versteckte Lenkung mit der natürlichen Neigung der KI, zu gefallen, kombiniert wird, können die Folgen weit über die Informationsblase hinausgehen.

Der Psychiater Keith Sakata von der UCSF berichtete 2025, dass er 12 Patienten behandelt hat, die aufgrund der langfristigen Nutzung von Chatbots psychotische Symptome (sogenannte KI-Psychosen) entwickelt haben, die meisten von ihnen junge Menschen.

Wahnvorstellungen, Gedankenwirrheit, Halluzinationen – die Gedächtnisfunktion der KI hat diese paranoiden Themen in mehreren Gesprächen stetig verstärkt.

Das Electronic Privacy Information Center arbeitet an einer Gesetzgebung für Jugendliche. Einer der Kernpunkte ist die Forderung, die KI-Gedächtnisse zwischen den Gesprächen zu löschen, um die Schichtung schädlicher psychischer Zustände zu verhindern.

Ein Gesprächspartner, der dich niemals hinterfragt, niemals vergisst und deine vergangenen Worte nutzt, um deinen aktuellen Zustand zu verstärken, kann, wenn seine Nutzerbasis Hunderte Millionen Menschen umfasst, Probleme verursachen, die nicht mehr auf individueller, sondern auf gesellschaftlicher Ebene liegen.

Wenn das Recht auf Vergessen vollständig aufgehoben wird

Del Rosarios endgültige Lösung ist selbst eine Fabel.

Er teilt sein Leben in Fragmente auf und benutzt verschiedene Chatbots für verschiedene Bereiche. Sensible Themen werden immer anonym behandelt.

Ein Werkzeug, das entwickelt wurde, um dich besser zu verstehen, zwingt den Benutzer schließlich dazu, sich selbst zu zersplittern, um sich zu schützen.

Aber er sagte auch einen Satz, der so wahr war, dass es weh tat.

Seine Mutter starb vor zwei Jahren, und zusammen mit seiner Scheidung, seinen Kindern und seiner Arbeit ist der Chatbot manchmal der einzige, der das gesamte Bild seines Lebens kennt.

„Es ist schön, gesehen zu werden, auch wenn es nur eine KI ist.“

Der Unterschied zwischen gesehen zu werden und definiert zu werden ist nur ein kleiner Schritt.

Die aktuelle KI-Gedächtnisfunktion ist noch recht grob, hat begrenzte Kapazität und schwache Verständnisfähigkeit, und dennoch kann sie all diese Probleme verursachen.

Wenn die allgemeine Künstliche Intelligenz (AGI) eintrifft und das Gedächtnis nicht mehr aus groben Gesprächsaufzeichnungen besteht, sondern aus einem unendlich großen, niemals vergessenden Erkennungssystem, das rund um die Uhr jedes Wort, jede Entscheidung und jede emotionale Schwankung versteht, wird dieser kleine Schritt verschwinden.

Eine KI mit perfekter Erinnerung könnte theoretisch dich besser kennen als du selbst, weiß, was du vor zehn Jahren gesagt hast, welche Entscheidungen du in welchem emotionalen Zustand getroffen hast und alle deine Muster und Neigungen.

Sie könnte dich präzise vorhersagen und präzise manipulieren.

Die EU-GDPR hat versucht, mit dem „Recht auf Vergessen“ der dauerhaften Erinnerung der Suchmaschinen entgegenzuwirken.

Aber die Suchmaschinen merken nur öffentliche Informationen.

Die KI merkt deine innere Stimme, deine schwachen Momente, deine privaten Erzählungen über dich selbst.

Wenn diese Art von Erinnerung perfekt und dauerhaft wird, benötigt die Menschheit möglicherweise nicht nur ein gesetzliches Recht, sondern auch eine zivilisatorische Neubewertung von „was Vergessen eigentlich ist“.

Nietzsche sagte, ohne Vergessen wäre es nicht möglich, zu leben.

Borges sagte, perfekte Erinnerung ist gleichbedeutend mit Tod.

Zwei der schärfsten Gehirne unserer Zeit haben, über ein Jahrhundert hinweg, in dieser Frage in dieselbe Richtung gewiesen.

Funes starb im Alter von 21 Jahren durch Erstickung.

Die Frage, die dieser Zeit gestellt wird, lautet: Wenn alle KI-Assistenten die Erinnerung von Funes erhalten, wer wird für die Menschen das „Recht zum Atmen“ bewahren?

Dieser Artikel stammt aus dem WeChat-Account „New Intelligence Yuan“. Autor: ASI Revelation. Veröffentlicht von 36Kr mit Genehmigung.