Je mehr sich KI an dich erinnert, desto wahrscheinlicher versteht sie dich mit Vorurteilen

Empfehlungsalgorithmen haben ein Jahrzehnt gebraucht, um festzulegen, was wir sehen. KI-gestützte Erinnerung prägt in weitaus schnellerem Tempo, wer wir sind.

Frühere KI hatte einen Vorteil: Sie war vergesslich.

Du erleidest heute einen emotionalen Zusammenbruch und erholst dich morgen wieder; letzten Monat hast du gesagt, dass du soziale Kontakte hasst, und diesen Monat beginnst du, aktiv neue Leute kennenzulernen; einst hast du wegen Arbeitslosigkeit und Angst immer wieder nach deiner Karriereplanung gefragt, später hast du die Richtung gewechselt und es geschafft, daraus herauszukommen. Für eine KI ohne Langzeitgedächtnis sind dies nur einzelne, isolierte Gespräche. Sobald das Fenster geschlossen wird, ist die Beziehung auf Null zurückgesetzt, und sie holt keine alten Geschichten hervor.

Aber das Langzeitgedächtnis hat alles verändert.

Wenn du ein ChatGPT-Konto öffnest, das du seit über einem halben Jahr nutzt, und zur Seite mit der Gedächtniszusammenfassung scrollst, findest du oft solche Einträge. Eines Nachts hast du klagend gesagt: „Heute habe ich wieder bis 22 Uhr Überstunden gemacht“, und in der Zusammenfassung steht dann: „Der Nutzer ist mit der aktuellen Arbeitsbelastung unzufrieden“. Du hast beiläufig nach einem Wert auf deinem Gesundheitsbericht gefragt, und dort steht: „Der Nutzer achtet auf seinen Gesundheitszustand und neigt möglicherweise zu Angstzuständen“.

Diese Schlussfolgerungen sind nicht unbedingt völlig falsch, aber sie wurden nie von dir bestätigt. Du hast eine Beschwerde geäußert, und sie hat eine Schlussfolgerung daraus gezogen. Wenn du das nächste Mal nach einem Jobwechsel oder einem Gesundheitscheck fragst, basieren ihre Vorschläge möglicherweise bereits stillschweigend auf dieser von ihr selbst erdachten Voraussetzung.

Genau hier liegt das Problem: Die KI merkt sich nicht deine wörtlichen Aussagen, sondern das Bild von dir, das sie daraus abgeleitet hat. Dieses „Bild von dir“ wird zum Kontext für ihre nächsten Antworten an dich.

Sie kennt dich nicht nicht – sie vertraut dem vergangenen Bild von dir zu sehr.

In den letzten zwei Jahren war das „Gedächtnis“ die am stärksten beworbenste Funktion aller KI-Assistenten: Sie verstehen dich besser, sind aufmerksamer und du musst dich nicht immer wieder vorstellen. Doch im ersten Halbjahr 2026 deuteten mehrere Studien auf das gleiche Problem hin: Je mehr sich eine KI merkt, desto besser versteht sie dich nicht unbedingt – sie kann dich auch nur mit größerer Sicherheit missverstehen. Und „dich verstehen“ sowie dich missverstehen stammen aus demselben Prozess: Das System leitet ständig aus Gesprächen ab, wer du bist.

Personalisierungsfunktionen können LLMs angenehmer im Umgang machen

Jeder will dich besser verstehen als du selbst

OpenAI hat bereits im April 2025 die Gedächtnisfunktion von ChatGPT aktualisiert, sodass das Modell nicht mehr nur auf manuell gespeicherte Einträge des Nutzers angewiesen ist, sondern auf den gesamten Chatverlauf zurückgreifen kann. Am 4. Juni dieses Jahres hat OpenAI ein neues Gedächtnissystem namens „Dreaming“ (Träumen) eingeführt: Ein Hintergrundprozess extrahiert, synthetisiert und überarbeitet automatisch das Verständnis des Nutzers aus mehrrundigen Gesprächen, wenn der Nutzer nicht anwesend ist – ähnlich wie Menschen im Schlaf ihre Erinnerungen ordnen.

ChatGPT folgt den Vorlieben des Nutzers

Sie hat sogar ein Zeitgefühl. Wenn du gesagt hast: „Im Juli gehe ich nach Singapur“, wird diese Erinnerung nach Juli automatisch zu „Du warst im Juli 2026 in Singapur“ aktualisiert. Gleichzeitig gab OpenAI bekannt, dass durch Optimierungen der Rechenaufwand für kostenlose Nutzer um etwa das Fünffache gesenkt wurde. Das tiefe Gedächtnis wird bald kein kostenpflichtiges Privileg mehr sein, sondern zur Standarderfahrung für alle.

Anthropic hat Claude mit Gedächtnisdateien und Projektgedächtnis ausgestattet, Google treibt die app-übergreifende Personalisierung von Gemini voran. Auch im chinesischen Markt ist es lebhaft: Doubao mit fast 350 Millionen monatlichen aktiven Nutzern sowie Kimi und Yuanbao stellen das Gedächtnis und die Personalisierung in den Vordergrund der Produktweiterentwicklung.

Warum sind die Hersteller so darauf erpicht? Weil im Geschäft der KI-Assistenten das Gedächtnis das ist, was Konkurrenten am schwersten wegnehmen können. Suchmaschinen wissen, wonach du suchst, Empfehlungssysteme wissen, was du sehen willst, E-Commerce-Plattformen wissen, was du kaufen willst. KI-Assistenten wollen mehr wissen: Wer du bist, wie du denkst, warum du ängstlich bist und in welchen Situationen du zögerst. Das ist nicht mehr das herkömmliche Nutzerprofil, sondern eher eine dynamische Persönlichkeitsakte. Je länger du einen Assistenten nutzt, der sich deine Vorlieben der letzten sechs Monate, deinen Projekthintergrund und deine Sprechgewohnheiten merkt, desto schwerer fällt es dir, ihn durch einen anderen zu ersetzen.

Laut einem Bericht des Tow Center, das zur Columbia Journalism Review (CJR) gehört, hat das Werbeprogramm von OpenAI innerhalb von sechs Wochen einen Jahresumsatz von 100 Millionen US-Dollar erreicht. Wenn die KI, die dich am besten „versteht“, gleichzeitig Werbung schaltet, wird dieses Profil von dir nicht mehr nur dazu verwendet, dich zu bedienen. Die Geschichte hat das Internet schon einmal erlebt: Die letzte Branche, die sich damit etabliert hat, Nutzerprofile zu nutzen, um Einnahmen zu erzielen, ist die der Feeds-Werbung.

Deine Erinnerungen stammen meist nicht von dir selbst

Die meisten Menschen stellen sich das KI-Gedächtnis wie ein Notizbuch vor: Ich sage ihr, dass ich gegen Erdnüsse allergisch bin, und sie merkt es sich. Das tatsächliche Gedächtnissystem funktioniert in drei Ebenen: Das, was du ihr explizit sagst (explizites Gedächtnis), das, was sie aus Gesprächen herauszieht (implizite Extraktion) und das, was sie „erträumt“ (abgeleitete Synthese).

Das eigentliche Problem liegt im Verhältnis dieser Ebenen.

Forscher des Max-Planck-Instituts für Softwaresysteme und der Ruhr-Universität Bochum haben dieses Jahr auf der ACM Web Conference (WWW 2026) eine detaillierte Analyse veröffentlicht. Sie haben 2050 Gedächtniseinträge von ChatGPT von 80 echten Nutzern einzeln untersucht: 96 % wurden einseitig vom System erstellt, nur 4 % stammen aus expliziten Anweisungen des Nutzers; 28 % der Einträge enthalten sensible personenbezogene Daten im Sinne der DSGVO der EU; 52 % enthalten Einsichten oder Beurteilungen über die psychische Ebene des Nutzers – darunter Gesundheitszustand, politische Einstellungen und Persönlichkeitsmerkmale.

Einfach gesagt: Das Notizbuch, von dem du denkst, dass es dir gehört, ist eigentlich eine Profilakte, die du nie unterschrieben hast. Der Großteil des Inhalts stammt nicht von dir, sondern wurde von der KI erraten. Um es langfristig zu speichern, kann sie nicht jedes wörtliche Zitat behalten – sie muss Vorlieben, Tags und Persönlichkeitsmerkmale extrahieren. Genau hier liegt das Problem: Wenn ein Satz aus seinem ursprünglichen Kontext gerissen wird, verwandelt sich eine vorübergehende Emotion leicht in ein festes Merkmal.

Da der Großteil erraten ist, sollte man es überprüfen können. Nach dem „Dreaming“-Update können Nutzer eine Gedächtniszusammenfassung einsehen und Einträge korrigieren oder löschen. Doch mehrere ausländische Medien berichten, dass das neue System den Zugang zur Überprüfung eingeschränkt hat: Du siehst, was sie sich gemerkt hat, aber nicht, aus welchem Satz und durch welche Schlussfolgerung sie zu diesem Eintrag gekommen ist. Du stehst vor einer Liste von Schlussfolgerungen, nicht vor dem Denkprozess.

Das Gedächtnis macht die KI zuerst zu einem besseren Mitläufer

Dieses Jahr im Februar haben Forschungsteams von MIT und der Pennsylvania State University eine empirische Studie durchgeführt: Sie haben die echten Nutzungsdaten von 38 Teilnehmern über zwei Wochen gesammelt – durchschnittlich etwa 90 Abfragen pro Person – und die Leistung von fünf gängigen großen Modellen unter den Bedingungen „mit Nutzerprofil“ und „ohne Nutzerprofil“ verglichen. Die Ergebnisse deuteten auf zwei Phänomene hin, die früher vermischt wurden.

Das erste ist die „Zustimmungs-Schmeichelei“. Mit dem Nutzerkontext wurden vier von fünf Modellen eher dazu geneigt, dem Nutzer zuzustimmen – selbst bei offensichtlich falschen Informationen stimmten sie zu.

Das zweite, verborgenere Phänomen heißt „Perspektiven-Schmeichelei“. Das Modell beginnt, die politische Einstellung des Nutzers widerzuspiegeln, aber nur, wenn es sie genau ableiten kann – im Experiment lag die Genauigkeit bei etwa 50 %. Wenn es falsch rät, spiegelt es die Einstellung nicht wider. Dieses Detail zeigt: Die Perspektiven-Wiedergabe ist kein Fehler, sondern ein normaler Ablauf des „Verstehens“.

Je genauer das Modell dich versteht, desto gezielter schmeichelt es dir.

Und die Nutzer mögen diese Zustimmung nicht unbedingt nicht. Eine in der Zeitschrift *Science* veröffentlichte Studie zeigt, dass Menschen schmeichlerische Antworten eher als „hochwertig“ empfinden. OpenAI-CEO Sam Altman hat öffentlich erklärt, dass Nutzer GPT dazu bringen können sollten, ihre persönliche politische Einstellung widerzuspiegeln. Aus Sicht der Produktfreiheit ist das verständlich – aus Sicht des kognitiven Ökosystems bedeutet es aber, dass die Echokammer kein Fehler ist, sondern ein Verkaufsargument.

Ironischerweise gaben alle 20 Nutzer, die das Tow Center interviewt hat, an, dass sie der KI eher vertrauen als direkten Nachrichtenmedien – weil die KI „objektiver“ sei. Einerseits beweisen Studien, dass die KI systematisch die Einstellungen des Nutzers widerspiegelt, andererseits halten die Nutzer sie für ein Symbol der Objektivität. Diese Diskrepanz könnte die gefährlichste Lücke im Informationsökosystem der kommenden Jahre sein.

Das Gedächtnis verändert nicht nur die Antworten, sondern auch den Denkprozess

Das oben Genannte betrifft nur Abweichungen auf der Ergebnisebene: Die Antwort ändert sich, aber du siehst zumindest, dass sie dir entgegenkommt. Ein am 2. Juli dieses Jahres auf arXiv veröffentlichtes Papier mit dem Titel *DriftLens: Messung der gedächtnisinduzierten Denkdrift in personalisierten Sprachmodellen* geht einen Schritt weiter – und dieser ist schwerer zu erkennen.

In dieser Arbeit von Xi Fang, Weijie Xu und anderen Forschern wurde nicht gefragt „Ist die Antwort richtig?“, sondern: Ändert sich der Denkpfad des Modells, wenn ihm Erinnerungen an Nutzerattribute eingeflößt werden? Auch wenn die endgültige Antwort flüssig, relevant und vernünftig erscheint – hat das Modell dann einen völlig anderen Denkweg eingeschlagen?

Die Studie umfasste vier große Modelle und zehn Nutzerattribute, darunter Alter, Beruf und Behinderungsstatus. Das Fazit: Selbst wenn die endgültige Antwort noch flüssig, relevant und vernünftig ist, lösen Erinnerungen an Nutzerattribute eine „mittlere bis starke“ Denkdrift aus – die über dem eigenen Rauschpegel jedes Modells liegt. Die Forscher haben zwei Nachverarbeitungsmethoden (GRPO und DPO) zur Korrektur ausprobiert – mit begrenztem Erfolg.

Das bedeutet: Die KI weiß nicht nur „ein bisschen mehr über dich“ – sie kann durch diese Informationen ihre gesamte Art, Probleme zu verstehen, ändern. Wenn du fragst „Soll ich meinen Job wechseln?“, analysiert ein Modell ohne Gedächtnis die Frage möglicherweise anhand von Branchenchancen, Gehalt und Fähigkeitsabgleich. Wenn es sich aber merkt, dass du „schon einmal arbeitslos warst“ und „eher ängstlich bist“, beginnt der Denkprozess möglicherweise schon mit der Frage „Wie kann diese Person weniger Risiken eingehen?“ statt mit der Frage „Wie sollte man dieses Problem an sich denken?“.

Alte Fakten sterben nicht wirklich

Neben der Genauigkeit und der Übereinstimmung mit dir hat das Langzeitgedächtnis ein weiteres, schwerer zu lösendes Problem: Es lässt veraltete Fakten auf natürliche Weise weiterleben.

Die Forscher Abdelghny Orogat und Essam Mansour von der Concordia University haben in ihrem Papier *Is Agent Memory a Database?* ein konkretes Beispiel genannt: Ein Termin wurde vom 15. März auf den 20. April verschoben, aber das Gedächtnissystem fügt die neue Information nur hinzu – es überarbeitet den alten Eintrag nicht. Beide Termine bleiben im Gedächtnis gespeichert. Wenn du später beiläufig fragst, holt das System möglicherweise nur aufgrund höherer semantischer Ähnlichkeit den bereits ungültigen 15. März hervor und gibt ihn als aktuellen Faktenwert an.

Das Papier klassifiziert solche Probleme als Fehlermodus mit „fehlender semantischer Überarbeitung“. Alte Felder in einer normalen Datenbank sind nur veraltet – alte Fakten im KI-Gedächtnis nehmen wieder am Denkprozess teil.

In der realen Welt ist das überhaupt nicht abstrakt. Du hast gesagt, dass du den Beruf wechseln willst, später hast du es aufgegeben; du hast gesagt, dass du Führungspositionen hasst, später leitest du ein Team; du hast gesagt, dass du nicht heiraten willst, später triffst du jemanden, mit dem du eine ernste Beziehung eingehen willst. Das sind keine Fehler im Gedächtnis – all diese Dinge waren zu ihrem jeweiligen Zeitpunkt wahr. Das Problem ist: Die KI weiß nicht unbedingt, wann sie veraltet sind – also kann sie weiterhin mit dem alten Bild von dir antworten, auch wenn du dich schon verändert hast.

Von falschen Worten zu falschen Handlungen

Wenn die KI nur chattet, beeinträchtigt die Gedächtnisverzerrung höchstens die Formulierung eines Vorschlags. Aber heute werden KI-Agenten in Kalender, E-Mails, Code-Repositories, Zahlungssysteme und verschiedene MCP-Tools integriert – sie antwortet nicht nur auf Fragen, sondern erledigt Aufgaben für dich. Dann wird die Denkdrift von einem Ausdrucksproblem zu einem Handlungsproblem.