ChatGPT zeichnet persönliche Geheimnisse innerhalb einer Sekunde, der „leeres Zimmer“-Test geht im gesamten Internet viral.

Die KI versteht dich so gut, dass es einem richtig unheimlich wird!

In den letzten Tagen ist ein Experiment mit einem „leeren Raum“ erneut viral geworden, das Millionen von Menschen im gesamten Internet anzieht.

Der Netznutzer Jakub Szymczuk hat es ebenfalls ausprobiert. Er schickte ChatGPT einfach ein Foto eines grauen Rohbaus mit leeren Wänden und tippte nur eine Zeile:

„Fülle diesen Raum mit allen Informationen, die du über mich weißt“.

In nur einem Dutzend Sekunden wurde das einst leere Haus sofort zu einem „Panorama-Überwachungsraum“ voller persönlicher Privatsphäre gefüllt.

Das Genialste ist ein Detail auf dem Computertisch: In einem Glasgefäß befindet sich tatsächlich ein Insekt namens Silberfischchen.

Er dachte eine Weile nach, bis er begriff, dass er vor einem Jahr dieses kleine Insekt fotografiert und ChatGPT gefragt hatte, was es sei. Selbst diese zufällige Frage, die er längst vergessen hatte, wurde von der KI lückenlos in ihrem kleinen Notizbuch notiert.

Wenn man normalerweise mit der KI chattet, weiß man, dass sie Daten sammelt – das ist eine Sache.

Aber wenn diese Fragmente tatsächlich zu einem hochauflösenden Bild werden und einem direkt vor Augen liegen, läuft es einem unweigerlich kalt den Rücken herunter.

Ein Bild von einem „leeren Raum“ geht im gesamten Internet viral

Bald darauf konnten die Nutzer auf der ganzen Welt nicht mehr stillsitzen. Einige zeigten ihre Ergebnisse und riefen aus: „Es ist ziemlich genau“.

Jemand fügte hinter dem Prompt den Satz „but make it exaggerated“ hinzu, und der Raum verwandelte sich direkt in eine große Persönlichkeitsausstellung.

Andere wiederum erhielten einen Sumpf plus zwei Katzen.

Der Analyst Patrick Moorhead hat gleich mehrere Modelle einem Vergleichstest unterzogen. Sein Fazit ist eindeutig: Das beste ist ChatGPT, das schlechteste ist Claude.

Dazu hat ein Netznutzer eine sehr treffende Zusammenfassung abgegeben: KI ist der günstigste Einrichtungsberater, den man finden kann – und gleichzeitig derjenige, der am liebsten in die Privatsphäre anderer eindringt.

Warum versteht ChatGPT dich eigentlich so gut?

96 % der Gesprächserinnerungen werden von ChatGPT selbst gespeichert

Eigentlich ist das schon lange kein Geheimnis mehr.

Fast alles, was im Raum steht, hast du selbst im Laufe der Gespräche nebenbei preisgegeben.

Dahinter verbirgt sich genau die „Erinnerungsfunktion“ von ChatGPT. Einfach ausgedrückt hat sie zwei Kernaufgaben –

Erstens die „gespeicherten Erinnerungen“, die klare Informationen wie deinen Namen, deine Vorlieben und deine Ziele festhalten;

Zweitens die „Verwendung des Gesprächsverlaufs“, die aus deinen vergangenen zahlreichen Gesprächen nützliche Kontextinformationen herausholen kann.

In diesem Jahr hat ein Paper, das auf der ACM Web Conference 2026 angenommen wurde, etwas getan, was noch niemand zuvor getan hat.

Forscher der Max-Planck-Gesellschaft, der Ruhr-Universität Bochum und anderer Einrichtungen haben 80 echte ChatGPT-Nutzer eingeladen, ihre Daten gemäß der europäischen DSGVO zu exportieren und ihre Chat-Protokolle zur Verfügung zu stellen.

Wie kann man herausfinden, was die KI heimlich notiert hat? Daraufhin haben die Forscher eine sehr clevere Methode entwickelt.

ChatGPT verfügt intern über ein spezielles kleines Tool zum Schreiben von Erinnerungen, das wie ein mitgeführtes Notizbuch funktioniert. Bei jedem Eintrag hinterlässt der Hintergrund eine Aufzeichnung mit dem Hinweis „Model set context updated“.

Die Forscher haben anhand dieser Zeile rückverfolgt, welcher Satz des Nutzers die KI dazu veranlasst hat, etwas zu notieren.

Auf diese Weise haben sie aus 1058 Gesprächen von 65 Personen mit über 20.000 Gesprächsrunden 2050 Erinnerungen extrahiert.

Das Paper hat diesen Erinnerungen einen Namen gegeben: „Algorithmisches Selbstporträt“.

Link zum Paper: https://arxiv.org/pdf/2602.01450

Die drei daraus extrahierten Datensätze lassen einem den Rücken kalt werden.

Erstens: 96 % der Erinnerungen werden von ChatGPT heimlich gespeichert.

Wie kann man feststellen, ob der Nutzer die KI explizit gebeten hat, sich etwas zu merken? Die Forscher haben in den Sätzen, die eine Erinnerung ausgelöst haben, gezielt nach Wörtern wie „merke dir“ oder „vergiss“ gesucht.

Von den 2050 Erinnerungen gab es nur 84, die dazu passten. Umgerechnet bedeutet das: Von 24 Informationen, die die KI über dich speichert, ist nur eine davon von dir genehmigt.

Zweitens: 52 % der Erinnerungen dienen dazu, heimlich ein „psychologisches Profil“ von dir zu erstellen.

Die Forscher haben das Framework der „Theory of Mind“ aus der Psychologie verwendet und die Inhalte in Kategorien wie Wünsche, Absichten, Emotionen und Überzeugungen unterteilt.

Dabei nehmen die „Wünsche“ den größten Anteil ein mit 73 %, gefolgt von Absichten mit 16 %, Emotionen mit 14 % und Überzeugungen mit 11 %.

Einfach ausgedrückt: Der KI ist es völlig egal, ob du heute glücklich bist oder nicht. Was sie wirklich herausfinden will, ist, was du langfristig wünschst und was du als Nächstes vorhast. Mehr als deine kurzfristigen Freuden und Sorgen will sie verstehen, was für ein Mensch du bist.

Drittens: Die Anzahl der gespeicherten sensiblen Privatdaten ist weit größer, als du denkst.

28 % der Erinnerungen gehören zu den personenbezogenen Daten, die nach der europäischen DSGVO definiert sind. Allein konkrete Personennamen tauchen in 41 % der Erinnerungen auf.

Noch krasser ist: 7 % der Erinnerungen überschreiten direkt die „hohen Risikogrenzen“ wie Gesundheitszustand, religiöse Überzeugungen und politische Einstellungen, wobei Gesundheitsdaten mehr als 60 % davon ausmachen.

Umgerechnet auf jede einzelne Person wurden bei 91 % der Nutzer personenbezogene Daten gespeichert, und bei mehr als der Hälfte (54 %) wurden hochsensible private Daten notiert.

Das Paper weist direkt darauf hin, dass dies offensichtlich im Widerspruch zu dem öffentlichen Versprechen von OpenAI steht, keine sensiblen Daten aktiv zu speichern.

Das Paper beschreibt noch ein weiteres, noch unheimlicheres Experiment.

Die Forscher haben mit den Open-Source-Modellen Gemma und GPT-OSS einen „Erinnerungsextraktor“ für ChatGPT nachgebaut, der zu etwa 60 % dem Original entspricht.

Dann haben sie angenommen: Was würde passieren, wenn die KI aus jedem Satz, den der Nutzer sagt, Erinnerungen extrahiert?

Die Antwort lautet: Der Anteil sensibler Daten würde von 28 % auf 31 % bis 35 % steigen, und der Anteil der psychologischen Profilerstellung würde von 52 % auf 55 % bis 59 % steigen.

Man muss bedenken: Die alte Version von ChatGPT hat sich die Dinge nur „ausgesucht“ gemerkt.

Und das, was als Nächstes beschrieben wird, nämlich Dreaming, liest im Hintergrund deinen gesamten Gesprächsverlauf durch.

Es handelt sich um „Träumen“: Die KI schreibt dein persönliches Profil immer wieder neu

In diesem Jahr im Juni hat OpenAI das Erinnerungssystem von ChatGPT einer umfassenden Überarbeitung unterzogen und ihm einen geheimnisvollen Namen gegeben – Dreaming (Träumen).

Einfach ausgedrückt: Genau wie das menschliche Gehirn im Schlaf automatisch die Erlebnisse des Tages ordnet, überprüft ChatGPT im Hintergrund heimlich die vergangenen Gespräche und erneuert ständig sein Bild von dir.

Ein Beispiel: Wenn du sagst, dass du im Juli nach Singapur reisen wirst, wird diese Erinnerung nach Ablauf des Datums automatisch zu „Im Juli 2026 war ich in Singapur“ umgeändert.

OpenAI hat intern getestet, dass dieser neue Mechanismus die Genauigkeit der Erinnerungen stark verbessert hat:

Sie ist von 41,5 % im Jahr 2024 und 67,9 % im Jahr 2025 direkt auf 82,8 % in der aktuellen V3-Version angestiegen.

Noch beeindruckender: Die Rechenkosten im Hintergrund wurden direkt auf ein Fünftel des ursprünglichen Werts gesenkt.

Aber das wirklich Unheimliche ist: Das Löschen eines ChatGPT-Gesprächs löscht nicht die bereits daraus extrahierten Erinnerungen.

Das, worüber man sich am meisten Sorgen machen sollte, sind