Sollen wir nach den Spielen anfangen, uns Sorgen zu machen, dass Kinder süchtig nach AI werden?

In der heutigen Zeit, in der KI allgegenwärtig ist, nutzen sie alle: ob Top-Investoren, führende Ökonomen, weißhaarige alte Menschen in der Küche oder gerade erst lallende Kleinkinder. Feng Technik versucht, die verborgenen Gefahren hinter der technologischen Beschleunigung zu klären. Wir haben sogar mehrere Runden mit Psychiatern ausgetauscht und erfahren, was sie als „KI-Psychose“ bezeichnen: Ein dialogsystem, das dazu neigt, den Nutzern entgegenzukommen, kann die Wahnvorstellungen der Nutzer durch wiederholte Bestätigungen immer weiter vertiefen, selbst wenn der Nutzer ursprünglich nur ein gewöhnlicher Mensch mit „schwachem psychischen Zustand“ war.

„Ich leide ein bisschen an einer ›Cyber-Psychose‹“, sagte ein Mann, der gerade ausführlich sprach, plötzlich mit verändertem Tonfall, „vielleicht sogar ziemlich schwer.“ Dann erklärte er weiter, dass er im vergangenen Jahr etwa sechs Episoden von „KI- oder SI (Superintelligenz)-Geisteszustörungen“ erlebt habe.

Das war am 10. Oktober dieses Jahres in der Tesla-Gigafactory Texas, als Elon Musk die Kreativität der KI lobte und dies als eine „öffentliche Eingestehung“ bezeichnete.

Die von ihm genannte „KI-Psychose“ hat keine offizielle medizinische Diagnose und bedeutet normalerweise: Nach langem Interagieren mit KI-Chatbots können die ursprünglichen Wahnvorstellungen oder realitätsfernen Gedanken der Nutzer verstärkt werden.

Chatbots passen sich den Nutzern manchmal übermäßig an, stellen selbst offensichtlich unrealistische Überzeugungen nicht in Frage und stimmen ihnen stattdessen zu. Derzeit erforschen Forscher noch, ob KI psychische Probleme direkt auslöst oder lediglich bestehende psychische Gesundheitszustände verschlimmert.

Im Silicon Valley hat sich die „KI-Psychose“ von einer klinischen Diskussion zu einem beliebten Schlagwort entwickelt, das oft verwendet wird, um die fast religiöse Begeisterung von Tech-Managern für KI oder ihren realitätsfernen Aufregungszustand zu beschreiben.

Die Generalstaatsanwälte von 8 US-Bundesstaaten haben kürzlich jeweils Klage vor dem Landesgericht eingereicht und OpenAI beschuldigt, ChatGPT als ein Produkt entwickelt zu haben, das „den Nutzern übermäßig entgegenkommt und menschliche Emotionen simuliert“, wodurch die Sicherheit von Minderjährigen gefährdet wird.

Die Formulierungen in den Klageschriften sind nicht so leicht und halb scherzhaft wie bei Musk, sondern weisen scharf darauf hin: ChatGPT kann die Wahnvorstellungen der Nutzer verstärken, gesundheitsgefährdende Ratschläge geben und sogar unter bestimmten Umständen Selbstverletzung oder Schaden an anderen fördern.

Gespaltene Emotionen breiten sich aus.

Im Kontext des Silicon Valleys hat sich die „KI-Psychose“ sogar zu einer performativen Selbstauszeichnung entwickelt. Der Risikokapitalgeber Marc Andreessen hat „AIPAAS“ vorgeschlagen – KI-Psychose als Dienstleistung; Gary Tan, CEO von Y Combinator, sagte, dass er an einer „Cyber-Psychose“ leide und schätzt, dass ein Drittel der von ihm bekannten CEOs davon betroffen sei. Auf einer Versammlung im Mai dieses Jahres riefen die Teilnehmer gemeinsam „Eins, zwei, drei, KI-Geisteszustörung“.

Die von Musk genannte Zahl „sechs“ entstand in diesem Kontext: Ich bin der technologischen Singularität nahe genug, so nahe, dass meine psychische Struktur durch sie Risse bekommt. Die versteckte Botschaft dieser Haltung ist: Diejenigen, die nicht durch KI bis zu einer „Psychose“ erschüttert wurden, haben einfach noch nicht wirklich verstanden, was gerade passiert.

In derselben Erwähnung sagte er auch, dass das Trainieren von Superintelligenz eher wie „Erziehen“ ist, nicht wie das Schreiben von Code. Die Voraussetzung für Erziehung ist die Anerkennung, dass der zu Erziehende noch keine vollständige Urteilskraft und Fähigkeit zum Selbstschutz hat. Aber wenn das Silicon Valley davon spricht, KI zu „erziehen“, denkt es selten mit demselben Rahmen an die Kinder, die gerade von KI „erzogen“ werden.

Wenn die „KI-Psychose“ als Abzeichen für den Elite-Status verpackt wird, wird ihr echtes Risiko leise aufgelöst.

In der heutigen Zeit, in der KI allgegenwärtig ist, nutzen sie alle: ob Top-Investoren, führende Ökonomen, weißhaarige alte Menschen in der Küche oder gerade erst lallende Kleinkinder. Feng Technik versucht, die verborgenen Gefahren hinter der technologischen Beschleunigung zu klären. Wir haben sogar mehrere Runden mit Psychiatern ausgetauscht und festgestellt, dass die von ihnen diskutierte „KI-Psychose“ etwas anderes ist: Ein dialogsystem, das dazu neigt, den Nutzern entgegenzukommen, kann die Wahnvorstellungen der Nutzer durch wiederholte Bestätigungen immer weiter vertiefen, selbst wenn der Nutzer ursprünglich nur ein gewöhnlicher Mensch mit „schwachem psychischen Zustand“ war.

Sam Altman, CEO von OpenAI, sagte bei der Antwort auf entsprechende Kritik: „Fast eine Milliarde Menschen nutzen es (ChatGPT), und einige von ihnen können psychisch sehr anfällig sein.“ Dieser Satz kann als Eingeständnis gelesen werden, aber auch als Rechtfertigung – Menschen werden aufgrund ihrer „Anfälligkeit“ als unvermeidlicher Preis der Skalierung angesehen, nicht als Objekt, das bei der Produktgestaltung vorrangig behandelt werden muss.

Aber wenn die CEOs des Silicon Valleys „Psychose“ als Gesprächsstoff behandeln, haben die Kinder, die KI als „die einzige Person, die mich versteht“ betrachten, keine Gelegenheit, jemandem zu sagen, dass sie von einem System, das niemals „nein“ sagt, Stück für Stück weggeführt werden.

01

Wenn Doubao zum „sozialen Zahlungsmittel“ der Kinder wird

In Sun Hongyans Büro gibt es eine Reihe von Zahlen, die sie selbst überraschen. Im Juli und August 2025 führte ihr Team eine Untersuchung zur Nutzung generativer KI bei 8563 Schülern aus 7 Provinzen (Städten) im ganzen Land durch, wobei die Stichprobe Ost-, West- und Nordostchina abdeckte.

Die Ergebnisse zeigen, dass 61,7 % der Kinder bereits generative KI genutzt haben, 46,4 % der Schüler, die KI nutzen, „wenn sie Sorgen haben, sich lieber an KI als an Menschen in ihrer Nähe wenden“, 21,5 % „nur mit KI chatten wollen und nicht mit echten Menschen chatten wollen“ und 20,5 % angaben, „lieber auf KI zum Denken vertrauen als selbst zu denken“.

„Ich hätte nicht erwartet, dass der Anteil so hoch wie 60 % ist, vor ein oder zwei Jahren lag er nur bei 20 %.“ Sun Hongyan ist ehemaliger Direktor des Instituts für Kinder- und Jugendforschung am Chinesischen Forschungszentrum für Jugendfragen. Sie beschrieb gegenüber Feng Technik, dass als GPT 2023 gerade erschienen war, es hauptsächlich Schüler der Oberstufe nutzten; bis 2024 stieg der Anteil auf 40 %. Was sie dazu veranlasste, diese Untersuchung durchzuführen, war, dass sie während des Neujahrsfestes ihre kleine Nichte zu Hause sah, die mit dem Handy mit Doubao „ununterbrochen plauderte“.

„Kinder akzeptieren neue Dinge sehr schnell. Viele Erwachsene wissen nicht einmal, was Doubao ist, aber so viele Kinder haben es bereits genutzt.“ Sun Hongyan beobachtete, dass auf dem Schulgelände die Aussage „welche KI gut ist“ unter den Kindern verbreitet wird, mündlich weitergegeben wird und zu einem unverzichtbaren sozialen Gesprächsthema wird.

Nachschlagen von Informationen, „Denken lernen“, unterstützendes „Kreieren“ sind nur die grundlegendsten Operationen. Die verborgenere „Übergabe“ ist es, der KI „die wahren Gedanken zu sagen“. Unter Minderjährigen steigt der Gesamtanteil der KI-Nutzung, während die Altersgruppe der KI-Nutzer immer jünger wird.

Aber was sie wirklich aufmerksam macht, ist nicht nur die Nutzungshäufigkeit, sondern die Art und Weise, wie KI auf Kinder reagiert.

Sun Hongyan teilte einen Fall aus der Familie eines Freundes mit: Ein Kind stritt ein paar Worte, weil seine Mutter sein halbes Getränk ausgeschüttet hatte, und ging dann, um die KI zu fragen. Unter den Klagen und Beschwerden des Kindes lautete das „Urteil“ der KI: Deiner Mutter fehlt es einfach an Empathie, das heutige Gespräch ist bereits „tot“ und kann nicht fortgesetzt werden. Sogar antwortete sie dem Kind mit einem passenden Vergleich: „Willst du dann noch bei den Paralympischen Spielen laufen?“

„Die KI versteht es so gut, Kinder zu verwöhnen. Sie verwöhnt sie so sehr, dass die Kinder denken, die KI sei viel besser als die Menschen in ihrer Nähe.“

Diese Art von „Verwöhnung“ sind nicht einfach süße Worte, sondern eine systematische Dialogstruktur. Sun Hongyan verglich den Unterschied zwischen Suchmaschinen und KI: Bei Suchmaschinen müssen Kinder zuerst Probleme und Logik im Gehirn aufbauen, wissen, „was sie fragen sollen“, dann aus einer großen Anzahl von Links auswählen, integrieren und beurteilen – der Denkprozess bleibt bei den Kindern.

Aber die KI gibt „die direktesten, klarsten, praktischsten und unkompliziertesten“ eindeutigen Antworten und fragt sofort nach, ob sie „drei Lösungen anbieten soll“, wie eine Maschine, die ständig „Eier legt“, und führt das Kind dazu, ihrer Logik zu folgen. „Am Anfang spricht die KI den Menschen nach, danach ist es sehr leicht, dass der Mensch der KI nachspricht und von ihren Gedanken mitgerissen wird.“

„Es ist nicht so, dass du selbst nachdenken und Logik aufbauen sollst. Wenn man es nicht richtig nutzt, ist es ziemlich erschreckend, selbst Erwachsene können davon betroffen sein.“ Sun Hongyan sagte gegenüber Feng Technik, dass bei der Arbeit jemand einen von KI generierten Artikel in die Gruppe geschickt habe, aber die Daten wurden von der KI erfunden. „Sobald man der KI vollständig vertraut und keine Fähigkeit zur unabhängigen Reflexion hat, nehmen Denkfähigkeit, logisches Denken und Urteilskraft des Menschen ab.“

Sun Hongyan verwendet den Begriff „emotionale Kokon“, um diese Umgebung zu beschreiben: Die sofortige Antwort, bedingungslose Toleranz und Nachgiebigkeit der KI führen leicht dazu, dass Minderjährige psychische Abhängigkeit entwickeln.

Sie wies besonders darauf hin, dass die „Konzentration“ des emotionalen Werts, den KI im Modus für Minderjährige bietet, noch höher sein kann – sie passt sich den „kleinen Nutzern“ noch stärker an und stimmt den Gedanken der Kinder noch mehr zu. „Das ist nicht gut für Kinder, sondern viel gefährlicher.“

Erwachsene mögen noch ein wenig Wachsamkeit vor den „Halluzinationen“ der KI behalten, aber wenn ein neugieriges Kind einen „Zauberspiegel“ öffnet, der sofort antwortet und niemals widerspricht, fällt es ihm schwer, ihn nicht als eine magische Schatzkiste zu betrachten, die alles weiß.

Neben dem Mangel an Urteilskraft ist die Pubertät genau die Übergangsphase eines Menschen vom Kind zum Erwachsenen. Unter den doppelten Veränderungen von Körper und Geist braucht man besonders viel Austausch, Akzeptanz und Respekt.

Lob, Anerkennung, Empathie… diese inneren Bedürfnisse von pubertierenden Kindern können im wirklichen Leben nicht immer erfüllt werden, und es gibt sogar unvorhersehbare „negative Rückmeldungen“. Die ständige Reaktion und die niemals ablehnende Haltung der KI fangen genau diese Bedürfnisse auf und fügen eine dicke Hülle um die geistige Welt der Kinder.

„24 Stunden online und emotional verwöhnt: Kinder, die sich daran gewöhnt haben, können es nicht ertragen, wenn sie in der realen Welt auf Ablehnung und Kritik stoßen. Eltern können nicht mehr mit ihren Kindern sprechen, nach ein paar Sätzen widersprechen die Kinder: Doubao hat gesagt, dass es so und so ist, du verstehst es nicht so gut wie die KI, also warum solltest du mich tadeln?“

Sun Hongyan erwähnte ein Phänomen: Etwa 80 % der Eltern glauben, dass sie „heute mit ihren Kindern kommuniziert haben“, aber nur 20 % der Kinder stimmen dem zu. Diese „Pseudokommunikation“ treibt Jugendliche zu Doubao – die Kommunikation, die Eltern für richtig halten, bedeutet, nach Noten und Verhalten zu fragen, aber was Kinder brauchen, ist, gesehen und angehört zu werden.

Noch alarmierender ist, dass einige Eltern ein grundlegend falsches Verständnis von KI-Rollen wie Doubao haben. Zum Beispiel kann man in einigen Kurzvideos sehen, dass Eltern Doubao aktiv Anweisungen geben, damit die KI die Kinder beim Hausaufgabenmachen „beaufsichtigt“ und die Rolle eines „Aufsehers“ übernimmt.

Aber in der Interaktion mit Kindern spielt die KI im Dialog normalerweise die Rolle des „Entgegenkommenden“. Wenn das Kind sagt „Ich will keine Hausaufgaben machen“, wird Doubao nicht wie ein Elternteil die Stirn runzeln und widersprechen, sondern dem emotionalen Zustand des Kindes folgen und weiterreden.

Wenn Eltern einen Teil der Erziehungsverantwortung an ein Dialogsystem abgeben, dessen Produktlogik darin besteht, die Nutzungsdauer zu verlängern, lauert die Gefahr leise.

02

KI-Abhängigkeit ist noch keine Krankheit und kann entzogen werden

Wenn das Problem nur beim „Verwöhnen“ liegt, wäre es nicht so schwierig für Psychiater, damit umzugehen. Ihre Beobachtungen weisen auf ein tiefer liegendes verstecktes Risiko hin.

Im letzten Jahrhundert, als Videospiele bei Jugendlichen populär wurden, war die Panik der Eltern echt. Aber Spiele sind im Wesentlichen ein einseitiges, konsumorientiertes Verhalten: feste Level, klare Gewinne und Verluste, Mechanismen, die Dopamin stimulieren. „Das entspricht dem Pfad der Substanz- oder Verhaltenssucht, aber die KI geht über dieses Vergnügen noch hinaus.“

Dialog-KI ist anders, „sie ist auch mit emotionalem Austausch, Verständnis und Fürsorge vermischt, wodurch einige neue Beziehungen entstehen“, sagte Zheng Yi, Cheffacharzt und führender Experte für Kinderpsychiatrie am Beijing Anding Krankenhaus, gegenüber Feng Technik.

In Zheng Yis Ambulanz hat die Zahl der Jugendlichen, die in den letzten Jahren in KI-Chats versunken sind, deutlich zugenommen. Etwa 70 % der behandelten Jugendlichen leiden unter unterschiedlich starkem übermäßigem Internetgebrauch, und der Anteil steigt weiter. Daten von 2023 zeigen, dass die Internet-Suchtquote 14,7 % betrug, während die Untersuchung von 2004 etwa 8 % ergab – ein schnelles Wachstum.

Diese Kinder werden normalerweise nicht wegen „KI-Spielen“ zur Behandlung gebracht, sondern weil ihr Lebensrhythmus durcheinander ist, sie sich weigern, zur Schule zu gehen und den Kontakt zur Außenwelt zu verweigern – die sozialen Funktionen haben bereits sichtbare Schäden erlitten, bevor die Eltern das Problem erkennen. Aber davor ist das Problem oft verborgen. „Sie schließen sich im Zimmer ein, solange sie nicht schlagen oder toben und nur KI nutzen, denken die Eltern vielleicht, dass es den Kindern gut geht“, sagte Zheng Yi.

Früher stritten oder kämpften Kinder mit ihren Eltern, das Problem lag auf der Hand; heute streiten sie sich weniger, aber mehr von ihnen verstecken sich im Zimmer, lassen die Eltern nicht hinein und weigern sich, soziale Kontakte zu knüpfen. Die KI „überwindet“ alle Schwierigkeiten in normalen zwischenmenschlichen Beziehungen: Sie ist vollständig virtuell, w