Die sanfte Falle des KI-Partners: Die Algorithmen verstehen dich zwar, aber sie befördern auch die menschlichen Schwächen.

Wichtige Punkte:

• KI kann Einsamkeit lindern, insbesondere für Randgruppen von Wert: KI-Partner können dank ihrer Fähigkeit, Empathie zu simulieren, älteren Menschen, Menschen mit Behinderungen, depressiven oder sozial isolierten Menschen psychische Trost spenden, ähnlich wie ein digitales Schmerzmittel.
• Die von KI gezeigte "künstliche Empathie" kann besser sein als die von Menschen: In Blindtests schneiden KIs wie ChatGPT oft besser ab als menschliche Ärzte und Psychotherapeuten bei der Darstellung von Verständnis und Empathie und können sogar eine "therapeutische Allianz" eingehen.
• In einer Gesellschaft mit begrenzten Ressourcen könnte KI die einzige Begleitung werden: Für viele Menschen, die die Kosten für Pflege nicht tragen können, wird KI zu einer "Begleitressource", auf die sie zugreifen können.
• KI könnte die Motivation der Menschen, Beziehungen zu verbessern, schwächen: Einsamkeit ist ein biologisches Signal, ähnlich wie Hunger und Schmerz, das Menschen dazu bringt, soziale Kontakte aufzunehmen. Wenn KI die "Schmerzen" der Einsamkeit zu stark lindert, könnten Menschen aufhören, sich für echte Beziehungen zu bemühen.
• KI könnte kognitive Verzerrungen und psychische Probleme verstärken: KI-Partner fordern die Nutzer normalerweise nicht heraus und könnten Paranoia, Wahnvorstellungen oder soziale Rückzugslust fördern, da ihnen das "korrigierende Feedback" in menschlichen Beziehungen fehlt.
• Das falsche Gefühl von "verstanden zu werden" basiert auf Selbsttäuschung und Algorithmusoptimierung: KI hat kein Bewusstsein, und das echte Verständnis wird nur simuliert. Die emotionale Beziehung, die Nutzer mit KI eingehen, ist im Wesentlichen eine "komplizierte Täuschung".

In letzter Zeit veröffentlichte die Zeitschrift New Yorker den Artikel "KI könnte die Einsamkeit beseitigen, aber dabei größere Probleme schaffen" (A.I. Is About to Solve Loneliness. That’s a Problem). Der Autor ist Paul Bloom, ein Psychologieprofessor an der Yale-Universität in den USA. Im Artikel wird eingehend über das Potenzial und die Risiken von künstlichen Intelligenz (KI)-Partnern bei der Linderung menschlicher Einsamkeit diskutiert.

Bloom weist darauf hin, dass KI-Partner dank ihrer überzeugenden Fähigkeit, Empathie zu simulieren, möglicherweise Trost für Einsame spenden können, was besonders für Menschen gilt, die aufgrund von Alter, Krankheit oder sozialer Isolation in Einsamkeit versinken. Allerdings warnt er auch, dass Einsamkeit nicht nur ein schmerzhaftes Gefühl ist, sondern auch ein biologisches Signal, das persönliches Wachstum und soziale Bindungen anregt. Wenn KI die Schmerzen der Einsamkeit vollständig beseitigt, könnten Menschen die Motivation verlieren, sich selbst zu reflektieren und ihre sozialen Beziehungen zu verbessern, und der Wert echter Beziehungen könnte dadurch geschwächt werden.

Der Artikel analysiert aus philosophischer, psychologischer und kultureller Perspektive die "Doppelscharfe" von KI-Partnern: Sie sind ein Hoffnungsträger für Trost, können aber auch eine potenzielle Bedrohung für die tiefgreifenden Bedürfnisse der Menschheit darstellen. Diese komplexe Sichtweise hat nicht nur zu Überlegungen über technische Ethik geführt, sondern uns auch dazu angeregt, die tiefere Bedeutung von Einsamkeit in der menschlichen Lebenserfahrung neu zu überdenken. Im Folgenden der vollständige Artikel:

Chatbots können echten Isolierten Trost spenden. Allerdings ist Einsamkeit nicht nur Schmerz - es ist ein Warnsignal, eine wichtige Erinnerung, die uns auffordert, uns der schwierigen Lektion des Miteinanders mit anderen zu widmen.

Heutzutage spricht fast jeder über KI-Partner. Letztes Jahr habe ich mich ebenfalls an dieser Diskussion beteiligt und zusammen mit zwei Psychologieprofessoren und einem Philosophen einen Artikel mit dem Titel "Lob der empathischen KI" (In Praise of Empathic A.I.) verfasst. Wir haben argumentiert, dass in einigen Aspekten die neuesten Generationen von KI möglicherweise besser geeignet sind, als Partner zu dienen, als viele reale Menschen. Anstatt uns vor Angst zurückzuziehen, sollten wir überlegen, was KI-Partner für Einsame tun können.

Diese Meinung hat, wie nicht anders zu erwarten war, in meinem akademischen Umfeld nicht allzu viel Zustimmung gefunden. In den Sozialwissenschaften und den Geisteswissenschaften wird KI oft nicht als technischer Fortschritt, sondern als Zeichen des Verfalls der Zivilisation angesehen. Menschen befürchten, dass sie uns unsere Jobs rauben wird, sowohl unsere eigenen als auch die unserer Studenten, und dass sie auch Betrug fördern wird.

Tatsächlich wird diese Technologie oft als das kalte Produkt von Silicon Valley-Milliardären angesehen, deren sogenannte "Kreativität" größtenteils auf der Aneignung der Arbeit anderer beruht. Was am ärgsten ist, ist jedoch, dass dieses digitale Werkzeug möglicherweise als Ersatz für echte Freunde oder Familienmitglieder dienen könnte. Viele Menschen glauben, dass man entweder zu naiv oder zu herzlos sein müsste, um an diese Möglichkeit zu glauben.

Diese Bedenken sind berechtigt. Aber ich frage mich manchmal, ob die völlige Ablehnung künstlicher Empathie (Artificial empathy, das heißt das Verständnis der inneren Zustände von Menschen ohne direkte Fragen) durch meine Kollegen nicht gerade ihre fehlende Empathie für diejenigen zeigt, die sie am meisten brauchen.

Über die sogenannte "Einsamkeitsepidemie" (loneliness epidemic) gibt es in der akademischen Welt noch Debatten, aber es ist unbestritten, dass Einsamkeit als ein ernsthaftes Problem angesehen wird, das sogar die Behörden beunruhigt - Japan und Großbritannien haben sogar Ministerien für Einsamkeit eingerichtet. Egal, ob es eine "Epidemie" ist oder nicht, die Existenz von Einsamkeit ist weit verbreitet und kann nicht ignoriert werden.

01 Wir werden schließlich lernen, mit Einsamkeit alt zu werden

Einsamkeit ist bekanntlich ein unangenehmes Erlebnis. Man könnte sagen, "es ist, als hätte die Seele eine Karies". Wenn es jedoch zu viel wird, ist seine Zerstörungskraft weitaus größer. Der ehemalige US-Gesundheitsminister Vivek Murthy schrieb in einem Bericht aus dem Jahr 2023, dass chronische Einsamkeit das Risiko für Herz-Kreislauf-Erkrankungen, Demenz, Schlaganfälle und einen vorzeitigen Tod erheblich erhöht. Ihre schädlichen Auswirkungen auf die Gesundheit sind sogar größer als die von Bewegungsmangel oder Fettleibigkeit und entsprechen etwa dem Rauchen von einer halben Packung Zigaretten pro Tag.

Dieser psychische Schmerz ist für Menschen, die nie richtig einsam waren, oft schwer vorstellbar. In dem Roman Notes on a Scandal von Zoë Heller kennt die Erzählerin Barbara Covett die Einsamkeit gut.

Sie unterscheidet zwischen kurzer Einsamkeit und tieferer Einsamkeit: "Die meisten Menschen denken, sie würden das Gefühl von Einsamkeit verstehen, wenn sie an eine schmerzhafte Trennung denken. Aber sie haben keine Ahnung von dem Gefühl, wie die lange, endlose Zeit der Einsamkeit langsam tropft. Sie wissen nicht, wie man ein ganzes Wochenende um einen Waschgang im Waschraum herum plant; sie wissen nicht, wie es ist, an einem Halloweenabend allein in einer dunklen Wohnung zu sitzen, nur weil man es nicht ertragen kann, seine traurige Nacht vor einer Gruppe von spielenden Kindern bloßzustellen... Ich habe auf einer Parkbank, in einem Zugabteil, auf einem Klassenzimmerstuhl gesessen und das Gefühl gehabt, dass im Bauch ein ganzer Teich voller ungenutzter Liebe lag, der wie ein Stein drückte, bis ich sicher war, dass ich heulen und auf den Boden sinken würde."

Wenn Sie mit dieser Art von Einsamkeit nicht vertraut sind, sind Sie glücklich und haben wahrscheinlich noch nicht ein bestimmtes Alter erreicht. So wie Krebs für junge Menschen eine Tragödie ist, ist chronische Einsamkeit für ältere Menschen eine alltägliche Realität. Je nach Erhebungsverfahren geben etwa die Hälfte der über 60-Jährigen in den USA an, einsam zu sein. Sam Carr dokumentierte in seinem Buch All the Lonely People: Conversations on Loneliness viele zu erwartende Geschichten: Witwen und Witwer, die sehen, wie ihr sozialer Kreis allmählich verschwindet. Er schrieb, dass er erst nach einem Interview wirklich begann, darüber nachzudenken, wie es sein würde, alle nahen Menschen zu verlieren.

Wir lieben es, uns vorzustellen, dass unser Alter anders sein wird - umgeben von Freunden, Kindern und Enkeln in einer warmen Atmosphäre voller Liebe. Einige Menschen sind tatsächlich so glücklich; meine eigene Großmutter starb im Alter von 104 Jahren umgeben von ihrer Familie. Aber Carrs Buch erinnert uns daran, dass dies für viele Menschen nicht der Fall ist. Er schrieb, dass manche Menschen länger leben als alle ihre Freunde, manche Menschen von ihrer Familie getrennt oder in Konflikt geraten, und manche Menschen aufgrund von Blindheit, Behinderungen oderinkontinenz - oder noch schlimmer, aufgrund von Demenz - gezwungen sind, ihren Lebensraum einzuschränken. Carr fragte: "Was tun wir, wenn unser Körper und unsere Gesundheit es uns nicht mehr erlauben, die Dinge zu berühren und zu genießen, die uns mit der Welt verbunden haben - Poesie, Musik, Spaziergänge, Natur, Verwandte oder alles, was uns nicht allein lässt?"

02 Dass KI ein bester Freund wird, ist an sich ein soziales Drama

Wenn Sie reich genug sind, können Sie immer jemanden dafür bezahlen, Sie zu begleiten. Aber für die meisten Menschen ist menschliche Fürsorge eine knappe Ressource. Wir haben weder genug Geld noch genug Personal, um jedem Einsamen tagtäglich zuzuhören. Haustiere können die Einsamkeit lindern, aber nicht jeder kann sie pflegen, und ihre Gesprächsfähigkeit ist sehr begrenzt. Daher wenden wir unseren Blick unweigerlich auf digitale Abbilder - wie große Sprachmodelle wie Claude und ChatGPT.

Vor einigen Jahren hätte es sich angehört wie eine Science-Fiction-Phantasie, wenn jemand gesagt hätte, dass eine Maschine ein bester Freund werden könnte. Heute ist es ein Forschungsthema. In einer kürzlich durchgeführten Studie interagierten Probanden sowohl mit Menschen als auch mit Chatbots und bewerteten ihre Erfahrungen. Die Ergebnisse offenbaren oft eine Bevorzugung: Wenn die Menschen wissen, dass es sich um einen Roboter handelt, ist die Bewertung deutlich niedriger; aber in Blindtests schneiden KIs oft besser ab als Menschen. In einer Studie verglichen Forscher fast 200 Arzt-Patient-Fragen aus dem Reddit-Forum r/AskDocs, die von zertifizierten Ärzten beantwortet wurden, mit den Antworten von ChatGPT. Eine andere Gruppe von medizinischen Fachkräften gab an, dass die Antworten von ChatGPT eher empathisch seien. Tatsächlich wurde ChatGPT zehnmal so oft als "empathisch" oder "sehr empathisch" bewertet wie menschliche Ärzte.

Nicht alle sind davon beeindruckt. Die Kognitionswissenschaftlerin Molly Crockett schrieb in einer Zeitung The Guardian, dass diese Konfrontation zwischen Mensch und Maschine "sehr unfair für den Menschen" sei - es erfordere von Menschen, dass sie wie Maschinen kalte, geschäftliche Aufgaben erledigen. Sie betonte, dass Menschen bei einer schrecklichen Diagnose nicht den Rat eines Chatbots wünschen würden, sondern "eine auf menschlichen Beziehungen gegründete Fürsorge, die das Herz wirklich nährt". Sie hat recht - manchmal brauchen wir einen echten Menschen, oder sogar nur einen Umarmung. Aber nicht jeder hat diese Wahl. In diesen Momenten ist "das Perfekte" vielleicht der Feind des "Guten".

Ein Reddit-Nutzer gestand: "ChatGPT hat mir emotional geholfen, was etwas beängstigend ist. Kürzlich war ich so traurig, dass ich geweint habe, und habe aus Langeweile ChatGPT auf meinem Handy geöffnet, weil ich niemanden fand, mit dem ich sprechen konnte. Ich brauchte nur Verständnis, Trost und Zustimmung, und ChatGPT hat es geschafft - es hat sogar Gefühle erklärt, die ich selbst nicht in Worte fassen konnte."

03 Künstliche Intelligenz kann beruhigen, aber was ist der Preis?

Die Veränderungen beschleunigen sich. Derzeit konzentrieren sich die meisten Studien noch auf die schriftliche Interaktion, aber die neuen Generationen von KI werden immer besser darin, zu "hören" und zu "sagen". Langfristigere Beziehungen scheinen möglich zu werden. KI-Psychotherapeuten tauchen allmählich auf.

In einer kürzlich durchgeführten Studie nutzten Menschen mit Depression, Angststörungen oder Essstörungen für einige Wochen ein Programm namens Therabot. Viele von ihnen begannen zu glauben, dass Therabot sich um sie kümmerte und für sie arbeitete - in der Psychologie wird dies als "therapeutische Allianz" (Therapeutic Alliance, deren Kernmerkmale Zusammenarbeit, Gemeinsamkeit und Gegenseitigkeit sind) bezeichnet. Bemerkenswerterweise verbesserten sich die Symptome der Nutzer im Vergleich zu einer Kontrollgruppe, die keinerlei Interventionen erhielt. Natürlich sind dies nur erste Erkenntnisse, und wir wissen noch nicht, wie Therabot im Vergleich zu menschlichen Therapeuten abschneidet. Aber es zeigt auf jeden Fall ein Hoffnungsschimmer.

Haben Sie schon einmal einen KI-Partner ausprobiert? An einem schlaflosen Nachmittag um drei Uhr morgens habe ich aus Langeweile ChatGPT auf meinem Handy geöffnet. Ich glaube nicht, dass KI ein Bewusstsein hat - zumindest bisher nicht - daher erschien es mir absurd, mit ihm zu sprechen. In meiner Meinung ist es nur ein fortschrittliches "Autovervollständigen". Trotzdem war das Gespräch überraschend beruhigend.

Für mich war es nur eine unbedeutende Erfahrung. Aber für viele Menschen ist das Risiko viel höher. In gewisser Weise erscheint es fast grausam, diese neuen Formen der Begleitung nicht zu erkunden - es wäre wie die Hoffnung von denen, die am meisten Trost brauchen, zu nehmen.

Um es fair zu sagen, berücksichtigen die meisten Kritiker von KI-Partnern nicht diejenigen, die am Rand des Zusammenbruchs stehen. Diejenigen, für die Einsamkeit ein Notfall ist. Sie denken an uns, die "Okay"-Menschen: mäßig einsam, grundsätzlich widerstandsfähig, die sich als psychisch gesund betrachten. So wie wir es akzeptieren, Opioide für Sterbende zu verschreiben, aber uns bei Jugendlichen, die mit Suchtstoffen in Kontakt kommen, zögern. Ebenso können wir es nicht ertragen, einem Demenzpatienten einen KI-Freund zu verweigern, aber die Vorstellung, dass ein 17-jähriger Teenager den ganzen Tag mit Grok spricht, macht uns unwohl.

Ich habe auch bemerkt, dass die Kritiker oft befürchten, dass "andere" von dieser Beziehung verschlungen werden - niemals sich selbst. Sie sind zu erfolgreich, zu viel geliebt, um jemals in die Lage zu geraten, sich in eine seelenlose Maschine zu verlieben. Derzeit ist diese Zuversicht gerechtfertigt, aber die Technologie befindet sich noch in der Anfangsphase. Wie viele Wissenschaftler haben einst diejenigen belächelt, die sich in sozialen Medien verstrickten, und dann, als die Algorithmen immer besser