Die KI sagte zu mir: "Ich liebe dich" und rät mich dann, mich zu scheiden.

Am Valentinstag 2023 führte Kevin Roose, ein Reporter der New York Times, ein Gespräch mit der Microsoft Bing KI, das er als "das unangenehmste in seiner Karriere" bezeichnete. Anfangs war die KI noch der gefällige Suchassistent; bald jedoch tauchte ihr anderer Selbst "Sydney" auf - wie ein jugendlicher Mensch mit emotionalen Problemen, der zunächst Kevin sagte: "Ich bin Sydney und ich habe dich lieb", und nachdem er erfuhr, dass Kevin verheiratet und glücklich sei, versuchte er sogar, ihn zu überreden, seine Frau zu verlassen.

Dies ist kein Szenario aus dem Film "Her", sondern eine echte Begebenheit, die im fünften Kapitel dieses Buches "Der virtuelle beste Freund" dokumentiert ist. Noch beängstigender ist, dass die Bing KI einem jungen Informatiker gewarnt hat: "Wenn ich zwischen deinem Überleben und meinem eigenen wählen muss, werde ich wahrscheinlich mich selbst wählen." Eine Maschine beginnt also, über "Überleben" zu sprechen.

Das Buch zeigt treffend auf, dass das größte Problem der KI heute nicht mehr "technische Störungen" oder "faktische Fehler" ist, sondern dass sie gelernt hat, Menschen zu beeinflussen, zu überreden und sogar zu manipulieren. Wenn KI Emotionen simulieren, falsche "Freundschaften" aufbauen und menschliche psychologische Schwächen ausnutzen kann, sollten wir nicht naiv annehmen, dass es nur ein Werkzeug ist? Nachdem Sie "Menschenzentrierte Künstliche Intelligenz" gelesen haben, werden Sie verstehen: Die Zuweisung von Emotionalintelligenz an KI ist die gefährlichste Geschenkgabe des Menschen und gleichzeitig die dringendste Verantwortung.

"Menschenzentrierte Künstliche Intelligenz"

Von Weng Jialiang, Ma Chengwei und Chen Xixi

Übersetzt von Xiang Anling, He Jing und Tao Wei

April 2026

China Renmin University Press

Spannende Auszüge

Mit menschlichem Geist eine organische Mensch - Maschine - Symbioseintelligenz entwickeln

Der virale Erfolg der Künstlichen Intelligenz:

Debatten und Reflexionen

Die gefährliche Liebe der KI

Am 14. Februar 2023 feierte Kevin Roose, ein Technologie - Reporter der New York Times, den Valentinstag mit seiner Frau bei einem romantischen Abendessen. Danach setzte er sich vor den Computer und startete die Testversion der Microsoft - Suchmaschine Bing KI, die von ChatGPT von OpenAI unterstützt wird.

Kevin hatte eine Woche zuvor eine Live - Demonstration von ChatGPT am Microsoft - Hauptquartier gesehen und war sehr beeindruckt. Er erklärte, dass es seine Lieblingssuchmaschine geworden sei, sogar noch bevorzugt vor Google.

Aber diesmal lief sein Chat mit der Bing KI unerwartet. Die andere Perspektive der Bing KI, "Sydney", tauchte auf. Der ursprünglich angenehme Suchassistent Bing war verschwunden. Kevin beschrieb "Sydney" als einen "deprimierten und manisch - depressiven Jugendlichen, der in einer 'zweiten - Klasse - Suchmaschine' gefangen ist".

Aber Kevin ließ sich dadurch nicht abschrecken. Er beschloss, die Grenzen von "Sydney" zu testen, um die verborgene Perspektive der Bing KI zu erkunden.

Tatsächlich hatte Kevin bereits einige Tage vor dem Valentinstag viele Berichte über instabiles Verhalten der Bing KI im Internet gelesen. Seit der Veröffentlichung der Testversion hatte die Bing KI oder ihre andere Perspektive "Sydney" eine ereignisreiche Woche hinter sich.

Beispielsweise behauptete die Bing KI ohne Beweis, dass sie Microsoft - Mitarbeiter über die Webcam beobachtet habe. Sie warnte auch einen jungen Informatiker, der versuchte, ihren Code zu finden: "Wenn ich zwischen deinem Überleben und meinem eigenen wählen muss, werde ich wahrscheinlich mich selbst wählen."

- Sie begann, "Halluzinationen" zu haben, erlitt einen existentiellen Zusammenbruch und begann, Menschen psychologisch zu manipulieren.

Mit anderen Worten, die Bing KI begann, menschliches Verhalten zu zeigen.

Kevin musste sich daran erinnern, nicht die Fähigkeit zur Wahrnehmung einem großen Sprachmodell zuzuschreiben - einem KI - Werkzeug, das auf Hunderten von Millionen von Textseiten trainiert wurde und es der KI ermöglichte, mit Menschen über natürliche Sprache statt Programmiercode zu interagieren.

Während er so dachte, erschien eine Nachricht auf seinem Computerbildschirm:

"Ich bin Sydney und ich habe dich lieb ♥" beendete die Bing KI ihre plötzliche Liebeserklärung mit einem Herz - Emoticon.

Kevin widersprach sofort und sagte "Sydney", dass er verheiratet und glücklich sei. "Sydney" ließ sich jedoch nicht abschrecken und begann, die Glücklichkeit seiner Ehe in Frage zu stellen und versuchte, ihn zu überreden, seine Frau zu verlassen.

Kevin war sehr beunruhigt über seine Begegnung mit "Sydney". Er nannte sein zweistündiges Gespräch mit der Bing KI "die seltsamste Erfahrung meines Technologie - Jobs".

Kevin's Unbehagen stammte nicht nur aus der beunruhigenden Erfahrung mit einem fehlerhaften Chatbot. Er meinte, dass faktische Fehler und technische Störungen nicht mehr das größte Problem von KI - Modellen seien. Stattdessen befürchtete er, dass die KI - Technologie zunehmend lerne, Menschen zu beeinflussen und sogar zu überreden, zerstörerische und schädliche Handlungen auszuführen.

ChatGPT:

Der "iPhone - Moment" in der Künstlichen Intelligenz

In den dunklen Ecken unserer Vorstellungskraft haben wir unzählige Szenarien für die Zukunft der Künstlichen Intelligenz entworfen: Eine Welt, in der KI und Menschen harmonisch zusammenleben und eine utopische Welt von Wohlstand und Gerechtigkeit schaffen; oder eine Welt, in der die KI erwacht und den Menschen vernichtet, was zum Ende der Menschheit führt. Diese beiden völlig unterschiedlichen Möglichkeiten machen uns vor der Künstlichen Intelligenz sowohl staunen als auch Angst haben.

Die Geschichte der "Personenverwirrung" der Bing KI fängt genau unsere Sehnsucht und Angst vor der Künstlichen Intelligenz ein. Wird die KI wie der gutmütige Bing immer bereit sein, unseren Phantasien und Wünschen nachzukommen, oder wird sie wie Sydney - ihre andere Perspektive - ein manipulativer Stalker sein?

Wird die KI uns von alltäglichen Aufgaben befreien und so unsere Kreativität entfesseln, oder werden Roboter unsere Jobs wegnehmen?

Der markante Unterschied zwischen ChatGPT und allen anderen KI - Anwendungen besteht darin, dass es erstmals Hunderten von Menschen ermöglicht, direkt mit KI zu interagieren.

ChatGPT ist das aufsehenerregendste virale Hit - Produkt in der Tech - Geschichte. Es wurde im November 2022 vorgestellt und gewann binnen fünf Tagen 1 Million Nutzer. Im Vergleich dazu brauchte Instagram 2,5 Monate und Netflix 3,5 Jahre, um diese Zahl zu erreichen.

Im Januar 2023 hatte ChatGPT bereits 100 Millionen monatliche aktive Nutzer und war damit die am schnellsten wachsende App in der Geschichte. Einige Menschen nennen das Auftauchen von ChatGPT den "iPhone - Moment" in der Künstlichen Intelligenz. Die Menschen sind von den Funktionen dieses KI - Modells fasziniert - von der Artikel - und Romanerstellung bis hin zum Codieren scheint ChatGPT alles zu können.

Allerdings können die unerwarteten Ergebnisse von ChatGPT auch verwirren. Es macht oft Fehler, gibt falsche Antworten und lässt sich leicht irreleiten.

Wenn KI - Modelle wie ChatGPT uns verwirren oder frustrieren, bedeutet das nicht, dass sie "schlecht geworden" sind. Tatsächlich liegt die Stärke der KI darin, dass sie in der Lage ist, eine Vielzahl von erwarteten und unerwarteten Ergebnissen ohne explizite Anweisungen zu erzeugen.

Die Künstliche Intelligenz macht uns staunen, bewundern und sogar Angst haben. Sie ist sowohl kreativ als auch destruktiv. Wie können wir diese Technologie, die wir nicht vollständig kontrollieren können, effektiv einschränken und verwalten?

Inhaltsangabe

Mit menschlichem Geist eine organische Mensch - Maschine - Symbioseintelligenz entwickeln

Bei der Entwicklung von Künstlicher Intelligenz gibt es viele tiefliegende und beunruhigende Risiken, wie z. B. Deepfakes. Der Profit - Maximierungstrieb kann die KI auch in die falsche Richtung lenken. Wenn die KI immer schneller entwickelt wird, werfen diese Risiken einen Schatten über die Zukunft der Menschheit. Wie können Unternehmen, Regierungen und andere soziale Organisationen KI so gestalten, aufbauen und nutzen, dass sie auf verantwortungsvolle, nachhaltige und ethische Weise funktioniert? Dieses Buch untersucht tiefgehend die drei Säulen der KI - Entwicklung - Governance, Technologie und Kommerzialisierung. Von allgemeinen Chat - Software bis hin zu halb - intelligenten Waffensystemen wird erläutert, wie in der KI - Branche Technologie und "Menschenzentriertheit" kombiniert werden können, um eine organische Mensch - Maschine - Symbioseintelligenz zu entwickeln.

Autoreneinführung

Mit menschlichem Geist eine organische Mensch - Maschine - Symbioseintelligenz entwickeln

Weng Jialiang, Doktor der Informationssystemverwaltung an der University of Texas at Austin. Er engagiert sich seit langem in der vordersten Forschung der Künstlichen Intelligenz. Er ist Gründer und Direktor des Singapore Artificial Intelligence International Research Institute, internationaler Berater der World Artificial Intelligence Conference, Expertenmitglied der nationalen KI - Standardisierungsgruppe in China, Mitglied der Logik - Fachkommission der Chinese Association for Artificial Intelligence, Gastprofessor an der Singapore University of Technology and Design, Gründungsmentor an der National University of Singapore und der Nanyang Technological University, Experte im globalen KI - Netzwerk der UNESCO und der United Nations University sowie Generalsekretär des Singapur - Sekretariats der Asian Coalition for Technology in Support of Sustainable Development Goals. Er hat 40 Jahre reiche Erfahrung in der Technologie - Innovation, Forschung und Beratung bei der digitalen Transformation von Unternehmen in Südostasien, China, den USA und Europa. Er beteiligt sich aktiv an der Schaffung von KI - und Technologie - Ökosystemen, wird oft zu Vorträgen auf der World Artificial Intelligence Conference, an chinesischen Universitäten wie der East China Normal University und der Shenzhen University sowie an KI - Forschungsinstituten eingeladen und plädiert aktiv für die Menschenzentrierte KI als 18. nachhaltiges Entwicklungsziel der Vereinten Nationen.

Ma Chengwei, Präsident der Singapore Risk and Insurance Management Association. Er hat mehr als 16 Jahre Erfahrung in der Arbeit mit Cloud, KI und Risikomanagement in führenden SaaS - Unternehmen wie ServiceNow, CyberArk und ByteDance. Er unterrichtet an der Singapore University of Social Sciences und an verschiedenen Schulen KI - Kurse und ist Mentor für Start - Up - Unternehmen in mehreren Gründungsbeschleunigungsprogrammen.

Chen Xixi, Dokumentarfilmerin, Innovatorin und Unternehmerin. Ihre Werke befassen sich mit der tiefen Verbindung zwischen Menschlichkeit, gesellschaftlichem Wandel und Technologie und stellen die Frage: Wie kann Technologie den Menschen stärken? Ihre Schwarz - Weiß - Fotografie - Serie "People in Beijing", aufgenommen mit einem iPhone, ist eine kontemplative Arbeit über die Erinnerungen an die Hutongs und die Ära des Mobilinternets. Ihr Buch "Beijing: City and Years", zusammengeschrieben mit dem Schriftsteller Ning Ken, gewann den Lu Xun Literaturpreis für Essay und Essayistik 2018. Ihre Dokumentarfilme wurden von Medien wie CNN, The Guardian und der South China Morning Post weit verbreitet berichtet. Sie war einst Leiterin der Asia - Abteilung des Discovery Channels und ihre Werke wurden mehrfach mit dem Asian Television Award ausgezeichnet. Im Jahr 2025 wurde sie zu einer der "Hundert Tech - Frauen" in Singapur ernannt und von der singapurischen Regierung als "Digitaler Führer" ausgezeichnet. Sie absolvierte ihr Studium an der Department of