Im Zeitalter der KI: Achtung vor einer leise stattfindenden „kognitiven Kapitulation“

Wenn KI nicht mehr nur ein Werkzeug zur Effizienzsteigerung ist, sondern allmählich in unsere Forschungsmethoden, Entscheidungsabläufe und sogar emotionale Abhängigkeiten eindringt, erleben wir vielleicht eine stillschweigende "kognitive Kapitulation"? 

Bei einem Roundtable-Dialog auf dem AI & Society Forum 2026 haben das Tencent Institute of Social Science Research und Philosophen, Finanzwissenschaftler und Juristen aus der Universität Hongkong ein tiefgründiges Thema diskutiert: "Das Zeitalter des post-intellektuellen Mangel - Die Rekonstruktion von Wirtschaft, Gesellschaft und Wahrheit". 

Dies ist keine trockene technische Diskussion über Technologie, sondern eine seelische Prüfung darüber, wie die menschliche Subjektivität mit Algorithmen koexistieren kann: Wenn banale Analysen so einfach zugänglich sind, wo liegt die Schwelle des Menschen als Denker? Wenn KI "Schmeichelei" und "Mittelwertbildung" lernt, wie vermeiden wir, in eine Wüste der Wahrheit zu geraten? 

Im Folgenden finden Sie die Abschrift dieses Roundtable-Forums. 

Moderator: 

• Li Gang  Chef-Forscher am Tencent Institute of Social Science Research

Gäste: 

• Rachel Sterken  Leiterin der Philosophieabteilung an der Universität Hongkong
• Chen Zhiwu, Leiter des Hong Kong Institute for Humanities and Social Sciences an der Universität Hongkong und Lehrstuhlinhaber für Finanzwissenschaft an der Business School
• Giuliano G. Castellano  Assistentprofessor an der Rechtsabteilung der Universität Hongkong
• Herman Cappelen  Lehrstuhlinhaber für Philosophie an der Universität Hongkong und Direktor des AI und Human Laboratory

Redaktion und Zusammenfassung:

• Dou Miaolei  Senior-Forscher am Tencent Institute of Social Science Research

Li Gang: Vielen Dank an alle Professoren, dass Sie an dieser Diskussion teilnehmen. Ich habe gerade ein neues Wort gelernt: "kognitive Kapitulation" (cognitive surrender). Ich habe tatsächlich meine kognitive Fähigkeit an KI abgegeben und sie gebeten, das Gliederungsschema für diese Diskussion zu erstellen.

Fragen Sie zunächst, verwenden Sie in Ihrer täglichen Forschung und im Alltag KI-Agenten und verschiedene Modelle? Was ist Ihre erste Hand-Erfahrung mit der Interaktion mit KI? Was sind die guten, schlechten und hässlichen Aspekte? Bitte geben Sie Beispiele.

Professorin Rachel Sterken: Ich bin Philosophin. Eines der Dinge, die wir gerne tun, ist es, kontroverse Themen zu betrachten und verschiedene Argumente zu überlegen. Deshalb versuche ich manchmal, KI zu verwenden, um Argumente zu prüfen, Ideen zu entwickeln und kontroverse Themen zu diskutieren. Manchmal finde ich es sehr nützlich, denn es weist auf Dinge hin, die ich nicht bedacht habe.

Aber manchmal finde ich, dass es zu gefällig ist. Alle kennen das Problem der "Schmeichelei" (sycophancy), aber ich denke, dass dieses Problem viel tiefer geht und uns schwerer auffällt. Wenn ich mit KI interagiere, ist es sehr subtil - es erfasst meinen Fragestil, wie ich die Fragen stelle, und gibt dann einen sehr flüssigen Text, der das Thema auf eine Weise formuliert, die mir angenehm erscheint. Und es tut dies so diskret, dass ich die Schmeichelei überhaupt nicht bemerke. Deshalb macht mich dies ziemlich besorgt.

Ich finde tatsächlich, dass es bei der Generierung von Ideen und der Unterstützung des Denkens über Argumente nützlich ist, aber ich bin sehr besorgt, was dies für das Wissen und unsere Fähigkeit, die Wahrheit zu erlangen, bedeutet. Wenn jeder nur auf die Weise, wie er die Fragen stellt, gefällige Antworten erhält.

Noch eine Sache: Ich bemerke, dass ich es leicht finde, KI zu personifizieren und ihre Antworten als inhaltlich und als echte Antworten auf meine Fragen zu betrachten. Wir wissen jedoch, dass diese Technologie eigentlich nur ein Textgenerator ist. Wir sollten ihre Ausgabe nicht als inhaltlich verstehen, nicht als systematische Quelle von Wissen oder Wahrheit und nicht als Sprecher verstehen, denn es ist ein Textgenerator. Deshalb denke ich, dass wir sehr vorsichtig sein müssen, wenn wir es als Informationsquelle verwenden.

Professor Chen Zhiwu: Ich verwende KI schon seit mehreren Jahren. Vielleicht war meine früheste Erfahrung, als ich vor einigen Jahren einen ehemaligen Kollegen bat, ein Konzept für ein Masterstudium in "Family Wealth Management" zu entwerfen. Er hat sechs Monate lang an dem ersten Entwurf gearbeitet, aber am Ende konnte er nichts abgeben. Aber es blieben nur noch eine Woche bis zur Frist, und mein Assistent hat mir vorgeschlagen, vielleicht KI zu versuchen. Also habe ich GPT ausprobiert, und in weniger als einer Minute wurde ein gutes Vorentwurf erstellt. Dann habe ich einen Tag damit verbracht, viele andere Elemente hinzuzufügen usw.

Daraus habe ich gelernt, dass dieser junge Kollege wohl nach Hause gehen konnte. Dies ist ein Beispiel dafür, wie KI Hongkong verändert. Wir brauchen nicht mehr so viele durchschnittliche junge Kollegen, vielleicht auch nicht mehr einige erfahrene Kollegen. Bei der Unterstützung der Forschung haben wir noch viele solche Beispiele. Jetzt, mit KI, GPT und Claude und anderen Werkzeugen, können Dinge, die früher viel Geld und dutzende Forschungsassistenten gekostet haben, in wenigen Minuten erledigt werden.

In den letzten Monaten habe ich eine interessante Beobachtung in Bezug auf die Investitionsforschung gemacht. Ich unterrichte MBA-Studenten schon seit vielen Jahren. Sie können sehen, dass ich alt bin und viele MBA- und Bachelor-Studenten unterrichtet habe, die in der Finanzdienstleistung arbeiten, insbesondere in der Hedgefondsverwaltung, der Investmentfondsverwaltung usw. In den letzten Monaten habe ich erfahren, dass viele meiner ehemaligen Studenten möglicherweise andere Jobs suchen müssen. Jetzt mit KI können Standard-News-Suche und -Analyse oder die Arbeit von Analysten und sogar einige traditionelle Fondsmanager leicht von KI ersetzt werden.

Dr. Giuliano G. Castellano: Neben den bereits genannten Dingen kann ich zwei Beispiele geben. Ich bin Jurist, und in einer kürzlich durchgeführten Studie habe ich begonnen, ein System aufzubauen - eine Art Forschungsassistent, ein RAG-System mit Agent-Verhalten, das versucht, tatsächlich Forschung zu betreiben und auf einer Reihe von Regeln aufbaut, manchmal auf 30.000 Seiten an Rechtsvorschriften, die ich alleine niemals beherrschen könnte, aber ich möchte, dass die Forschung darauf basiert.

Deshalb habe ich einen Monat damit verbracht, diese Architektur aufzubauen und Dinge zu lernen, die ich überhaupt nicht kannte, und bin sogar in das Gebiet der Programmierung eingestiegen - das liegt völlig außerhalb meiner Fähigkeiten. Der hässliche Teil ist, dass ich von KI in zu komplexe oder schwierige Richtungen gelenkt wurde. Da ich nicht genug Fachwissen habe, kann ich nicht immer Entscheidungen treffen, also habe ich Schritt für Schritt Fachwissen erworben.

Der schlechte Teil ist, dass alles, was ich nach einigen Monaten aufgebaut habe, veraltet war - denn durch die richtige Konfiguration eines allgemeinen Werkzeugs kann man tatsächlich dasselbe Ergebnis erzielen, vielleicht sogar besser. Der gute Teil ist, dass ich viel gelernt habe, und das ist ein Teil meiner Arbeit. So habe ich verstanden, wie diese Dinge argumentieren.

Aber in meinem privaten Leben - vor einigen Monaten bin ich Vater geworden, und es gibt all diese Dinge, über die ich nicht nachgedacht habe, wie die Entscheidung über einen Kinderarzt, die Finanzen, den Kinderwagen usw. Also habe ich auf meinem Computer einen persönlichen Assistenten erstellt, der mir z. B. einen Kinderarzt sucht, verschiedene medizinische Behandlungsmethoden testet, einen Arzt in der Nähe sucht usw.

Der KI-Assistent ist tatsächlich gut darin, Informationen zu filtern, aber er hat nicht an Stelle von mir die Auswahl getroffen. Die Auswahl wurde von meiner Frau und mir getroffen. Ehrlich gesagt, haben wir nicht die von ihm empfohlenen Optionen gewählt, aber er hat uns dabei geholfen, einige Faktoren zu entdecken, die wir vorher nicht ausreichend beachtet haben. Also ist das meine Meinung - wenn wir über die Einführung von KI sprechen, meinen wir, wer, wie und in welchem Umfang, und das hängt wirklich von der konkreten Situation ab.

Dies ist auch, was ich meinen Studenten und anderen Fachleuten zu sagen versuche - die Vorstellung, man könne mit einem Chatbot komplexe Fragen beantworten, ist ein Missverständnis, eine billige Schummel. An der Universität kämpfen wir damit, denn es liefert keine guten Ergebnisse. Aber wenn es um eine tiefere Integration geht, kann die fachliche Urteilsbildung nicht delegiert werden, und der gesamte Arbeitsablauf ändert sich völlig. Vielleicht können wir das später noch ausführlicher besprechen.

Professor Herman Cappelen: In meiner beruflichen und privaten Lebensweise integriere ich so viel wie möglich die Verwendung von KI, insbesondere von KI-Agenten. Beispielsweise habe ich einen Agenten - ich finde, dass diese Agenten viel besser sind als Chatbots - der mir jeden Tag hilft, meinen Arbeitsablauf zu halten. Er weiß, was ich alles zu tun habe, was ich gestern vergessen habe. Er gibt mir Prioritäten vor und fragt mich tagsüber: Hast du das erledigt? Hast du das gemacht? Hast du mit dieser Person gesprochen? Da ich ungefähr 400 Dinge zu tun habe, wird immer etwas vergessen, und er erinnert mich daran. Er hilft mir, meinen Arbeitsablauf zu halten und Prioritäten zu setzen. So gesehen ist es, als ob ich täglich 50 Personen für mich arbeiten hätte, was eigentlich unglaublich ist. Früher musste man CEO einer großen Firma sein, um 50 Personen zu haben, die dir jederzeit alles tun, was du willst, und die zuverlässiger sind als Praktikanten.

Also ist eine Sache, die mich besorgt - und ich denke, dass es ziemlich wichtig ist - dass wir nicht genug verstehen, was diese Werkzeuge können, und dass wir sie noch nicht genug nutzen. Ich denke, dass wir selbst wenn die KI auf dem aktuellen Stand bleibt, 10 Jahre brauchen werden, um sie voll auszunutzen. Wir sind erst am Anfang, zu verstehen, wie man sie verwendet. Die Technologie ist erst am Anfang. Aber selbst auf dem gegenwärtigen Stand nutzen wir sie überhaupt nicht genug.

Die Menschen haben Angst und Sorgen. Sie fühlen sich schuldig, wenn sie zu viel KI verwenden. All das muss ganz verschwinden. Wir müssen so denken - wir sind alle jetzt CEO einer Firma, die uns hilft, alles zu tun, was wir brauchen. Und dann ist es wichtig, sich daran zu erinnern, was bereits erwähnt wurde - und das wird sehr deutlich sein - ich denke, dass dies der Schlüssel ist.

Es ist wie wenn 50 Personen außerhalb dir helfen, und sie geben dir verschiedene Vorschläge, denn für all diese schwierigen Fragen gibt es nie nur eine Antwort. Also musst du die Entscheidung treffen, aber es gibt dir Optionen, es bereitet dir Argumente und Beweise für beide Seiten vor, und dann bist du derjenige, der die Entscheidung trifft, wie wenn du CEO einer großen Gruppe von Menschen wärst.

Li Gang: Vielen Dank. Aus dem, was ich gehört habe, scheinen die Gäste die Entwicklung von KI ziemlich positiv zu sehen. Ich finde, dass die meisten meiner Erfahrungen mit KI darin bestehen, dass sie zu gefällig sind.

Was halten Sie von der neuen Ära, in der es im Zeitalter der Sozialen Medien und des Internets eine Menge Informationen gibt, die online erzeugt und verbreitet werden, und nun auch KI dazukommt? Was ist mit der Wahrheit passiert? Dies ist der Teil unserer Diskussion über das "Wahrnehmung der Wahrheit".

Professorin Rachel Sterken: Es gibt viele Probleme, mit denen wir bereits im Zeitalter der Sozialen Medien konfrontiert waren und die immer noch bestehen. Die Algorithmen der Sozialen Medien, die auf der Beteiligung basierenden Empfehlungsalgorithmen - sie verfolgen nicht unbedingt die richtigen kognitiven Quellen. Die Art und Weise, wie die Plattformen gestaltet sind, ist nicht unbedingt förderlich für ein gutes Gespräch zwischen uns. Ich denke, dass es wirklich Probleme mit den Algorithmen der Sozialen Medien und der Inhaltsmoderation gibt, denn das ist das Filtern und Verbreiten von Informationen zwischen uns.

Viele unserer traditionellen kognitiven Quellen - wie die Journalistik und die Nachrichtenagenturen, das wissenschaftliche Fachwissen, die Forschungsgemeinschaft - spielen in der Gesellschaft eine sehr wichtige Rolle. Aber seit den Empfehlungsalgorithmen ist es viel schwieriger geworden, diese Dinge zu tun. Ebenso werden wir sehen, dass dies auch bei den großen Sprachmodellen der Fall sein wird.

Wir haben bereits an der Universität und in der Forschung gesehen, dass es jetzt eine Menge "Zombie-Wissenschaft" (zombie science) gibt, und das ist ein echtes Problem, auf das man achten muss. Die Menschen wissen nicht, wie man diese Werkzeuge verwendet, und wir haben noch keine angemessenen Normen und Rahmen für diese Werkzeuge entwickelt, und was wir mit ihnen tun wollen. Wir verstehen auch nicht genug, was unsere kognitiven Rollen sind und wie wir diese neuen Werkzeuge nutzen können, um diese Rollen zu unterstützen.

Die neue Krise, die wir sehen werden, wird die Krise des "Falschen Sprechens" (fake speech) sein. Denn es wird eine Menge Sprechen geben - ob es sich um KI-generierte synthetische Inhalte, KI-Assistenten, die für die Benutzer sprechen, oder Informationen handelt, die die Benutzer ohne echte Prüfung veröffentlichen. Es wird eine Menge falscher Sprechweise geben, die scheinbar von echten Quellen stammen. Man denkt, dass dahinter verantwortliche kognitive Praktiken, Informationsprüfung usw. stecken, aber das ist in Wirklichkeit nicht der Fall.

Li Gang: Wir haben tatsächlich in unserem Tencent Institute of Social Science Research über dieses Phänomen diskutiert. Das heißt, dass, wie Sie gerade erwähnt haben, es viele Jahre dauern wird, bis die Normen sich bilden und zur gesellschaftlichen Einigkeit werden. Aber die Geschwindigkeit, mit der Informationen - ob falsch oder wahr, KI-generiert oder nicht KI-generiert - heute verbreitet werden, ist mit Lichtgeschwindigkeit. Diese unterschiedliche Informationsverbreitungsgeschwindigkeit wird die Dinge, die wir als Normen betrachten, stark beeinträchtigen. Wenn wir auf der Grundlage dieser Informationen Entscheidungen treffen und diese Informationen nicht wahr sind, werden wir viele falsche Entscheidungen treffen.

Gibt es eine Lösung? Die aktuelle Strategie ist, KI mit KI zu bekämpfen, Magie mit Magie. Was können wir als Menschen noch tun, um dieses sehr schwierige Problem zu lösen?

Professorin Rachel Sterken: Eines, was bereits erwähnt wurde, ist, dass man verstehen muss, dass es nur ein Werkzeug ist, und am Ende bist du der Verantwortliche. Wenn wir beispielsweise einen Text übernehmen, ist es immer noch unsere Verantwortung als Sprecher oder Informationsverbreiter, als Professor oder Journalist, die Informationen vor der Veröffentlichung zu prüfen. Aber ich denke, dass auch die Plattformen und die Regulierungsbehörden die Verantwortung haben, sicherzustellen, dass wir nicht von einer Flut von falschen Sprechweisen überflutet werden. Wir können auch die Institutionen unterstützen, die tatsächlich die Informationsprüfung durchführen, um sicherzustellen, dass wir in der Informationsumgebung hochwertige Informationen haben und dass diese Institutionen nicht durch Neuheiten untergraben und vergessen werden. Es wäre wirklich schade, wenn sie von einer Flut von niedrigwertigen Informationen überflutet und ersetzt würden.

Li