Eine obskure Philosophie wird zu einem beliebten Mittel zur „Behandlung“ von KI

Wer hätte das gedacht, dass das Nischenfach Philosophie zum aktuellen Trend in der KI geworden ist.

Das war eine unerwartete Entdeckung unseres diesjährigen Besuchs auf der WAIC – der Anteil an philosophischen Überlegungen war bemerkenswert hoch.

△

Beispielsweise war auf der parallelen Sitzung „Geist und Intelligenz · Forum für junge Ökosysteme“ im Rahmen des WAIC Open Forums für Wissenschaftliche Intelligenz der erste Redner, der auf die Bühne trat, Sun Ning, Professor an der Philosophischen Fakultät der Fudan-Universität; bei der Hauptveranstaltung des Open Forums für Wissenschaftliche Intelligenz zum Thema „Ursprüngliche Innovation im KI-nativen Zeitalter“ nahm ebenfalls Sun Xiangchen, Professor an der Philosophischen Fakultät der Fudan-Universität, am Gipfelgespräch teil.

Ein ähnliches Beispiel: Während der WAIC veröffentlichte das Umfassende Labor für Nationale Entwicklung und Intelligente Governance der Fudan-Universität das „Blaue Buch zur Entwicklung der Intelligenz in den Geistes- und Sozialwissenschaften 2026“, das tiefgründiges Denken, Vertrauenswürdigkeit der Forschung und KI-Governance erneut in den Mittelpunkt rückte.

Um ehrlich zu sein: Diese scheinbar plötzliche Begeisterung für Philosophie lässt sich dennoch nachvollziehen.

Vor einigen Jahren sprachen die Teilnehmer von KI-Konferenzen am meisten über Parameter, Rechenleistung und Ranglisten; heute kann KI bereits wissenschaftliche Arbeiten verfassen, mathematische Beweise führen, Proteinstrukturen generieren und mit einer Gruppe von Agenten die Gesellschaft simulieren.

Obwohl die Fähigkeiten der KI stetig wachsen, nähern sich die daraus resultierenden Probleme zunehmend der Philosophie:

• Bedeutet es, dass ein Modell Fragen flüssig beantworten kann, dass es sie wirklich versteht?
• Wenn KI Wissen selbstständig entdecken kann, gilt sie dann als neuer Wissenschaftler?
• Sollten wir Regeln vertrauen, die KI entdeckt, die Menschen nicht erklären können, aber durch Experimente überprüfbar sind?

Sun Ning lenkte in seinem Vortrag mit dem Titel „Vor der Intelligenz kommt die Welt“ die Aufmerksamkeit zurück auf die Grundlagen.

Bereits in den 1990er Jahren stellte der Kognitionswissenschaftler Stevan Harnad das Symbolverankerungsproblem auf und fragte, wie ein Symbolsystem durch Wahrnehmung und Interaktion echte Bedeutung erlangen kann. Etwa zur gleichen Zeit stellte der Robotik-Ingenieur Rodney Brooks die Hypothese der physischen Verankerung auf und hinterließ einen einflussreichen Satz – die Welt selbst ist das beste Modell.

△

Unter diesem Gesichtspunkt argumentierte Sun Ning, dass eine Intelligenz, die tief in der Welt verwurzelt ist, zumindest einen Körper, eine Umgebung, andere Akteure und Geschichte benötigt. Der Körper lässt Handlungen Kosten verursachen, die Umgebung liefert Feedback, andere bringen Normen hervor und die Geschichte lässt Misserfolge zu Erfahrungen werden.

Er fasste dies abschließend in zwei Sätzen zusammen:

Vor der Intelligenz kommt die Welt. Vor dem Geist kommen Beziehungen.

Das prägte den Ton für die Diskussion des Tages.

Dieses Jugendforum wurde gemeinsam vom Umfassenden Labor für Nationale Entwicklung und Intelligente Governance der Fudan-Universität, dem Shanghai-Institut für Wissenschaftliche Intelligenz, der Philosophischen Fakultät der Fudan-Universität, dem Shanghai Qingpu Fudan-Institut für Zukunftstechnologien und Datawhale veranstaltet.

Auf der Bühne standen junge Wissenschaftler, Philosophen, Sozialwissenschaftler und Unternehmer. Sie sprachen über selbstentwickelnde Modelle, mathematische Beweise, Dynamik von Proteinen und soziale Simulationen, bevor sie das Thema schließlich auf Governance und Industrie lenkten.

So wurden Probleme, die scheinbar in verschiedenen Disziplinen verstreut sind, miteinander verbunden.

KI beginnt, selbst Wissenschaft zu betreiben

Gerade als der Philosoph die Frage „Was ist Intelligenz“ gestellt hatte, brachte Chen Yongchao, Gründer von SuperEvolution AI, eine konkretere Frage auf – Kann KI zu einem neuen Wissenschaftler werden?

△

Herkömmliche große Modelle lernen hauptsächlich vorhandenes menschliches Wissen aus Internetdaten. Das selbstentwickelnde Modell, von dem Chen Yongchao sprach, zielt darauf ab, in echte Aufgaben einzutreten und kontinuierlich aus Forschungsprozessen und Umgebungsfeedback zu lernen.

Konkret kann das Modell selbst Ideen entwickeln, Code schreiben, Experimente durchführen, Daten analysieren, dann die Erfolgs- und Misserfolgsverläufe festhalten und Daten, Modell und Harness weiter anpassen.

Chen Yongchao zeigte vor Ort eine Reihe beeindruckender Ergebnisse.

Sein Team entwickelte Apex Search, das 34 wissenschaftliche Arbeiten generierte und diese an akademische Begutachtungssysteme wie ACL und ARR einreichte. Nach seinen Angaben vor Ort haben etwa 10 Arbeiten die Chance, in die Findings oder die Hauptkonferenz aufgenommen zu werden; zwei Arbeiten erhielten eine Bewertung von 3,67 Punkten, was höher ist als bei etwa 95 % der menschlichen Einreichungen.

Einige der Gutachterbewertungen enthielten Aussagen wie „erste Forschung auf diesem Gebiet“, „strenge Experimente“ und „präzise formulierte Fragestellung“.

Mit anderen Worten: Die von KI generierten Forschungsergebnisse haben die erste Prüfung durch menschliche Gutachter bestanden.

Doch damit tauchten neue Probleme auf.

Auf dem anschließenden Podium „Der Wandel der Gesellschaft“ stellte Wei Zhongyu, Professor an der Fakultät für Datenwissenschaften der Fudan-Universität, die Frage: Wenn KI Dutzende von Arbeiten auf einmal generiert und einreicht, von denen einige hohe Bewertungen erhalten, wie sollen wir ihre Forschungsfähigkeit beurteilen? Bedeutet das, dass die Forschungsfähigkeit des Systems das Niveau für Veröffentlichungen in Top-Konferenzen erreicht hat – oder dass es zufällig Schwachstellen im bestehenden Peer-Review-System gefunden hat?

Wenn Arbeiten immer schneller generiert werden, wird die Bewertung schwieriger als die Generierung selbst.

Chen Yongchao selbst stellte eine Reihe von Fragen: Kann KI Durchbrüche auf dem Niveau von Transformer erzielen? Wie sollen massenhafte wissenschaftliche Entdeckungen bewertet werden? Wem gehören die KI-Forschungsergebnisse? Wie soll die Verantwortung verteilt werden, wenn das System für schädliche Forschungen verwendet wird?

Der unmittelbar darauf folgende Redner, Wang Tiandong, außerordentlicher Professor am Shanghaier Zentrum für Mathematik der Fudan-Universität, legte eine klarere Aufgabenteilung zwischen Mensch und KI vor.

△

KI ist gut im Retrieval, bei der Zusammenfassung, beim Finden von Sonderfällen und Gegenbeispielen und kann gleichzeitig Dutzende von möglichen Beweiswegen generieren. Mathematiker beurteilen, ob ein Problem wichtig ist und ob eine Vermutung erforschenswert ist, und legen dann strenge Konzepte und Strukturen fest, um die Ergebnisse zu begrenzen. Abschließend erfolgt eine maschinelle Überprüfung, um zu prüfen, ob die Schlussfolgerung Lücken aufweist oder Berechnungsfehler vorliegen.

Einfach ausgedrückt:

KI erweitert den Suchraum, der Mensch definiert den Wert, die Maschine übernimmt die Überprüfung.

In diesem Prozess liefert die Mathematik der KI strukturelle Beschränkungen, formale Verifikation, Fehleranalyse und Grenzen der Anwendbarkeit. Vertrauenswürdigkeit bedeutet nicht, nie Fehler zu machen – ein realistischerer Standard ist, dass Fehler erkannt, Risiken definiert und Schlussfolgerungen überprüfbar sind.

Anschließend brachte Yang Zixiong, KI-Wissenschaftler am Shanghai-Institut für Wissenschaftliche Intelligenz, das Thema Vertrauenswürdigkeit in die komplexere Welt des Lebens ein.

△

Das Kernproblem, das AlphaFold gelöst hat, ist die Vorhersage hochwahrscheinlicher statischer Strukturen aus Sequenzen. Doch Biomoleküle wie Proteine und RNA sind ständig in Bewegung – viele Funktionen hängen von Konformationsverteilungen, Zustandsübergängen und Zeitskalen ab.

Daher verlagern sich die Forschungsziele im Zeitalter nach AlphaFold von der „Vorhersage einer Struktur“ zur „Generierung von Dynamik“.

Das bedeutet, dass das Modell sowohl seltene, aber wichtige Konformationen abdecken, als auch die strukturelle Stabilität bei lang andauernden Generierungen aufrechterhalten und thermodynamischen, kinetischen sowie physikalischen Gesetzen folgen muss. Während für statische Strukturen umfangreiche Daten vorliegen, sind Daten zu dynamischen Molekülen sehr begrenzt, und entsprechende Bewertungssysteme müssen noch ausgebaut werden.

Von mathematischen Beweisen bis zur Dynamik von Proteinen kann KI die Erforschung tatsächlich schneller und breiter gestalten. Doch für echte wissenschaftliche Entdeckungen sind Beweise, Experimente und Feedback aus der realen Welt unverzichtbar.

Während Mathematik und Biowissenschaften relativ klare Wege der Überprüfung haben, wird die Angelegenheit komplexer, wenn KI Menschen und Gesellschaft simuliert.

Wenn Intelligenz in die Gesellschaft eintritt, darf Governance nicht zurückbleiben

Qu Jingjing, junge Wissenschaftlerin am Shanghai KI-Labor, erforscht genau die Schnittstelle von KI und Sozialwissenschaften.

△

Ihrer Meinung nach sind die Sozialwissenschaften eine grundlegende Grundlage für die Entwicklung von KI. Alan Turings Arbeit zu der Frage „Können Maschinen denken?“ wurde in der philosophischen Zeitschrift „Mind“ veröffentlicht; Herbert A. Simon entwickelte die Theorie der begrenzten Rationalität, gründete gemeinsam mit Allen Newell die Hypothese des physischen Symbolsystems und begründete die symbolische KI; Geoffrey Hinton kombinierte Psychologie und Kognitionswissenschaft zur Entwicklung neuronaler Netze und zur Nachahmung menschlicher Mechanismen – was die heutige Ära großer Modelle einleitete.

Nun läuft diese Beziehung umgekehrt: KI bringt neue experimentelle Methoden in die Sozialwissenschaften. Doch während sich AGI in Richtung Sozialverträglichkeit und Skalierung entwickelt, besteht ein zentrales Problem: In komplexen sozialen Evolutionsspielen in großem Maßstab ist es schwierig, logische Konsistenz und Vertrauenswürdigkeit der experimentellen Ergebnisse gleichzeitig zu gewährleisten.

Qu Jingjing stellte die soziale Simulationsplattform Epitome vor. Bei hohem Durchsatz kann die Plattform Tausende virtueller Probanden mit einem Klick generieren und einen zehnjährigen gesellschaftlichen Wandel auf 14 Stunden komprimieren. Forscher können Variablen wie Interventionspolitiken und Gruppenbeziehungen frei anpassen, um deren langfristige gesellschaftliche Auswirkungen schnell zu beobachten.

Diese Methoden eignen sich besonders für Experimente, die in der realen Welt kaum direkt durchführbar sind.

Beispielsweise: Wie simuliert man die Entwicklung eines Kindes von der dritten zur fünften Grundschulklasse? Das Modell muss nicht nur Wissensveränderungen darstellen, sondern auch Psychologie, Verhalten und soziale Beziehungen simulieren. Die Forscher möchten in dieser virtuellen Umgebung verschiedene Bildungspolitiken testen, um zu beobachten, welche Art die Entwicklung von Kindern am besten fördert.

So reizvoll die Idee ist – sie birgt auch Risiken.

Schließlich kann ein großes Modell einen Experten simulieren, aber nicht unbedingt ein Kind, das in konkreten familiären, regionalen und sozialen Beziehungen lebt. Die Einstellungen, die ein virtueller Charakter zeigt – stammen sie aus echten gesellschaftlichen Regeln oder aus Stereotypen in den Trainings