Quanta Magazine interviewt Terence Tao: Warum gründe ich jetzt eine Organisation für KI x Wissenschaft?
Der Mathematiker Terence Tao hat seine neue Rolle in der KI-Welt bekannt gegeben - Mitbegründer der SAIR Foundation.
Früher war er ein weltbekannter Mathematikgenie, ein legendärer Mathematiker, der schon in jungen Jahren berühmt wurde, und der jüngste Goldmedaillengewinner der Internationalen Mathematikolympiade (IMO) im Alter von 13 Jahren... Mit 24 Jahren wurde er der jüngste gehobene Ordinarius in der Geschichte der University of California, Los Angeles (UCLA).
In den letzten Jahren, seit ChatGPT so populär geworden ist, ist er auch zur Figur geworden, die die Verbindung zwischen KI und Mathematik repräsentiert, und er denkt und spricht immer häufiger über die Möglichkeiten der Schnittmenge zwischen KI und Grundlagenforschung.
Und schon Anfang 2026 hat der 50-jährige Terence Tao einen weiteren Schritt gemacht. Er hat als Mitbegründer die SAIR Foundation ins Leben gerufen. Er hofft, dass diese gemeinnützige Allianz, die darauf abzielt, das Verhältnis zwischen KI und Wissenschaft neu zu gestalten, die akademische Welt und die Industrie verbinden und viele junge Wissenschaftler zusammenbringen und unterstützen kann, um zwei Ziele zu erreichen:
Erstens, die KI mit wissenschaftlichen Methoden zu entwickeln; zweitens, die Grundlagenforschung mit Hilfe der KI neu zu gestalten.
△Hauptexperten der SAIR Foundation
Nach der öffentlichen Präsentation der SAIR Foundation haben Terence Tao und Chuck NG, die beiden Mitbegründer der SAIR, in einem exklusiven Interview mit QbitAI über alles gesprochen, was mit KI x Wissenschaft, Mathematik, Grundlagenforschung und anderen Themen zusammenhängt.
Nach ihrer Meinung liegt das aufregendste an KI x Wissenschaft in der Gleichstellung bei der Forschung. Sie hoffen, dass die SAIR als Brücke für mehr junge Menschen die Tore der akademischen Welt öffnen kann.
In Zukunft könnte es vielleicht 10.000 Terence Taos geben.
Das war nur die Spitze des Eisbergs. In diesem über 90 Minuten dauernden tiefgehenden Gespräch werden Sie auch die folgenden interessanten Meinungen hören:
Wenn die KI bei ihrer Antwort die Wahrscheinlichkeit ihrer Aussage angeben könnte, wie z.B. "Ich bin ziemlich sicher" oder "Hier bin ich mir nicht so sicher", würde ihre praktische Nützlichkeit stark steigen.
Das Modell, in dem die akademische Welt und die Industrie getrennte Aufgaben haben, funktioniert nicht, es geht zu langsam. In der KI-Zeit brauchen wir eine enge Zusammenarbeit zwischen beiden.
Im Vergleich zu Finanz- und Gesundheitswesen ist die Wissenschaft ein sichereres Feld für KI-Experimente. Im Prinzip ist es kein großer Verlust, wenn man eine mathematische Aufgabe falsch rechnet.
Die scheinbar repetitiven und langweiligen Grundlagenarbeiten sind für die persönliche Entwicklung sehr wichtig. Junge Menschen brauchen diese wertvollen Trainingsmöglichkeiten.
Die meisten Fächer kommunizieren miteinander, und die KI ist ein wichtiger Katalysator für diese interdisziplinäre Interaktion.
Neue Technologien sollten nicht einfach verboten werden. Die Aufgabe der Hochschulen ist es, den Studenten beizubringen, wie man sie richtig nutzt.
Wir müssen die strukturellen Engpässe im Forschungssystem lösen und durch interdisziplinäre globale Zusammenarbeit die Entwicklung der allgemeinen Künstlichen Intelligenz (AGI) und der superintelligenten Künstlichen Intelligenz (ASI) auf wissenschaftliche und sichere Weise beschleunigen.
Hier folgt der vollständig korrigierte Interviewtext, der über 15.000 Wörter lang ist. Um die Lesbarkeit zu verbessern, hat QbitAI den Text unter Beibehaltung der ursprünglichen Bedeutung etwas zusammengefasst und gekürzt.
Genießen Sie!
KI x Wissenschaft braucht ihre eigene vertikale KI
QbitAI: Zunächst herzlichen Glückwunsch zur Gründung der SAIR Foundation. Können Sie uns von den Motiven hinter der Gründung dieses KI x Wissenschaft - Instituts erzählen?
Terence Tao: Ich glaube, dass die KI das Forschungsmodell grundlegend verändern wird. Das zentrale Problem, das wir zuerst klären müssen, ist: Wie können wir die KI in der Forschungssituation richtig und effizient einsetzen?
Tatsächlich brauchen wir einige hochwertige Pilotprojekte, um zu zeigen, was die beste Praxis ist, damit andere Wissenschaftler daraus lernen können.
In der Vergangenheit wurden diese Aufgaben hauptsächlich von Universitäten, Forschungsinstituten und Regierungsbehörden übernommen. In der heutigen Situation ist die Unterstützung aus anderen Bereichen aber ebenfalls sehr wichtig. Sie ist flexibler und hilft uns, innovative Dinge zu versuchen.
Ich bin froh, an der Gründung dieses Instituts beteiligt zu sein. Ich hoffe, dass wir damit neue Ideen testen und kühne Wege gehen können, um zu sehen, wie weit die KI und die Wissenschaft in einer sorgfältigen Kombination gehen können.
Chuck: Ich habe immer viel Freude daran, mit hervorragenden Wissenschaftlern zusammenzuarbeiten. Ich bin wirklich aufgeregt, mit Terry (Terence Tao) diese Organisation gegründet zu haben. Außerdem haben sich mehrere Nobelpreisträger und Turing-Award-Träger angeschlossen.
Terry hat vorhin eher die akademische Seite betont. Ich dagegen habe lange Zeit die Zusammenarbeit zwischen akademischer Welt und Industrie gefördert. Das ist einer der Gründe, warum wir so viel Enthusiasmus für dieses Projekt haben.
Wenn Sie sich unsere Startveranstaltung ansehen, werden Sie feststellen, dass es sich um eine Zusammenkunft von weltweit führenden akademischen Forschern und Vertretern aus der Technologiebranche handelt, darunter NVIDIA, OpenAI, Amazon, Microsoft usw. Alle diskutieren über die Entwicklung von KI x Wissenschaft und legen damit die Grundlage für zukünftige interdisziplinäre Zusammenarbeit.
Wenn die akademische Welt und die Industrie zusammenkommen, ergeben sich viele Möglichkeiten und es gibt viel zu tun.
QbitAI: Aus Ihrer Sicht, was sind die Hauptschwächen der gegenwärtigen KI-Technologie? Warum kann man in der Forschung nicht einfach die Modelle von OpenAI oder anderen Firmen verwenden?
Terence Tao: Wir haben tatsächlich versucht, einige gängige Large Language Models (LLM) zu verwenden, und es gibt auch Forscher, die damit Ergebnisse erzielt haben.
Das Problem ist, dass die Modelle Illusionen erzeugen können, was für die Forschung ein sehr ernsthaftes Problem darstellt. Die Forschung braucht ein verifizierbares und vertrauenswürdiges System.
Ein weiteres Problem ist die Nachvollziehbarkeit. Manchmal gibt das Modell eine scheinbar gute Idee, aber es erklärt nicht, ob diese Idee aus den Trainingsdaten stammt oder eine neue Kombination ist, und es klärt auch nicht die Beziehung zu bestehenden Arbeiten auf.
Die Wissenschaft besteht nicht nur darin, einzelne Probleme zu lösen. Wichtiger ist es, die neuen Ergebnisse in das bestehende Wissenssystem einzubetten, damit die Nachfolger darauf aufbauen können. Dies erfordert Nachvollziehbarkeit, korrekte Zitate und eine klare Erklärung, wie man die Ergebnisse erweitern oder modifizieren kann.
Kommerzielle Large Language Models können dies manchmal tun, aber nicht immer zuverlässig. Wenn wir eine KI haben könnten, die speziell für die Forschung entwickelt wurde, oder wenn wir einen besseren Arbeitsablauf hätten, um die Ergebnisse zu verifizieren und systematisch mit dem Literaturystem zu verbinden, würde dies der Wissenschaft viel helfen.
Am Ende wird es wahrscheinlich darum gehen, die vorhandenen Modelle in ein strengeres Framework zu integrieren und sie mit einer starken Verifizierungs- und Prüfungsmechanik auszustatten, damit sie wirklich zu Werkzeugen für die wissenschaftliche Entdeckung werden können.
Chuck: Tatsächlich funktioniert die KI in alltäglichen Aufgaben, wie z.B. beim Schreiben, schon recht gut.
Aber wenn es um tiefere und spezialisiertere technische Bereiche geht, ist die Situation ganz anders. In vielen speziellen wissenschaftlichen Bereichen gibt es nur sehr begrenzte Mengen an hochwertigen, strukturierten Daten. Deshalb ist es unbedingt notwendig, eng mit Wissenschaftlern zusammenzuarbeiten.
Unser Ziel ist es, diese Systeme so zu optimieren, dass sie zuverlässig in der Forschung eingesetzt werden können. Schließlich möchten wir, dass die fortschrittliche KI von den meisten Menschen genutzt werden kann, also "die Demokratisierung der KI".
Terence Tao: Ich möchte ein sehr einfaches Beispiel geben.
Wenn ein Wissenschaftler eine Schlussfolgerung zieht, gibt er normalerweise auch an, wie sicher er sich bei dieser Schlussfolgerung ist, z.B. "Ich bin mir sehr sicher", "Ich bin mir ziemlich sicher", "Diese Idee ist noch nicht ganz ausgereift".
Die KI macht das nicht. Sie gibt fast immer mit einer 100-prozentigen Sicherheit Antworten. Wenn die KI verschiedene Grade der Sicherheit ausdrücken könnte, würde ihre Nützlichkeit in der Forschung stark steigen.
QbitAI: Derzeit ist der Schwerpunkt in der Branche auf "Scaling", also auf mehr Daten, größere Modelle und stärkere Rechenleistung. Die SAIR interessiert sich aber eher für "Scaling the Science of AI". Was genau bedeutet das?
Terence Tao: Bislang hat der Ansatz der Technologieunternehmen sehr gut funktioniert. Wenn die Rechenleistung und die Trainingsdaten um eine Größenordnung steigen, verbessert sich die Leistung der Modelle deutlich. Dieser Ansatz hat bisher gut funktioniert.
Aber auf lange Sicht wird es an seine Grenzen stoßen. Die Daten sind nicht unendlich, das öffentliche Internet ist bereits fast ausgeschöpft, und es gibt auch Beschränkungen bei der Energieversorgung und der Rechenleistung.
Außerdem kann die gegenwärtige KI zwar sehr schwierige Probleme lösen, ist aber oft sehr ineffizient. Ein menschlicher Mathematiker kann vielleicht anhand von zehn Beispielen das Kernproblem verstehen und dann auf andere Fälle übertragen. Die aktuelle KI hingegen braucht oft Millionen von Trainingsbeispielen und muss sich wiederholt versuchen, manchmal sogar hunderte Male, um ein richtiges Ergebnis zu erhalten.
In der Forschung brauchen wir nicht immer das größte und universellste Modell. Viele Forschungsprojekte sind sehr spezialisiert. In einigen Fällen reichen kleinere Modelle mit geringerem Stromverbrauch und niedrigeren Kosten, die sogar auf einem Privatcomputer laufen können, vollkommen aus.
Große Unternehmen konzentrieren sich eher auf die Entwicklung von universellen Modellen, die alles können. In der Forschungssituation hingegen brauchen wir möglicherweise spezielle Werkzeuge, die auf die spezifischen Arbeitsabläufe zugeschnitten sind. Die Entwicklung und Unterstützung solcher Werkzeuge ist es, was wir mit der SAIR fördern möchten.
QbitAI: Kann ich das so verstehen, dass in der Richtung KI x Wissenschaft die wichtigen Dinge bessere Prinzipien und Methoden sind, anstatt einfach immer größere Modelle zu bauen?
Terence Tao: Ja, so kann man es verstehen. Wir brauchen bessere Methoden, um die Zuverlässigkeit zu bewerten und die Wahrscheinlichkeit unserer Aussagen auszudrücken, und wir müssen die Nachvollziehbarkeit des Systems verbessern.
Wir müssen auch die Art und Weise der Zusammenarbeit zwischen Menschen und KI verbessern. Der momentan häufigste Interaktionsmodus ist, dass Sie dem Modell eine Eingabe geben und es Ihnen direkt eine vollständige Antwort gibt.
Aber in vielen Forschungssituationen interessieren die Forscher nicht nur das endgültige Ergebnis, sondern auch den Denkprozess selbst. Sie möchten möglicherweise zwischendurch intervenieren, neue Informationen hinzufügen oder andere Wege erkunden.
Viele Forscher sind derzeit noch skeptisch gegenüber der Anwendung der KI. Einerseits haben sie schon Erfahrungen mit fehlerhaften Systemen gemacht, andererseits entsprechen die vorhandenen Werkzeuge nicht ihren Kernforschungserfordernissen.
Wenn die Wissenschaftler Werkzeuge entwickeln können, die genau auf ihre Arbeitsabläufe und Forschungsbedürfnisse zugeschnitten sind, glaube ich, dass die Nutzung dieser Systeme deutlich steigen wird.
Chuck: Ich möchte von einem anderen Aspekt, der mit der Zuverlässigkeit zusammenhängt, ergänzen: "Datenqualität".
Einer unserer engen Partner, John Hennessy, gibt der SAIR Foundation ständig Ratschläge. Er ist Turing-Award-Träger und Vorsitzender von Alphabet. Er betont immer wieder, dass in der Forschung die Verbesserung der Datenqualität genauso wichtig ist wie die Verbesserung des Modells selbst.
Das Vertrauen ist auch ein gesellschaftliches Problem. In verschiedenen Regionen variiert das Vertrauen in Daten und Technologie. In der amerikanischen Gesellschaft liegt das Vertrauen in etwas ungefähr zwischen 70 % und 80 %, während das Vertrauen in KI-generierte Inhalte oft nur die Hälfte dieses Werts beträgt.
Dieser Unterschied erklärt auch, warum viele Organisationen, darunter OpenAI, xAI und andere KI-Unternehmen, gerne mit uns zusammenarbeiten möchten. Vertrauen, Zuverlässigkeit und wissenschaftliche Strenge sind von entscheidender Bedeutung.
QbitAI: Wie wird die stetige Senkung der Forschungsschwellen durch die KI die Branche und das globale Forschungsgeschehen verändern?
Chuck: Das ist eine gute Frage. Ich denke, dass unser letztes Ziel darin besteht, die KI in Zusammenarbeit mit führenden Wissenschaftlern und Forschern auf ein Niveau zu bringen, auf dem man "standardmäßig ihr vertrauen kann".
Sobald die KI diesen Zustand erreicht hat, wird sie nicht nur von Experten genutzt werden. Auch normale Menschen können sie vertrauensvoll nutzen, z.B. Ihre Eltern oder sogar Ihre Großeltern können im Alltag auf die KI vertrauen, ohne sich Sorgen über ihre Zuverlässigkeit zu machen.
Deshalb bringen wir führende Wissenschaftler und Partner aus der Industrie zusammen, damit sie voneinander lernen und gemeinsam vorankommen können. Nur durch diese Zusammenarbeit können sich die Technologie und ihre Anwendung in der echten Forschung gemeinsam entwickeln.
Wir hoffen, dass die KI zu einem alltäglichen Werkzeug wird, so wie das Auto. Wenn die KI diese Zuverlässigkeit erreicht, wird sich das globale Forschungsgeschehen wirklich verändern.
QbitAI: Wie wird die SAIR konkret an dieser Veränderung teilnehmen und sie vorantreiben?
Chuck: Wir bringen die akademische Welt und die Industrie auf eine direktere und organisiertere Weise zusammen.
Im akademischen Bereich fehlt vielen Forschern die Rechenleistung und es ist schwierig, langfristige und stabile Finanzierung zu erhalten. In der Industrie hingegen verfügen die Unternehmen über Rechenleistung, Kapital und Ingenieurskunst, aber die vorhandenen