Das neueste Gespräch zwischen Terence Tao und Yu Deng ruft zur „langsamen Wissenschaft“ im Bereich der Mathematik auf.

Terence Tao und Yitang Deng beginnen auch mit dem „langsamen wissenschaftlichen Arbeiten“ (doge).

„Behalten Sie die Vorteile bei, die sich aus der langsamen Durchführung von Wissenschaft und Mathematik ergeben, einschließlich der Verbesserung des Verständnisses, des Aufbaus der Gemeinschaft und der dauerhaften Beherrschung des Verständnisses für ein Fachgebiet durch die Menschheit.“

Gerade eben haben die beiden Preisträger der Fields-Medaille auf die Kontroverse um die massenweise Veröffentlichung mathematischer Beweise durch kommerzielle KI reagiert und in einem von SAIR veröffentlichten Interview eine Antwort gegeben.

Der Kernpunkt beider lautet: Dass KI mathematische Beweise liefern kann, bedeutet nicht, dass die Menschheit das Problem wirklich verstanden hat.

In der Vergangenheit bedeutete die Lösung eines schwierigen mathematischen Problems oft, dass der Forscher den Beweis erklären, neue Fragen stellen und Wissen an andere weitergeben konnte.

Aber heute, wenn KI beginnt, Beweise in Massenproduktion herzustellen, können „das Problem gelöst haben“ und „das Problem verstanden haben“ zwei verschiedene Dinge sein.

Im Vergleich dazu, wie viele Probleme KI erneut gelöst hat, kümmern sich die beiden mehr darum, ob diese Beweise verstanden werden können, ob die Ableitungen überprüft werden können und ob Mathematiker auf dieser Grundlage weiterforschen können.

Im Interview diskutierten die beiden weiter über die Aufgabenteilung zwischen Mathematikern und KI: Welche umständlichen Ableitungen können an KI übergeben werden und welche Fähigkeiten zum Stellen von Fragen, Planen und Urteilen müssen die Forscher selbst weiterentwickeln.

Dies ist auch einer der Motive, warum die beiden am Open Math Model-Programm für offene mathematische Modelle teilnehmen: Die mathematische Gemeinschaft soll an der Entwicklung von Tools beteiligt werden, damit KI der mathematischen Forschung wirklich dient.

Nach dem Stand während des Interviews ist das neue Modell des Teams noch in Vorbereitung. Zuerst wird Open Math OS eingeführt – eine Arbeitsplattform, die vorhandene offene Modelle, Forschungstools und Kollaborationsfunktionen integriert.

Die Kernaussagen des Interviews lauten wie folgt:

KI kann neue Ideen liefern und umständliche Ableitungen übernehmen. Yitang Deng bestätigt die Kreativität in KI-Beweisen; wenn der Mensch bereits eine Beweisroute hat, kann KI auch helfen, zeitaufwändige Details zu erledigen, sodass Forscher Zeit für grundlegendere Probleme gewinnen.

Das Lösen des Problems und das Verstehen des Beweises sind zwei verschiedene Grenzen. Nachdem die Maschine den Beweis erstellt hat, muss der Mensch noch die Schlüsselideen darin verstehen, erklären, warum er gültig ist und welche neuen Probleme er aufwerfen kann.

Herkunft und Beitrag von Ideen müssen nachvollziehbar sein. KI baut ebenfalls auf der seit langem gesammelten Literatur der Menschheit auf. Die Zitierung vorhandener Ergebnisse und die Angabe der Herkunft von Schlüsselideen ist Teil des Forschungsprozesses.

Offene Tools sollen die mathematische Gemeinschaft an der Festlegung der Richtung beteiligen. Die beiden hoffen, dass Forscher am Aufbau von Tools teilnehmen können, sodass Erklärung, Zusammenarbeit und Wissensakkumulation zu klaren Zielen werden.

Gute Tools sollen die Benutzer kompetenter machen. Das Stellen wertvoller Fragen, das Entwerfen der gesamten Beweisroute und die Entwicklung neuer Ideen bleiben Fähigkeiten, die Forscher weiterentwickeln müssen. Beim Erhalten der Antwort soll auch das eigene Verständnis verbessert werden.

Im Folgenden finden Sie das vollständige, bearbeitete Interview.

KI kann die Forschung beschleunigen, aber auch den Wert des „langsamen wissenschaftlichen Arbeitens“ bewahren

Moderator: Hallo zusammen, willkommen zurück beim SAIR-Podcast. Kürzlich hat ein führendes kommerzielles KI-Unternehmen mehr als 700 mathematische Beweise auf einmal veröffentlicht, was das gesamte Internet in Aufregung versetzt hat. Viele sagen, dass KI jetzt Mathematiker ersetzen wird. Aber wenn Sie wirklich mit Menschen aus der mathematischen Gemeinschaft sprechen, werden Sie feststellen, dass es den meisten nicht darum geht, dass Maschinen Arbeitsplätze stehlen, sondern vielmehr um akademische Integrität, wem die Ergebnisse zugeschrieben werden sollen und die Seele der Mathematik selbst.

Heute haben wir Yitang Deng und Terence Tao bei uns. Bitte stellen Sie sich zuerst den Zuhörern vor.

Yitang Deng: Hallo zusammen, ich bin Yitang Deng, derzeit Mathematikprofessor an der University of Chicago und forsche hauptsächlich in Bereichen wie partiellen Differentialgleichungen (PDE) und Wahrscheinlichkeitstheorie.

Terence Tao: Ich bin Terence Tao, Mathematikprofessor an der University of California, Los Angeles (UCLA), und forsche hauptsächlich in Analysis, Zahlentheorie und Kombinatorik. Aber in letzter Zeit habe ich auch an KI-bezogenen Arbeiten teilgenommen und mich für die Zukunft des gesamten mathematischen Bereichs interessiert.

Moderator: Vielen Dank an Sie beide. Bevor wir zu anderen Fragen kommen, möchte ich zuerst Ihre Einstellung zur KI erfahren. Derzeit hat man den allgemeinen Eindruck, dass viele Menschen gegen KI sind, aber ich möchte Ihre detaillierteren Meinungen hören: Wie denken Sie, dass KI in der mathematischen Forschung eingesetzt werden kann? Welche Anwendungsfälle gibt es bereits heute?

Yitang Deng: Ich denke, die Nutzung von KI ist eine gute Sache und die Richtung der Zukunft. KI kann die Grenzen von Mathematik und Forschung stark erweitern, wir müssen sie nur richtig einsetzen. Ich habe das auch in meinem Vortrag heute Morgen erwähnt. Dies liegt hauptsächlich auf der Ebene akademischer Normen und ist eher ein moralisches Problem.

Natürlich, auf technischer Ebene sind die Beweise, die wir kürzlich gesehen haben, wirklich bemerkenswert, mit sehr schönen neuen Ideen. Lassen wir Dinge wie die Vorgehensweise des Unternehmens beiseite und schauen wir nur auf die Beweise: Ich denke, wir befinden uns in einer sehr guten Situation: KI lernt von Menschen, lernt menschliche Ideen und entwickelt eigene neue Ideen. Und diese neuen Ideen können wir wirklich verstehen und darauf aufbauend unsere eigenen neuen Ideen entwickeln. Das ist eine gemeinsame Evolution von Mensch und KI, die ich gerne sehen möchte.

Terence Tao: Es scheint, als wolle heute jeder die Menschen in zwei Lager einteilen, das eine unterstützt dies, das andere lehnt das ab, aber Technik ist nie so einfach. Man kann jemanden fragen: Unterstützen Sie Autos oder lehnen Sie Autos ab? Unterstützen Sie das Internet oder lehnen Sie das Internet ab? Aber die Dinge sind keineswegs so einfach. Jede Technologie hat Vor- und Nachteile. Man kann versuchen, nur die Vorteile zu sehen oder nur die Nachteile zu sehen, aber die Realität ist immer komplexer. Das gilt sicher auch für KI.

KI gibt uns mehr Fähigkeiten. Viele Aufgaben, die früher sehr schwierig waren, können heute automatisch erledigt werden. Aber sie ersetzt auch einige langsamere, aber sehr wertvolle Arbeitsweisen. Im Idealfall wollen wir die Vorteile beider Seiten nutzen. Autos können beim Reisen vorteilhafter sein als zu Fuß gehen, aber Sie werden nicht alle Szenarien, in denen Sie früher zu Fuß gegangen sind, durch Autofahren ersetzen wollen. Manchmal möchten Sie wirklich spazieren gehen, vielleicht um das Gehen zu genießen, oder aus Gründen der Sicherheit, des Umweltschutzes oder anderer Gründe.

Daher müssen wir versuchen, das richtige Gleichgewicht zu finden. Einerseits behalten wir die Vorteile bei, die sich aus der langsamen Durchführung von Wissenschaft und Mathematik ergeben, einschließlich der Verbesserung des Verständnisses, des Aufbaus der Gemeinschaft und der dauerhaften Beherrschung des Verständnisses für ein Fachgebiet durch die Menschheit; andererseits nutzen wir diese leistungsstarken Methoden, die die Dinge viel schneller machen. Aber manchmal ist Geschwindigkeit nicht das Einzige, was wir optimieren wollen.

Yitang Deng: Genau. Ich habe mir tatsächlich ein Nutzungsszenario vorgestellt, das sehr gut funktionieren würde. Zum Beispiel haben Sie ein Problem, für das Sie bereits eine Roadmap zur Lösung haben und wissen, welche Schritte konkret unternommen werden müssen, nur stellen Sie fest, dass die praktische Umsetzung zu kompliziert ist und sehr viel Zeit in Anspruch nimmt, um diese Details abzuleiten. Aber Sie haben bereits die Idee und wissen, wie Sie diesen Weg erfolgreich gehen können.

Dann diese Arbeit an KI zu übergeben, ist meiner Meinung nach ein gutes Beispiel: KI hilft Ihnen, Zeit und Energie zu sparen, sodass Sie sich auf grundlegendere Probleme konzentrieren können.

Das Lösen des Problems und das Verstehen des Beweises sind zwei Grenzen

Moderator: Ich finde das sehr sinnvoll, besonders was Sie gesagt haben, dass die Einstellung dynamisch sein sollte und nicht einfach vollständig unterstützend oder ablehnend, das ist sehr wichtig. Das bringt uns zurück zu den jüngsten Ereignissen. Diese Beweise sind wirklich erstaunlich, aber nach der Veröffentlichung hat dieses Unternehmen mehrere Preprints wegen grundlegender Symbolfehler zurückgezogen; man hat auch festgestellt, dass es eine große Diskrepanz zwischen dem textlichen Beweis und dem Lean-Code gibt.

Ein großes Technologieunternehmen, das diese noch unausgereiften Beweise in einem solchen Tempo plötzlich der Öffentlichkeit vorstellt, führt tatsächlich zu dem Problem, die akademische Literatur zu verschmutzen. Wie können wir verhindern, dass andere diesem Beispiel folgen, und gleichzeitig vermeiden, dass die Leute Zeit verschwenden, um als kostenlose Debugger für solche Ergebnisse zu arbeiten?

Terence Tao: Ich denke, wir müssen die Anreizmechanismen und das Wertesystem ändern. Der Grund, warum diese Technologieunternehmen ihre Lösung dieser Probleme groß ankündigen, liegt teilweise darin, dass wir selbst in der mathematischen Gemeinschaft immer großen Wert darauf gelegt haben, diese Probleme zu lösen.

In der Vergangenheit bedeutete die Lösung eines solchen Problems durch eine Person normalerweise auch, dass sie das Problem tief verstanden, es klar erklären, neue Probleme auf der Grundlage vorhandener Arbeiten aufwerfen und Studenten ausbilden konnte. Diese Dinge hängen zusammen. Wir verleihen jemandem einen Preis, weil er das Problem gelöst hat, aber tatsächlich belohnen wir diese breitere Palette von Aktivitäten. Das Lösen von Problemen ist nur der am einfachsten zu messende Indikator.

Aber heute lösen diese KI-Technologieunternehmen diese Probleme fast nebenbei. Mathematische Probleme sind für sie ein nützlicher Benchmark beim Training allgemeinerer Modelle. So werden diese gelösten Probleme zu einer Art Nebenprodukt, man könnte sogar „giftigem Abfall“ sagen, den sie danach irgendwie entsorgen müssen, oder den wir entsorgen müssen.

Daher denke ich, dass wir wirklich klarstellen sollten: Wir lösen keine Probleme nur um des Lösens willen, was wir wollen, ist umfassenderes Verständnis und Einsicht. Im Idealfall sollten die Unternehmen, die diese Beweise erstellen, auch mit uns zusammenarbeiten, um allen zu helfen, diese Beweise zu verstehen. Vielleicht sollten einige Mathematiker vor Beginn der Arbeit einbezogen werden, anstatt danach aufzuräumen. In diesem Bereich können wir einige Praktiken entwickeln, die es wert sind, befolgt zu werden.

Aber realistisch gesehen denke ich, dass die Leute das weiterhin tun werden. Irgendwann können wir nur sagen: Wenn Sie nur Probleme lösen, ohne andere wertvolle Dinge zu produzieren, werden diese Ergebnisse nicht Teil unserer mathematischen Literatur sein.

Wir werden es später prüfen. Unter den Ergebnissen, die dieses Technologieunternehmen diesmal veröffentlicht hat, gibt es mehr als ein Dutzend Probleme, die mir persönlich wichtig sind, die ich eines Tages lesen werde, aber das ist wirklich nicht meine aktuelle Priorität. Die Art und Weise, wie sie derzeit erklärt werden, hat mich noch nicht wirklich begeistert. Wir werden sie schließlich ansehen, nur wird dieser Prozess viel langsamer verlaufen. Wenn sie mit uns zusammenarbeiten könnten, würden die Fortschritte viel schneller vorankommen.

Yitang Deng: Ja, ich stimme der Idee, das Verständnis zu verbessern, immer zu. Grundsätzlich ist mein Verständnis: Warum betreiben wir Mathematik? Verschiedene Menschen können unterschiedliche Antworten haben. Für mich lautet die Antwort, die Welt zu verstehen. Die Welt hier umfasst sowohl die reale Welt als auch die abstrakte mathematische Welt.

Was bedeutet Verstehen eigentlich? Tatsächlich gibt es hier zwei Grenzen. Die erste Grenze ist die Grenze der Probleme, für die es bereits Beweise gibt, unter allen Problemen. Die zweite Grenze ist die Grenze der Probleme, deren Beweise wir verstehen können, unter den bereits bewiesenen Problemen.

In der Vergangenheit stellte die zweite Grenze kein Problem dar. Denn wenn es einen Beweis gab, bedeutete das, dass jemand ihn bewiesen hat, also konnte jemand ihn verstehen. Jetzt, wenn nur KI den Beweis kennt, entsteht diese zweite Grenze.

Daher denke ich, dass unsere Wertorientierung in verschiedenen Epochen eigentlich konsistent ist, nur die Situation hat sich geändert. Heute scheint die Wertorientierung oberflächlich betrachtet verändert zu sein, aber meiner Meinung nach folgen wir beim Betreiben von Mathematik immer noch denselben Werten.

Die Herkunft und der Beitrag von Ideen nachvollziehbar machen

Moderator: Das betrifft auch die Frage der Zuordnung von Beiträgen und der Fairness. Als ich den offenen Brief der Fields-Medaillen-Preisträger gesehen habe, wollte ich fragen: Wenn kommerzielle Unternehmen auf diese Weise ihre Rechenleistung demonstrieren, wessen Arbeit schreiben sie sich eigentlich selbst zu?

Terence Tao: In gewissem Sinne extrahieren sie die Arbeitsergebnisse anderer und verwenden Daten aus anderen Forschungen und Papieren. Wie können wir diese Quellen nachvollziehen?

Seit Hunderten von Jahren folgt die akademische Welt dem Prinzip der offenen Wissenschaft und betrachtet die wissenschaftliche Literatur als gemeinsames Gut. Wir veröffentlichen Papiere. Natürlich ist das Lesen von Zeitschriften oft kostenpflichtig, in diesem Bereich gibt es tatsächlich einige diskutierbare Probleme. Aber lassen wir das beiseite: Die wissenschaftliche Literatur sollte allen offen stehen, und die Menschen sollten die Forschungsarbeiten anderer nutzen. Natürlich muss man richtig zitieren, damit wir die Herkunft der Ideen nachvollziehen können. So entwickelt sich die Wissenschaft vorwärts.

Jetzt haben wir eine Technologie, die die gesamte Literatur aufnehmen kann, die Wissenschaftler und Mathematiker über Tausende von Jahren angesammelt haben, und diese Literatur dann auf undurchsichtige Weise in Antworten umwandelt. KI kann Antworten liefern, manchmal sagt sie Ihnen, dass sie ein bestimmtes Ergebnis aus einem bestimmten Papier verwendet hat; manchmal kann sie nicht bis zur Quelle zurückverfolgen oder nicht zeigen, woher diese Ideen stammen.

Daher beginnen wir, diese Kette der Ideenüberlieferung zu durchbrechen, im wahrsten Sinne des Wortes die „Kette der Ideen“. Das ist schade, denn wenn wir ein Problem lösen, lernen wir unter anderem, welche Einflüsse es hatte und welche Schlüsselideen bereits in unvollständiger Form in der Literatur vorhanden waren. Vielleicht ist das nur vorübergehend, vielleicht werden zukünftige KI-Systeme besser darin sein, ihre eigenen Quellen nachzuverfolgen. Aber die aktuelle Technologie ist in diesem Bereich sehr schlecht.

Ich denke