Der Turing-Award-Gewinner Yann LeCun spricht nach Monaten der Stille auf: Die Sicherheit von KI ist ein Ingenieurproblem, und es besteht kein Grund, vor einer "Kontrollverlustsituation" zu panikieren.

Wichtige Punkte:

• Seit dem Sommer 2023 wurde die Modellfamilie Llama rund 800 Millionen Mal heruntergeladen. Diese Zahl ist erstaunlich.
• Das Abstimmen des Verhaltens von KI mit menschlichen Werten ist eher ein Ingenieur- und Designproblem, ähnlich wie damals, als wir durch Ingenieurskunst Flugzeuge sicher fliegen ließen.
• Yann LeCun hat die "zielorientierte Architektur" vorgeschlagen. Der Kerngedanke besteht darin, dem System klare Ziele und notwendige Sicherheitsgrenzen zu setzen, damit es seine Aufgaben innerhalb des festgelegten Rahmens ausführt.
• Die KI könnte wie die Drucktechnik im 15. Jahrhundert eine neue Renaissance auslösen und die menschliche Intelligenz verstärken.
• Junge Menschen sollten sich nicht von negativen und aufsehenerregenden Geschichten einschüchtern lassen. Sie sollten sich ihrer eigenen Macht bewusst werden und die Zukunft aktiv gestalten, die sie sich wünschen.

Am 1. Juli 2025 hat Meta offiziell die Gründung des Meta Superintelligence Labs angekündigt, um die Forschung und Entwicklung von allgemeiner Künstlicher Intelligenz (AGI) voranzutreiben. Bei dieser Umstrukturierung hat Mark Zuckerberg seine starke Nachfrage nach Spitzenkünstlern in der KI-Branche gezeigt. Eine Reihe von auffälligen Personalrekrutierungen, die er leitete, hat schnell die gesamte Technologiebranche erschüttert. Im Laufe dieses Prozesses wurde jedoch Yann LeCun, der seit langem Chefwissenschaftler des Meta Foundation AI Research Lab (FAIR) war, allmählich an den Rand gedrängt und ist aus dem öffentlichen Blickfeld verschwunden.

Nach Monaten der Stille hat dieser als einer der "Väter der Künstlichen Intelligenz" bekannte Wissenschaftler in Paris, Frankreich, ein Interview mit Barbara Rosario, einer KI-Expertin und Mitbegründerin und Chief Technology Officer eines Silicon Valley-Startups, gegeben und ein Video veröffentlicht, in dem er eingehend über die Forschungsrichtungen der KI, den Branchenwettbewerb und die Sicherheitskontroversen spricht.

Yann LeCun ist derzeit Professor an der New York University. Er hat zusammen mit Geoffrey Hinton und Yoshua Bengio für ihre bahnbrechenden Beiträge zur Deep Learning-Technologie den Turing Award erhalten. Die drei werden von außen als die "Drei Väter der Künstlichen Intelligenz" bezeichnet. LeCun hat seit langem an das Potenzial von neuronalen Netzen geglaubt und vertreten, dass Maschinen Fähigkeiten erlernen können, ohne explizit programmiert zu werden. Diese Idee ist heute ein Grundpfeiler der modernen KI, wurde aber in der frühen Phase lange Zeit ignoriert.

Vor fast vierzig Jahren gehörte die von LeCun und seinen Kollegen erforschte Technologie der neuronalen Netze zu einer Nischenbranche. Heute, mit der breiten Anwendung dieser Technologien, durchläuft der Bereich der KI eine tiefgreifende Veränderung. LeCuns Karriere begann an der Universität Paris-Sorbonne in Frankreich. In seiner Dissertation entwickelte er einen frühen Rückpropagationsalgorithmus. Anschließend absolvierte er eine Postdoc-Stelle in Toronto, Kanada, in Zusammenarbeit mit Hinton. Nach seinem Eintritt in das Bell Laboratories im Jahr 1988 erzielte er Brüche in Aufgaben wie der Zeichenerkennung und trug zur Produkthaftung von Technologien wie dem Scheckerkennungssystem bei.

Im Jahr 2003 hat LeCun an der New York University die Forschung an neuronalen Netzen wieder aufgenommen und den Begriff "neuronales Netz" in "Deep Learning" umbenannt. Danach hatte Deep Learning in der Spracherkennung große Erfolge und wurde schnell zur Mainstream-Technologie.

Heute ist Paris zum Zentrum für KI- und High-Tech-Startups in Europa geworden, dank des lokalen Personalschatzes und der hochkonzentrierten Innovationsökosysteme. LeCun hat darauf hingewiesen, dass der Wettbewerb in der KI-Entwicklung nicht zwischen Regionen stattfindet, sondern zwischen offener Forschung und Open-Source-Ökosystemen auf der einen Seite und geschlossenen proprietären Systemen auf der anderen Seite. Die von Meta veröffentlichte Modellfamilie Llama wurde seit dem Sommer 2023 rund 800 Millionen Mal heruntergeladen. Er ist der Ansicht, dass offene Forschung den technologischen Fortschritt beschleunigt und mehr Unternehmen und Personen davon profitieren lassen.

Als Mitglied der französischen Akademie der Wissenschaften und Turing-Award-Gewinner hat LeCun zahlreiche Auszeichnungen erhalten, darunter den Ritterkreuz des französischen Legion of Honour. Die von ihm vorgeschlagene "zielorientierte Architektur" setzt klare Ziele und Sicherheitsmechanismen für KI-Systeme, um das kontrollierbare Verhalten des Systems sicherzustellen. Er hat die Ansicht widerlegt, dass "Intelligenz zwangsläufig zu Machtgier führt", und betont, dass die Sicherheit von KI ein Ingenieurproblem ist, das durch eine vernünftige Gestaltung gelöst werden kann. Selbst wenn es "unkontrollierte KI" gibt, kann die Gesellschaft diese mit fortschrittlicherer KI-Technologie bekämpfen und die Risiken beseitigen.

Er liebt Musik (klassische, barocke, jazzige usw.) und Handwerk (Schiffbau, Flugzeugbau) und sehnt sich nach französischer Kultur und französischer Küche. Er hofft, dass die KI wie die Drucktechnik im 15. Jahrhundert eine Renaissance auslösen kann und die menschliche Intelligenz stark verstärken kann. Er möchte auch junge Menschen ermutigen, sich aktiv an der Innovation zu beteiligen und sich nicht von negativen Geschichten einschüchtern zu lassen.

Im Folgenden finden Sie eine Auswahl aus dem Interview:

Moderator: Sie sind Franzose und haben an der Sorbonne studiert. In Ihrer Dissertation haben Sie einen frühen Algorithmus für die Rückpropagation in neuronalen Netzen entwickelt. Können Sie als Pionier in diesem Bereich betrachtet werden?

Yann LeCun: Ich war schon während meines Studiums stark an maschinellem Lernen interessiert. Damals gab es in Frankreich fast niemanden, der sich mit neuronalen Netzen befasste. Ich habe die Arbeiten von John Hopfield (derzeit Professor an der Princeton University), Geoffrey Hinton und Terry Sejnowski gelesen. Diese Forschungen hatten einen tiefgreifenden Einfluss auf das Feld der künstlichen neuronalen Netze und der computergestützten Neurowissenschaft und legten die Grundlage für spätere wichtige wissenschaftliche Preise wie den Turing Award. Ich wollte sie unbedingt kennenlernen, weil sie wussten, wie man mehrschichtige neuronale Netze trainieren kann - ein Problem, das Ende der 1960er Jahre noch ungelöst war.

Im Winter 1985 traf ich Sejnowski auf einem Symposium. Nachdem er nach den USA zurückgekehrt war, erzählte er Hinton, dass es in Frankreich einen jungen Mann gebe, der ähnliche Forschungsarbeiten macht. Einige Monate später kam Hinton nach Paris zu einer Konferenz und las meine in französischer Sprache verfasste Dissertation. Der mathematische Teil war sehr klar, und er erkannte, dass es eng mit der Forschung an neuronalen Netzen zusammenhing. Daher lud er mich ein, nach meinem Abschluss in Toronto eine Postdoc-Stelle zu machen.

Moderator: Wurde Deep Learning während Ihrer Postdoc-Zeit in Toronto geboren?

Yann LeCun: Damals nannten wir es "neuronales Netz" und nicht "Deep Learning". Kurz nach meinem Eintritt in das Bell Laboratories erzielte ich innerhalb weniger Monate die besten Ergebnisse auf einem Datensatz. Wir entwickelten ein Demonstrationssystem, das mit einer Kamera Zeichen auf Papier lesen konnte und es auf die Scheckerkennung anwandten, zum Beispiel bei der automatischen Erkennung des Scheckbetrags an einem ATM. Es war aber damals sehr schwierig, andere von der Qualität dieser Technologie zu überzeugen, weil es schwierig war, unsere Ergebnisse auf verschiedenen Computern, Betriebssystemen und Programmiersprachen zu reproduzieren.

Moderator: Was hat Deep Learning zur Mainstream-Technologie gemacht?

Yann LeCun: Im Jahr 2003 wurde ich Professor an der New York University und nahm die Forschung an neuronalen Netzen wieder auf. Damals hatte das neuronale Netz einen schlechten Ruf in der akademischen Welt, also begannen wir, den Begriff "Deep Learning" zu verwenden. Der echte Durchbruch kam Ende der 2010er Jahre in der Spracherkennung. Hinton schickte seine Studenten zu Praktika bei Microsoft, Google und IBM, damit sie in den Spracherkennungsmodulen die akustische Modellierung durch Deep Learning ersetzten. Die Ergebnisse waren deutlich besser als die der alten Systeme. Innerhalb von 18 Monaten nutzten fast alle Smartphone-Spracherkennungssysteme Deep Learning.

Moderator: Können Europa und Frankreich in der Entwicklung der KI den USA und China nachholen?

Yann LeCun: Ich denke nicht, dass es sich um einen Wettbewerb zwischen Regionen handelt, sondern eher um einen Wettbewerb zwischen offener Forschung und Open-Source-Ökosystemen einerseits und geschlossenen proprietären Systemen andererseits. Beispielsweise wurde die erste Version des Open-Source-Basismodells Llama von Meta in Paris entwickelt, obwohl Meta ein amerikanisches Unternehmen ist. Was ist wichtiger: Die Führung der USA oder die von Paris? Diese Frage ist nicht wichtig. Wichtig ist, dass offene Forschung und Open-Source-Ökosysteme einen schnelleren Fortschritt erzielen.

Moderator: Sie haben einmal gesagt, dass die Regierung es nicht zulassen sollte, dass wenige Unternehmen die digitalen Informationen der Bürger kontrollieren. Fühlen Sie sich als Unternehmensforscher und unabhängiger Wissenschaftler in Konflikt?

Yann LeCun: Ich bin Professor an der New York University und gleichzeitig Chefwissenschaftler bei Meta. Meta unterstützt die offene Forschung sehr stark, und unsere Ergebnisse sind öffentlich zugänglich. Ich spüre keinen großen Konflikt. Viele Unternehmen, einschließlich Startups und großen Unternehmen, verwenden inzwischen Open-Source-Modelle wie Llama. Seit dem Sommer 2023 wurde die Modellfamilie Llama rund 800 Millionen Mal heruntergeladen. Diese Zahl ist erstaunlich.

Moderator: Wie hat sich Ihre Arbeit und Ihr Leben nach dem Erhalt des Turing Awards verändert?

Yann LeCun: Der Turing Award hat mir etwas Einfluss verschafft. Jetzt hören mehr Leute zu, wenn ich sage, dass etwas interessant oder uninteressant ist. Es war besonders schön, gemeinsam mit meinen Freunden Hinton und Bengio diesen Preis zu erhalten.

Moderator: Wie kann die KI-Gemeinschaft effiziente und sozial wertvolle Systeme schaffen?

Yann LeCun: Dies ist ein komplexes Problem, aber es ist nicht die unauflösbare Krise, wie manche denken. Manche befürchten, dass das System außer Kontrolle gerät, sobald es intelligenter als der Mensch wird. Ich denke, dass diese Meinung nicht zwingend stimmt. Das Abstimmen des Verhaltens von KI mit menschlichen Werten ist eher ein Ingenieur- und Designproblem, ähnlich wie damals, als wir durch Ingenieurskunst Flugzeuge sicher fliegen ließen.

Ich habe die "zielorientierte Architektur" vorgeschlagen. Der Kerngedanke besteht darin, dem System klare Ziele und notwendige Sicherheitsgrenzen zu setzen, damit es seine Aufgaben innerhalb des festgelegten Rahmens ausführt. Intelligenz führt nicht unbedingt zu Machtgier. Dies ist auch in der menschlichen Gesellschaft so - nicht alle Intelligenten wählen eine Führungsstellung.

Selbst wenn es KI-Systeme ohne Sicherheitsmechanismen gibt, kann die Gesellschaft die potenziellen Risiken durch die Entwicklung fortschrittlicherer KI-Systeme mit besseren Sicherheitsmechanismen ausgleichen. Langfristig wird die Gesellschaft Systeme bevorzugen, die den menschlichen Interessen dienen und mit unseren Werten übereinstimmen.

Moderator: Welche Veränderungen bringt die KI für die Gesellschaft?

Yann LeCun: Die KI könnte wie die Drucktechnik im 15. Jahrhundert eine neue Renaissance auslösen und die menschliche Intelligenz verstärken. Dies ist eine optimistische Aussicht, und ich hoffe, dass ich Menschen ermutigen kann, sich aktiv daran zu beteiligen.

Moderator: Was machen Sie in sozialen Medien?

Yann LeCun: Ich teile Musik, Kunst und interessante Videos von Tieren, weil ich an der Intelligenz von Tieren interessiert bin. Wir denken oft, dass Tiere nicht intelligent sind, aber sind wir intelligent genug, um ihre Intelligenz zu verstehen?

Moderator: Was vermissen Sie am meisten in Frankreich, während Sie in New York leben?

Yann LeCun: Ich vermisse Paris, meine Familie, meine Freunde, die französische Kultur und die französische Küche. Ich habe ein Viertel Elsässer Blut. Meine Großmutter kommt aus Elsass. Sie wurde 1900 geboren, als die Region noch Teil Deutschlands war. Sie sprach mit starkem deutschen Akzent und konnte traditionelles Elsässer Sauerkraut mit Schinken kochen. Die traditionellen Elsässer Gerichte in diesem Restaurant lassen mich etwas nostalgisch werden.

Moderator: Haben Sie überraschende Hobbys?

Yann LeCun: Ich habe viele Hobbys. Ich mag Segeln, was ich von meinem Vater geerbt habe. Er war Maschinenbauingenieur und Erfinder, was dazu führte, dass mein Bruder und ich beide Wissenschaftler wurden. Wir lieben es, verschiedene Flugzeuge wie Flugzeuge und Hubschrauber zu bauen, damit sie fliegen - und manchmal auch stürzen. Wir lieben es, Dinge zu bauen, die scheinbar nicht fliegen können. Das hat mir viel Ingenieurwissen vermittelt. Ich liebe auch Musik. Ich habe einen sehr breiten Geschmack. Ich mag klassische Musik, besonders barocke Musik, aber auch die moderne klassische Musik von Stravinsky sowie Jazz aus den 50er und 60er Jahren und zeitgenössischen Jazz.

Moderator: Was möchten Sie jungen Menschen mitgeben?

Yann LeCun: Lassen Sie sich nicht von negativen und aufsehenerregenden Geschichten einschüchtern. Diese Geschichten werden oft erzählt, um Aufmerksamkeit zu erregen oder Handlungen zu verhindern. Stattdessen sollten Sie sich ihrer eigenen Macht bewusst werden und die Zukunft aktiv gestalten, die Sie sich wünschen. Lassen Sie sich von niemandem sagen, dass Sie nicht an der nächsten großen Innovation teilnehmen können oder dass kleine Projekte keinen Wert haben. Jede Idee, an der Sie glauben und die wichtig ist, kann die Welt verändern, auch wenn sie einfach erscheint. Die Zukunft liegt in Ihren Händen, nicht in meinen, nicht in denen von Meta und auch nicht in denen der Machthaber, sondern in Ihren.

Dieser Artikel stammt von "Tencent Technology", Übersetzung: Wuji, Redaktion: Helen, veröffentlicht von 36 Kr mit Genehmigung.