"Ich möchte nicht für immer nur an PyTorch arbeiten und nicht wie Linus an derselben Sache für Jahrzehnte gefesselt sein!" Der Vater von PyTorch veröffentlichte einen langen Abgangsbrief und verabschiedete sich von Meta.

„Ich möchte nicht mit dem Bedauern weitermachen, nie die Welt außerhalb von Meta kennengelernt zu haben... Ich möchte nicht für immer nur an PyTorch arbeiten, und ich möchte nicht wie Guido oder Linus sein – jahrzehntelang an ein und dieselbe Sache gefesselt.“

„Nach der Elternzeit habe ich plötzlich gemerkt, dass das Team immer besser in der Lage ist, alle Arten von Problemen zu lösen. Dieses Projekt... braucht mich nicht mehr.“

In einer Stimmung, die sich aus Halbschmerz und Halbberuhigung zusammensetzte, veröffentlichte Soumith Chintala, die Seele von PyTorch und der sogenannte „Vater von PyTorch“, nach elf Jahren und vier Monaten bei Meta einen gefühlvollen, langen Abgangsbrief und kündigte an, dass er in zehn Tagen offiziell von diesem Techriesen Abschied nehmen würde.

Für Mark Zuckerberg ist es zweifellos ein schwerer Verlust; für die gesamte KI - Technologiebranche ist dies ein Wendepunkt einer Ära. Schließlich ist PyTorch von einer Idee zu einer wichtigen Infrastruktur in der KI - Branche herangewachsen. Die fast eine Million Sterne auf GitHub spiegeln auch den zwölfjährigen Weg wider, den Soumith vorangetrieben hat.

Jetzt hat sich Soumith Chintala entschieden, zu kündigen. Anstatt im Komfortzone zu bleiben, geht er mit etwas Verwirrung, etwas Aufregung und Neugierde auf das „Unbekannte“ in die nächste Phase seines Lebens. Er sagt, er möchte hinausgehen und kleine, völlig neue Dinge tun, die er noch nicht ganz versteht und die ihm sogar ein wenig unbehaglich sind.

Der lange Abgangsbrief von Soumith Chintala

In diesem langen Abgangsbrief blickt Soumith Chintala nicht nur auf seine Zeit bei Meta zurück, sondern spricht auch über PyTorch, das sich im Übergang befindet.

Im Folgenden Soumith Chintala's Selbstauskunft:

Ich habe elf Jahre bei Meta gearbeitet, was fast meine gesamte Laufbahn ausmacht. Hier habe ich viele lebenslange Freunde gewonnen.

Etwa acht Jahre lang habe ich PyTorch von der Idee bis zum Erfolg geführt und dafür gesorgt, dass seine Adoption in der KI - Branche über 90 % liegt. Der Entschluss, hier zu gehen, war einer der schwierigsten, die ich je getroffen habe. Aber ich gehe mit tiefem Dank weg.

Heute ist PyTorch in der Lage, Trainings im Milliardenskalenbereich zu verarbeiten. Es unterstützt die Basis Modelle, die das Verständnis von Intelligenz neu definieren, und fast jede bedeutende KI - Firma nutzt es in der Produktion. PyTorch wird von MIT bis hin zu Schulklassen in indischen Dörfern unterrichtet.

Ich habe mir einmal gewünscht, dass diese Tools leichter zugänglich werden? Das ist jetzt der Fall.

Die Einstiegshürde, die ich senken wollte? Sie ist jetzt fast verschwunden.

Natürlich gibt es noch viel zu tun. Solange die KI mit so einer erstaunlichen Geschwindigkeit voranschreitet, muss PyTorch ständig mitkommen. Zu sehr auf die Zukunft zu fixieren, lässt uns manchmal die erreichten Errungenschaften vergessen.

Danke an alle, die mit mir PyTorch aufgebaut haben – die glauben, dass Forschung Spaß machen sollte, dass Tools elegant sein sollten und dass Open - Source alles verändern kann – vielen Dank. Dies war keine individuelle Reise, sondern unsere gemeinsame Reise.

Was werde ich als Nächstes tun? Kleine, völlig neue Dinge, die ich noch nicht ganz verstehe und die mir sogar ein wenig unbehaglich sind. Ich hätte mich für eine interne Weiterentwicklung bei Meta entscheiden können, aber ich denke, ich muss die Welt außerhalb sehen. Ich muss wieder „kleine Dinge“ tun. Ich kann nicht damit leben, dass ich nie etwas außerhalb von Meta versucht habe.

Es ist wirklich schwer, zu gehen. Ich hatte eine der einflussreichsten Positionen in der KI - Branche – ich war für die Softwareebene verantwortlich, die den Betrieb der gesamten KI - Branche unterstützt. Ich konnte direkt mit fast allen bedeutenden KI - Firmen und Hardwareherstellern in Kontakt treten. Es ist wirklich schwer, diese Position und diesen Einfluss loszulassen. Aber schließlich hat die Neugierde in mir gewonnen.

Bitte macht die KI weiterhin nützlicher und interessanter! Ich werde weiterhin aufmerksam sein, vielleicht auch einige Probleme melden und sicherlich am Prozess bleiben.

Wird PyTorch es schaffen?

Ich möchte nicht für immer an PyTorch arbeiten. Ich möchte nicht wie Guido (der Vater von Python) oder Linus (der Vater von Linux) sein – jahrzehntelang an ein und dieselbe Sache gefesselt.

Letzten November, als meine Tochter geboren wurde, habe ich mit Aparna (Senior - Engineering - Vizepräsidentin bei Meta) bereits an meinem Austritt geplant. Mein Ziel war es, PyTorch in einem guten und stabilen Zustand zu hinterlassen.

Im August dieses Jahres, in der zweiten Hälfte meiner Elternzeit, wusste ich: Edward, Suo, Alban, Greg, John, Joe und Jana waren bereit. Das Team musste sich nicht mehr (wie früher) auf mich verlassen, um schwierige Personal-, Produkt-, Technologie - und Organisationsprobleme zu lösen. Die Produktgeschichte, die sie für die PyTorch - Konferenz vorbereitet haben, war sehr klar – wirklich klar. Die Probleme, die ich markiert hatte, wurden gesund. Dieses Projekt braucht mich nicht mehr.

Im Gegensatz zu den Jahren 2020 - 2022 (als ich weg ging, um an Robotikforschung zu arbeiten und Lin, Dima und Dwarak wieder zurückkamen), bin ich diesmal sicher, dass PyTorch wirklich widerstandsfähig ist. Die Träger der Werte von PyTorch wie Greg, Alban, Ed, Jason und Joe sitzen jetzt in der Entscheidungsgruppe, und auch diejenigen, die diese Werte teilen – Suo, John und Jana – sind der Entscheidungsgruppe beigetreten. Wenn diese Leute gehen, gibt es eine lange Liste von Menschen mit denselben Werten, die bereit sind, an den Entscheidungsplatz zu treten.

Es gibt viele kleine Details, die mich an das Team glauben lassen: John hat langjährige Erfahrung in der Julia - und Open - Source - Welt (tatsächlich haben wir 2015 zusammen an Torch.jl gearbeitet), Suo war in den letzten zwei Jahren mein stärkster Systembauer und strategischer Partner, und Jana hat langfristig an der Robustheit des Kernsystems gearbeitet. Die tiefgreifenden technischen und organisatorischen Diskussionen, die ich in den letzten Monaten mit ihr geführt habe, geben mir auch Vertrauen. Und die Produktpalette und die Umsetzung im Jahr 2025 sind selbst schon genug, um alle verbleibenden Zweifel zu beseitigen.

Ich glaube, dass dieses PyTorch - Team hervorragend abschneiden wird. PyTorch wird möglicherweise im Stil etwas ändern, da ich nicht mehr von oben meine Vorlieben aufzwinge, aber ich bin sicher, dass die Kernwerte gleich bleiben und das Produkt ausgezeichnet sein wird.

Meine Zeit bei Meta

Die frühen Jahre von FAIR waren einfach magisch. Ich war Teil eines kleinen, aber ausgezeichneten Teams, das auf der öffentlichen Bühne die neuesten KI - Technologien entwickelt hat.

Von der Forschung an generativen adversarischen Netzwerken (GAN) mit Emily Denton, Rob Fergus, Leon Bottou, Martin Arjovsky und dem inzwischen legendären Alec Radford bis hin zur Entwicklung eines StarCraft - Roboters mit Gabriel Synnaeve, von der Erstellung des ersten FAIR - Clusters mit Howard Mansell bis hin zur Objekterkennung mit Adam Lerer und Piotr Dollar und schließlich zur Entwicklung von PyTorch – das war alles nicht mit Worten zu beschreiben.

Die Jahre 2015 und 2016 waren wahrscheinlich die produktivsten und am meisten genossenen Jahre meines Berufslebens. Ich werde diese Zeit vielleicht immer mit Romantik in Erinnerung behalten.

Als ich FAIR betrat, hatte ich ein starkes Imposter - Syndrom (Menschen mit diesem Syndrom sind überzeugt, dass ihr Erfolg nicht auf ihre eigene Arbeit oder Fähigkeiten zurückzuführen ist, sondern auf Glück und guten Zeitpunkt, und sie befürchten, als Betrüger enttarnt zu werden). Die ersten drei Monate waren extrem schwierig. Ich kann nicht in Worten ausdrücken, wie dankbar ich Andrew Tulloch (Spitzenforscher in der KI - Branche) bin. Er war der aufmerksamste, freundlichste und herzlichste Mentor, ohne den ich nicht so weit gekommen wäre. Nur dass er zurück zu Meta kam, macht mich optimistisch über Meta.

Meine Zeit bei PyTorch war besonders speziell.

Ich habe jeden Aspekt der Entwicklung geliebt – das Design, die Leitung, die Rolle als Projektmanager, Technologieleiter, Kommunikationsverantwortlicher, Dokumentationsingenieur, Release - Ingenieur, Bug - Fixer, Wachstumshacker, die Transformation in ein vollwertiges Produkt mit Hunderten von Beteiligten und die Übergabe an die Industrieinteressenten – alles.

Danke an das Kernteam von PyTorch bei Meta: die Ingenieure, Forscher, Open - Source - Betreuer, Dokumentationsschreiber, CI - Infrastrukturteam, Hardwarepartner und Community - Builder. Danke an die Hunderte von Mitgliedern, innen und außen – ihr habt eine Bibliothek zu einer Bewegung gemacht.

Es gibt so viele Menschen, denen ich dankbar bin, aber ich muss Adam Paszke, Sam Gross, Greg Chanan, Joe Spisak, Alban Desmaison, Edward Yang, Richard Zou, Tongzhou Wang, Francisco Massa, Luca Antiga, Andreas Köpf, Zach DeVito, Zeming Lin, Adam Lerer, Howard Mansell, Natalia Gimelshein und Schrep erwähnen. Sie haben PyTorch erfolgreich ins Leben gerufen.

Später wurden auch viele andere Menschen wichtig: Lu Fang, Xiaodong Wang, Junjie Bai, Nikita Shulga, Horace He, Mark Saroufim, Jason Ansel, Dmytro Dzhulgakov, Yangqing Jia, Geeta Chauhan, Will Constable, Briah Hirsh, Jane Xu, Mario Lezcano, Piotr Balecki, Yinghai Lu, Less Wright, Andrew Tulloch, Bruce Lin, Woo Kim, Helen Suk, Chris Gottbrath, Peng Wu, Joe Isaacson, Eli Uriegas, Tristan Rice, Yanan Cao, Elias Ellison, Animesh Jain, Peter Noordhuis, Tianyu Liu, Yifu Wang, Lin Qiao und Hunderte anderer.

Ich kann nicht alle nennen, aber ohne diese Menschen gäbe es kein PyTorch ❤️.

Die schönsten Momente bei der Entwicklung von PyTorch waren die Begegnungen mit den Nutzern, die ihre Freude, Liebe und Feedback freudig teilten.

Ich erinnere mich an die NeurIPS - Konferenz 2017, als ein Student zu mir kam und aufgeregt und incoherenterweise sagte, dass er drei Jahre lang an seiner Forschung arbeitete, bevor er Fortschritte machte, und dass er mit PyTorch in nur drei Monaten so viele Fortschritte gemacht hatte, dass er sogar bereit war, zu absolvieren. In diesem Moment habe ich wirklich verstanden, dass das, was wir tun, für viele Menschen von großer Bedeutung ist, auch wenn man nicht immer von ihnen hört. Ich vermisse wirklich die Nähe der PyTorch - Community. Eine Konferenz mit 300 Personen war wie eine Familienfeier, aber wenn man bedenkt, welchen großen Einfluss PyTorch heute hat – ja, jetzt gibt es 3.000 Personen auf der Konferenz und einen großen Marktanteil, aber es hilft mehr Menschen, die beste KI - Arbeit zu leisten – ich denke, dass der Verlust dieser Nähe ein kleiner Preis ist. Ich vermisse diese Nähe, aber ich bin stolz auf dieses Wachstum.

Danke an Mark Zuckerberg und Mike Schroepfer, die glauben, dass Open - Source von grundlegender Bedeutung ist und eine zuverlässige Geschäftsstrategie darstellt. Für die meisten Menschen ist das schwer zu verstehen, aber wir waren immer einig in dieser Strategie und mussten es nie diskutieren. Ohne euch gäbe es weder FAIR noch PyTorch, und das bedeutet mir viel.

Danke an Yann LeCun und Rob Fergus, die die frühe FAIR geschaffen haben, die ich so bewundere.

Danke an Aparna Ramani, die in Meta eine seltene Führungspersönlichkeit ist: Sie hat hohe Standards für die Organisation, ist technisch ausgezeichnet, kann in derselben Unterhaltung über tiefe Infrastruktursysteme und Branchenstrategien sprechen und hat eine tadellose Durchsetzungsfähigkeit! Ich habe so viel von dir gelernt.

Danke an Santosh, Kaushik, Delia, Oldham und Ben für die herzliche Aufnahme in das Infra - Team. Als Neuzugang von FAIR habt ihr mich wie zu Hause fühlen lassen und mich zur Familie gemacht, vielen Dank.

Danke an alle Manager, die mich im PSC - Videospielprojekt unterstützt haben – Serkan, Howard, Jerome, Abhijit, Yoram, Joelle, Aparna und Damien – ich schulde euch ein Leben lang Alkohol.

– Soumith

Glückwünsche und Ehrungen aus der KI - Branche!

Soumiths Austritt hat in der KI - Technologiebranche breites Interesse geweckt.

Der KI - Experte Andrej Karpathy schrieb: „Toll gemacht, Soumith! Von allen Übergängen zwischen Deep - Learning - Frameworks, die ich erlebt habe (von Matlab → Caffe → NumPy → Torch → PyTorch, bei denen ich fast alles neu geschrieben habe), war der Übergang zu PyTorch das angenehmste Erlebnis und hat auch den nachhaltigsten Einfluss. Es ist ein Grand - Slam in der 20 - dimensionalen Design - Welt von Zielen und Beschränkungen. Ich wünsche dir, dass du in einem Bereich, der dich am meisten begeistert, wieder deine Goldene Zeit hast!“

Soumith antwortete lachend: „Ich hoffe, dass dein Glanz immer von PyTorch erleuchtet wird. Das war ein Scherz. Tatsächlich hast du mehr zum Wachstum von PyTorch beigetragen, als du selbst weißt, und hast es mehrmals in die richtige Richtung gelenkt. Danke für deine unermüdliche Arbeit. Ich hoffe, dass wir dich auch in den nächsten 30 Jahren noch mit PyTorch sehen werden, selbst wenn es nur aus Spaß am Programmieren ist...“