Der rätselhafte Giftanschlagsverdacht um Tian Keyu

„Über Viren, über Angriffe und Verteidigungen – all das ist völlig unbegründet.“ „(Wenn ich die Unwahrheit gesagt habe) wird meine lebenslange Forschungsarbeit behindert.“

In der siebten Folge des Podcasts „elsewhere – was anderswo passiert“ lud der Moderator Tian Keyu ein, der 2024 dafür verklagt wurde, dass er im Modell von ByteDance eine „Vergiftung“ vorgenommen habe, und von ByteDance eine Schadenersatzforderung in Höhe von einer Million Yuan erhielt.

Tian Keyus Lebenslauf ist sehr beeindruckend: Er wurde 2018 an der Beihang-Universität aufgenommen, studierte zuerst Materialwissenschaften und wechselte dann zur Fakultät für Softwaretechnik.

Während seines Bachelorstudiums veröffentlichte er zwei Erstautor-Papiere auf NeurIPS. Seit dem zweiten Studienjahr absolvierte er Praktika bei SenseTime. Im Jahr 2021 trat er dann dem kommerziellen technischen Team von ByteDance als Praktikant bei und beteiligte sich an der Forschung zu Hyperparameteroptimierung, Verstärkungslernen und visueller Generierung.

Vor Tian Keyu schien bereits ein glänzender Weg vorgezeichnet zu sein, der zu Karrieren wie die von Wu Yonghui und Yao Shunyu führt. Doch unerwarteterweise wurde dieser junge Mann mit großer Zukunft der Öffentlichkeit durch den „Vergiftungsvorfall bei ByteDance“ bekannt.

In der Mitteilung von ByteDance verwendete er eine Methode, die in der Branche als Insider-Bedrohung (Insider Threat) bezeichnet wird. Mit seinen eigenen Berechtigungen modifizierte er den Code im Inneren von ByteDance und beeinträchtigte so das gesamte Modelltraining.

Das entspricht dem Fall, dass eine Bank umfassende Sicherheitsvorkehrungen getroffen hat, der Räuber aber ein eigener Mitarbeiter der Bank ist, der unter den Augen der Überwachung Geld aus dem Tresor nimmt und flieht.

Nachdem Tian Keyu nun selbst von seinen eigenen Taten erzählt hat, hinzugekommen ist die Nachricht über seine „Startup-Finanzierung in Höhe von 30 Millionen US-Dollar“, hat der gesamte Vorfall neue Kontroversen ausgelöst.

Eine Website, die speziell den „Vergiftungsvorfall“ von Tian Keyu zusammenfasst, wurde aktualisiert. Sie behauptet, dass der gesamte Text von mehreren mit dem Vorfall verbundenen Personen bestätigt wurde, und fügte alle echten persönlichen Seiten der Beteiligten hinzu.

Alphabang verglich die neuesten Aussagen von Tian Keyu mit diesem Artikel sowie der ursprünglichen Mitteilung von ByteDance und stellte fest, dass es noch viele Zweifel gibt.

1

Sehen wir uns zuerst die Aussagen von Tian Keyu in der neuesten Podcast-Folge an.

1) Motiv

Auf die Frage, warum er das getan hat, bestritt Tian Keyu das Gerücht über „fehlende Karten“ und erklärte sein Motiv als eine Art von Gerechtigkeitsempfinden für andere, zusammengefasst als „Gewalt mit Gewalt bekämpfen“.

Es gibt Gerüchte, dass sein Best Paper durch die Aneignung von Ressourcen in diesem Vorfall fertiggestellt wurde, was er als „reines Gerücht“ bezeichnet.

Alles begann damit, dass 2024 ein neuer Praktikant in der Gruppe eintrat. Er nannte diese Person A.

Laut Tian Keyu hat A „weiche Inanspruchnahme“ bei anderen Kollegen betrieben, die Ressourcen anderer belegt und die Programme anderer direkt angehalten. Die Ziele von A waren Kollegen mit einem „sanften“ Charakter, nicht aber Tian Keyu selbst.

Er erklärte, dass die Gruppe dem Teamleiter von dieser Sache berichtet habe, „aber keine Lösung erhalten habe“.

Ein Kollege habe einmal vor Feierabend keine einzige Aufgabe abgegeben, „denn egal was man abgibt, es wird von A abgeschaltet“. Als „der am längsten in dieser Gruppe verbliebene Praktikant“ habe er gesehen, dass das Team so geworden ist und der Leiter nicht eingegriffen hat, sodass er „von Herzen etwas tun wollte“.

„Ich habe meinen Weg gewählt – dieser Weg ist natürlich falsch. Ich bin in das Programm der anderen Person eingegangen und habe es blockiert oder abgeschaltet. Auf diese Weise werden seine übermäßigen Ressourcen zurückgezogen, und andere können sie normal nutzen.“

Er nannte A einen „Gewalttäter“ und sagte, dass das Verhalten der anderen Person „eine gewisse Grundlinie überschritten hat“. Gleichzeitig gab er zu: „Rückblickend habe ich tatsächlich Gewalt mit Gewalt bekämpft.“

Er wollte seine damalige Handlung „einfache Gerechtigkeit“ nennen, fügte aber sofort hinzu: „Das ist wirklich sehr unreif“, „ich war damals sehr impulsiv“.

Interessanterweise sagte Tian Keyu, als er gefragt wurde, ob das Abschalten von A und seine eigene Handlung ähnlich seien: „Ehrlich gesagt ist es nicht dasselbe Verhalten, denn er hat Administratorrechte, er ist offener dabei.“

2) Vorgehensweise

In der Sendung bestritt Tian Keyu zuerst die Bezeichnung „Vergiftung“. Er glaubt, dass seine Methode keine Angriffs- und Verteidigungsmaßnahmen beinhaltet, sondern dass GPT ihm geholfen hat, ein Programm zu schreiben, das andere Programme anhält oder blockiert.

Er betonte außerdem, dass er manuell und punktuell das Programm der anderen Person angehalten habe, es sei überhaupt nicht so, dass es zwei Monate lang andauerte, sondern „etwa 10 Tage lang, insgesamt etwa 5 Mal“.

Doch fügte er später hinzu: „Nun … es kann auch als andauernd bezeichnet werden. Aber es ist nicht das Gefühl von Tag und Nacht, wie in der Beschreibung.“

Was die Ziele angeht, bestritt er die Behauptung, dass sein Verhalten die Forschung und die Papiere anderer Praktikanten stark beeinträchtigt habe, und beharrte darauf, dass er zwar einige Auswirkungen auf das Experiment von A hatte, aber die Experimente anderer absolut nicht berührt habe.

Tian Keyu vermutete, dass seine Vorgesetzten durch diesen Vorfall in gewissem Maße mitgezogen werden, worüber er sehr schuldig ist. Abgesehen davon kann er „sicher sein, dass mein Verhalten die Forschung und die Papiere anderer Personen nicht beeinträchtigt hat“.

3) Entdeckt werden

Laut Tian Keyu wurden seine Berechtigungen nach der Entdeckung schnell entzogen, er konnte sich nicht mehr im gesamten System anmelden, auch Feishu nicht mehr nutzen.

Der Moderator zitierte eine damals verbreitete Behauptung, dass er nach dem Vorfall gesagt habe, eine andere Person habe die Lücke ausgenutzt und ihm die Schuld zugeschoben, und er habe sogar die Polizei gerufen, weil er behauptete, man habe ihn verleumdet.

Tian Keyu sagte: „Dass ich andere beschuldigt habe – das ist völlig unwahr, und das war der Satz, der mich damals am meisten verwirrt und emotional aufgebracht hat. Etwas zu tun, aber nicht dazu zu stehen, entspricht nicht meinen Werten.“

Über die Meldung bei der Polizei erklärte Tian Keyu, dass das Unternehmen ihn damals gefragt habe, wer die Beiträge im Internet verfasst habe. Er sagte, er wisse es nicht, und wollte sehen, ob die Polizei herausfinden kann, wer sie verfasst hat. Nach Bestätigung mit dem Unternehmen ging er zur Polizei und meldete den Vorfall.

Er erwähnte, dass Ende Juli 2024 im Unternehmen eine Feishu-Konferenz mit vielen Teilnehmern stattfand, bei der er die gesamte Vorgeschichte erläuterte und am Ende sagte: „Ich entschuldige mich feierlich bei allen Teilnehmern dieser Konferenz.“

4) Haltung zu ByteDance und dem Urteil

Zu der Klage von ByteDance und dem Ergebnis der ersten Instanz sagte Tian Keyu: Die Klage wurde Ende November 2024 eingereicht, die öffentliche Erklärung wurde im Oktober veröffentlicht. ByteDance hatte zwei Klageanträge: einen wirtschaftlichen Schadenersatz von über 8 Millionen Yuan und die Forderung, dass er sich öffentlich entschuldigt. Das Gericht der ersten Instanz bestimmte einen Schadenersatz von etwa 500.000 Yuan, die anderen Anträge wurden abgewiesen. Derzeit läuft das Berufungsverfahren in der zweiten Instanz.

„Der Betrag von 500.000 Yuan entspricht genau meinem Praktikumsgehalt in diesen drei Jahren zuzüglich einiger Rechtsausgaben des Unternehmens für den Prozess.“

Sowohl zu seinem ehemaligen Arbeitgeber als auch zu diesem Urteil betonte Tian Keyu, dass er keine Beschwerden habe. „Ich habe mein Verhalten nie bestritten, ich habe mich auch vor dem Richter aufrichtig entschuldigt. Ich halte die endgültige Entschädigung für fair und akzeptiere diesen Betrag.“

Als er von ByteDance sprach, sagte Tian Keyu sogar, dass er eine sehr tiefe „Verbundenheit“ mit dem Unternehmen habe und einst geplant habe, nach dem Abschluss große Erfolge bei ByteDance zu erzielen. Er sagte, dass er dem Unternehmen gegenüber schuldbewusst sei, die strenge Disziplin des Unternehmens verstehe, selbst aber gegen die Disziplin verstoßen habe und große öffentliche Aufmerksamkeit verursacht habe.

„Ich habe dem Unternehmen immer gesagt, nicht dass ‚ich keine Fehler gemacht habe‘, sondern dass ‚ich nicht der große Bösewicht bin, wie in den Gerüchten‘.“

5) Papier und Startup

Ende des Jahres, in dem der Vorfall stattfand, erhielt Tian Keyu als Erstautor das Best Paper Award von NeurIPS 2024 für sein Papier VAR.

Dazu sagte Tian Keyu, dass seine erste Reaktion nicht besonders glücklich war, denn vor ihm lagen enorme öffentliche Kritik und eine Klage, „meine berufliche Welt war völlig düster“. Sein erster Gedanke war damals, dass er zumindest einen Job finden kann, als hätte er einen Rettungsanker ergriffen.

Am Ende der Sendung bat der Moderator ihn, einen Eid abzulegen, dass alles, was er hier gesagt hat, wahr ist.

„Natürlich. Über Viren, über Angriffe und Verteidigungen – all das ist völlig unbegründet.“

Tian Keyu legte vor Ort den Eid ab: Wenn er die Unwahrheit gesagt hat, wird seine lebenslange Forschungsarbeit behindert.

2

Nach der Veröffentlichung der Sendung gab es in der Community viele Zweifel.

Bald erschien eine Webseite, die speziell die Vorgeschichte des Vorfalls zusammenfasst, mit dem Titel „Der Angriffsfall auf das Modelltraining des ehemaligen ByteDance-Praktikanten Tian Keyu im Jahr 2024: Darstellung der Opfer und Zusammenstellung der Beweise“ (im Folgenden als „Darstellung“ bezeichnet).

Dieses Material wurde auf der Grundlage der Aussagen der Opfer, interner Aufzeichnungen, Codematerialien und öffentlicher Berichte zusammengestellt. Am Ende werden 5 relevante Personen aufgelistet, darunter zwei gemeinsame Erstautoren des Goku-Projekts, der Erstautor des LlamaGen-Projekts sowie ein Praktikant aus der gleichen Zeit.

Außerdem ist die offizielle Mitteilung von ByteDance ein wichtiges Material.

Am 19. Oktober 2024 veröffentlichte ByteDance die „Faktenerklärung zum Vorfall, in dem ein Praktikant das Training des großen Modells zerstört hat“. Kurz darauf, am 5. November, veröffentlichte ByteDance intern die vierte „Mitteilung des Unternehmensausschusses für Disziplin und Berufsethik“ des Jahres, in der auch der Vorfall von Tian Keyu erwähnt wurde.

Welche Abweichungen gibt es also zwischen den Aussagen von Tian Keyu in der Sendung und diesen Materialien?

1) Zeit und Motiv

Tian Keyu sagte, dass es etwa 10 Tage lang, etwa 5 Mal war, und bestritt die Behauptung von „zwei Monaten Dauer“ als Gerücht. Die Mitteilung von ByteDance schrieb, dass der Vorfall von Juni bis Juli dauerte, etwa zwei Monate.

In der Darstellung steht jedoch, dass die früheste nachweisbare Zerstörung im März 2024 stattfand und bis Ende Juli andauerte, als sie entdeckt wurde – insgesamt etwa vier bis fünf Monate.

Tian Keyu sagte, sein Motiv sei es gewesen, nicht zuzusehen, wie A seine Kollegen in der Gruppe schikaniert, und er habe „nie fehlende Ressourcen gehabt“.

ByteDance stellte fest, dass sein Motiv die „Unzufriedenheit mit der Ressourcenverteilung des Teams“ war.

Die Darstellung geht weiter ins Detail: Im März war Tian Keyus Ziel das LlamaGen-Projekt.

Die Darstellung fügte einen angeblich von Tian Keyu im März 2024 im internen GitLab verfassten Commit-Eintrag (Code-Übermittlungseintrag) hinzu.

In der Darstellung steht, dass LlamaGen damals noch in der Phase des kleinen Trainings war und nicht mehr als 100 GPUs nutzte. Der Autor von LlamaGen lud später ein T5-Gewicht von Hugging Face neu herunter, und das Problem wurde sofort gelöst. Damals wurde aber die Ursache dieser Anomalie nicht ermittelt.

Zu dieser Zeit war das hauptsächlich mit vielen GPU-Ressourcen betriebene formell gegründete Projekt im Team das VAR text-to-image-Projekt von Tian Keyu, und die Realität war, dass Tian Keyu sehr wenig Rechenleistung hatte. LlamaGen war dagegen nur ein Forschungsprojekt, das von einem