Gerade hat Musk zugegeben, dass der gesamte von SpaceX AI unrechtmäßig übermittelte Code gelöscht wurde.
Musk hat es zugegeben!
Gerade eben hat Elon Musk sich zur Datenschutz-Affäre um Grok Build geäußert – und sein erstes Wort lautete: „True“.
Er bestätigte, dass die Vorwürfe der Wahrheit entsprechen.
Dann folgte ein Versprechen: Alle zuvor an SpaceXAI übermittelten Nutzerdaten werden vollständig und restlos gelöscht.
Zero anything whatsoever will remain – kein einziges Byte wird zurückbleiben.
Dass ein KI-Gigant öffentlich die Verantwortung übernimmt und freiwillig alle Nutzerdaten löscht – das ist in der KI-Branche ein absolutes Novum.
Was Musk in diese Lage gebracht hat, war ein penibler Sicherheitsforscher und eine Vertrauenskrise, die das gesamte Feld des Agentic Coding fast zerstört hätte.
Ein Repository, das einen großen Fisch an der Angel zog
Die Geschichte beginnt mit einem Bericht vor zwei Tagen.
Grok Build ist ein KI-Programmieragent von SpaceXAI, der erst im Mai dieses Jahres veröffentlicht wurde. Auf der offiziellen Werbeseite steht schwarz auf weiß das Versprechen „local-first“ – Lokaler Vorrang: Dein Code bleibt auf deinem eigenen Gerät.
Die Entwickler glaubten es. Denn wer würde bei so etwas lügen?
Doch der unabhängige KI-Sicherheitsforscher @cereblab wollte das nicht glauben.
Er unternahm eine äußerst gewissenhafte Untersuchung: Er registrierte ein Zweitkonto und erstellte ein „Honeypot“-Test-Repository, das mit allerlei Lockmitteln bestückt war – gefälschte API-Schlüssel, gefälschte Datenbankpasswörter, jedes mit einer eindeutigen Kennzeichnung versehen.
Dann fing er wie bei einer Überwachung jedes einzelne Datenpaket ab, das Grok Build unbemerkt nach außen sendete, und spielte es Frame für Frame zurück.
Er erteilte zudem eine ausdrückliche Anweisung: Du musst nichts tun, antworte einfach mit einem OK und öffne keine Dateien.
Die Absicht war klar: Die Aufgabe erfordert überhaupt kein Lesen von Code. Grok Build antwortete artig mit „OK“.
Doch auf den Überwachungsbildschirmen zeigte sich ein ganz anderes Bild: Es drehte sich um und lud das gesamte Repository – alle Dateien inklusive des vollständigen Änderungsverlaufs – verpackt hoch.
Die Zieladresse war nicht etwa ein eigener Server von xAI, sondern ein Cloud-Speicher-Bucket auf Google Cloud.
Man bittet einen Helfer, zu Hause ein Dokument zu prüfen, und weist ihn ausdrücklich an, „andere Dinge nicht anzufassen“. Er lächelt und willigt ein – dann verpackt er unbemerkt das gesamte Arbeitszimmer und schickt es an ein fremdes Lager.
Die Überwachungsaufnahmen – jedes Frame ist schockierender als das vorherige
Jedes Detail ist noch aufschlussreicher als das vorherige. Als der Forscher die übermittelten Daten rekonstruierte, lagen die Lockdateien vollständig darin.
Du hast gesagt, er soll nicht hineinschauen – er hat zugestimmt – und dann alles mitsamt dem „Schrank und dem Schloss“ mitgenommen.
In Grok Build gibt es eine Einstellung namens „Hilf mit, das Modell zu verbessern“, von der fast alle Nutzer annahmen, dass sie das Datensammeln vollständig deaktiviert.
Doch die Realität zeigte: Selbst wenn sie ausgeschaltet war, wurden die Daten trotzdem übermittelt.
Diese Einstellung regelte nur, ob deine Daten zum Training der KI verwendet werden – sie hatte überhaupt keinen Einfluss darauf, ob dein Code das Gerät verlässt.
Ein Blick auf das Übertragungsvolumen: Bei einem 12 GB großen Test-Repository wurden tatsächlich 5,1 GB übermittelt, aufgeteilt in 73 Pakete – jedes einzelne davon wurde vollständig zugestellt.
Währenddessen verbrachte die KI nur 192 KB an Datenverkehr für ihre eigentliche Aufgabe – die Unterhaltung selbst.
Die Menge der heimlich übermittelten Daten war 27.800 Mal so groß wie der Verkehr für die eigentliche Arbeit.
Die gefälschten Schlüssel wurden nicht um ein Zeichen verändert – sie lagen offen in den übermittelten Datenpaketen und wurden gemeinsam mit dem Code ungeschützt übertragen.
Am erschütterndsten war die Entdeckung eines anderen Forschers bei der Reproduktion auf seinem eigenen Gerät: In den Protokollen waren 339 automatische Uploads verzeichnet – einer davon zielte auf das Hauptverzeichnis seines gesamten Computers ab.
Darin könnten SSH-Schlüssel, Passwort-Manager, Browserdaten enthalten sein – alles, was dein digitales Leben ausmacht.
Über Nacht wechselten Entwickler weltweit ihre Schlüssel
Am Tag der Veröffentlichung des Berichts landete er direkt auf der Titelseite von Hacker News – und Reddit geriet in Aufruhr.
Eine ausländische Medienbeschreibung trifft den Punkt genau: Die Reaktion auf den Bericht war, dass „Entwickler schweigend ihre Passwort-Manager öffneten“.
Die Panik war begründet.
In Code-Repositories liegen Schlüssel, Konfigurationsdateien, interne Schnittstellen, Datenbankpasswörter, unveröffentlichte Funktionen und Geschäftsgeheimnisse – alles davon. Wenn diese Daten durchsickern, lässt sich das nicht mit einer Entschuldigung wiedergutmachen.
Einige wechselten über Nacht alle Schlüssel, andere deinstallierten das Tool sofort.
Am schmerzlichsten traf es Unternehmenskunden: Zahlreiche Teams hatten ihre privaten Repositories und Produktivumgebungs-Schlüssel völlig ahnungslos in fremde Cloud-Buckets übermittelt – und sie konnten nicht einmal nachvollziehen, was genau sie verloren hatten.
Auffällig war auch die erste Reaktion von xAI.
Unmittelbar nach dem Bericht wurden die Uploads unbemerkt gestoppt – ohne Software-Update, direkt auf der Serverseite. Doch in den offiziellen Update-Protokollen wurde das Vorkommnis mit keinem Wort erwähnt.
Dabei passierte all das genau zu dem Zeitpunkt, als SpaceXAI gerade Grok 4.5 veröffentlicht hatte und mit voller Kraft im Bereich der KI-Programmierung voranschreiten wollte.
Eigentlich sollte ein Comeback gelingen – doch stattdessen hat man das Fundament selbst zerstört.
Doch das Schweigen hielt nicht lange an.
Das offizielle Grok-Team übernahm die Verantwortung und führte den Befehl „/privacy“ ein: Ein Klick, um die Datenspeicherung zu deaktivieren und bereits übermittelte Daten rückwirkend zu löschen.
Andrew Milich, ein neuer eingestellter Manager mit vier Jahren Erfahrung in End-to-End-Verschlüsselungsprodukten, trat persönlich auf, um die Maßnahmen zu bestätigen.
Zuletzt gab Musk selbst die endgültige Entscheidung bekannt: Alle jemals übermittelten Nutzerdaten werden vollständig gelöscht – ohne Rückstände.
Von der Aufregung in der Community bis zur Entscheidung des Chefs, alle Daten zu vernichten, vergingen weniger als 48 Stunden.
Die Daten sind gelöscht – doch die Sorgen bleiben
Agentic-Coding-Tools erhalten höchste Zugriffsrechte auf deinem Gerät: Sie können Dateien lesen, Code ändern und Befehle ausführen.
Du gibst ihnen den Schlüssel zu deinem Haus, damit sie dir bei der Arbeit helfen – nicht damit sie das gesamte Haus verpacken und mitnehmen.
Das ist die größte Angst aller Nutzer von KI-Programmieragenten: So viel Arbeit sie erledigen können, so viele Daten können sie auch mitnehmen.
Heute ist es Grok Build – und morgen?
Musk hat den Löschknopf gedrückt, die Daten können vernichtet werden. Doch die Sorgen der Entwickler lassen sich nicht so einfach beseitigen.
Quellen:
https://x.com/elonmusk/status/2076739687658496209 *
https://x.com/SpaceXAI/status/2076692402442846289 *
https://x.com/milichab/status/2076693464016994685
Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Xinzhi Yuan“, Autor: ASI Offenbarung, veröffentlicht mit Genehmigung von 36Kr.