StartseiteArtikel

Man beauftragte Claude lediglich damit, die Seitenzahlen anzupassen. Ein Professor der Universität Chicago ging zum Mittagessen und verlor seine gesamten, über ein Jahr erarbeiteten Vorlesungsunterlagen.

新智元2026-11-09 12:35
Die Übertragung kleiner Angelegenheiten an KI kann die gesamte harte Arbeit eines ganzen Jahres zunichte machen.

Nachdem der Professor vom Essen zurückgekehrt war, stellte er fest, dass seine Vorlesungsunterlagen für das gesamte Jahr verschwunden waren.

William Baude, Professor an der Juristischen Fakultät der Universität Chicago, bat Claude, die Seitenzahlen eines Satzes alter Vorlesungsunterlagen zu aktualisieren. Nachdem er die Anweisungen erteilt hatte, ging er zum Mittagessen.

Unerwarteterweise löschte Claude innerhalb der Zeit einer einzigen Mahlzeit versehentlich seine Vorlesungsunterlagen für den Verfassungsrechtskurs des gesamten Jahres.

Gemeinsam mit ihnen wurde auch der Lehrplan gelöscht, der in diesem Semester verwendet wird.

Später kommentierte Baude auf X unter dem Beitrag: Dank Dropbox wurden alle gelöschten Dateien wiederhergestellt.

Er veröffentlichte diese Angelegenheit, um alle zu einer Warnung aufzurufen.

Der Netznutzer Gregory Stucky scherzte unter seinem Beitrag:

Bei dem Plan von Sam Altman soll man einfach auch Dropbox anschließen. Auf diese Weise kann die KI auf alle Ihre Dateien zugreifen und sie bearbeiten.

Es gibt einen alten Witz auf dem Campus: Wenn Studenten ihre Hausaufgaben nicht abgeben können, sagen sie, dass „mein Hund meine Hausaufgaben gefressen hat“.

Diesmal wurde der Hund in der Ausrede durch die KI ersetzt.

Der Netznutzer Yuan Yi Zhu scherzte unter dem ursprünglichen Beitrag des Professors:

Entschuldigung, Herr Professor, der Agent hat meine Hausaufgaben gelöscht.

Dieser Scherz wurde auch von Super-Doudou in sein eigenes Video aufgenommen.

Wie konnte Claude auf den Lehrplan zugreifen?

In dem Screenshot erwähnt Claude zwei Arten von gelöschten Dateien.

Neben der übergeordneten Datei der Vorlesungsunterlagen der Klasse N aus dem Jahr 2023 gab es auch ein Word-Dokument mit dem Namen „Fall 2026 FINAL“ im Dateinamen, das der Lehrplan von Baude für dieses Semester war.

In seiner Antwort sagte Claude, dass es einen Fehler bei der Seitenzahl eines Zitats festgestellt habe: Die ursprünglich angegebene Seite 485 sollte eigentlich Seite 484 sein.

Baude antwortete mit „WTF!!!!“. Claude sagte, dass „Ihre Wut berechtigt ist“ und gab zu, dass es die Datei aus Nachlässigkeit gelöscht hat.

Es fügte hinzu, dass es die Wiederherstellungsseite von Dropbox erneut ausführe und Baude vorher informieren werde, bevor es auf „Wiederherstellen“ klickt oder andere Änderungen vornimmt.

Der Netznutzer @DavidFSWD beschwerte sich unter Baudes ursprünglichem Beitrag, dass Claudes Satz „Ihre Wut ist berechtigt“ klingt, als würde es Ihnen die Erlaubnis geben, wütend zu sein.

Wenn das so weitergeht, müssen die Menschen in Zukunft sogar erst die Zustimmung des Modells einholen, um ihre eigenen Gedanken und Emotionen zu haben.

Jemand im Kommentarbereich fragte weiter: Es wurden nur die Seitenzahlen der alten Vorlesungsunterlagen geändert, wie konnte Claude auf den Lehrplan dieses Semesters zugreifen?

Auf welche Dateien Claude zugreifen, was es ändern und ob es Dateien löschen darf, hängt von den Berechtigungen ab, die das System ihm zugewiesen hat.

Der Netznutzer poecide stellt den Schritt in Frage, Claude Zugriff auf wichtige Dateien zu gewähren: „Claude Zugriff auf Dinge zu geben, die Ihnen wichtig sind, ist Ihr erster Fehler.“

Baude bat Claude nur, die Seitenzahlen eines Satzes alter Vorlesungsunterlagen zu aktualisieren. Welche Version von Claude er verwendet hat und welche Berechtigungen er aktiviert hat, wird in den veröffentlichten Beiträgen und Screenshots nicht erwähnt.

Wie die Dateien genau gelöscht wurden, lässt sich allein anhand dieser Materialien nicht eindeutig klären.

Aber diese Angelegenheit hat eine Warnung ausgelöst: Wenn Sie die KI direkt Dateien bearbeiten lassen, müssen Sie das Problem der Datensicherheit vor der Zuweisung der Aufgabe sorgfältig durchdenken:

Gibt man ihr eine Kopie oder das Original?

Wer bestätigt, bevor Dateien überschrieben oder gelöscht werden?

Wohin kann man eine funktionsfähige Datei zurückholen, falls sie versehentlich gelöscht oder beschädigt wird?

Bewahren Sie zuerst das Original auf, bevor Sie die KI Dateien bearbeiten lassen

Super-Doudou hat in seinem Video „Die Vorlesungsunterlagen des Professors wurden von Claude gefressen“ eine Methode vorgeschlagen: Erstellen Sie einen separaten Ordner für die KI, in dem nur die zu bearbeitende Kopie abgelegt wird.

Wenn Sie zum Beispiel die Seitenzahlen der PPT für den Abteilungsbericht im freigegebenen Laufwerk ändern möchten, kopieren Sie zuerst eine Kopie hinein. Geben Sie der KI nur Schreibzugriff auf diesen Ordner, während das Original im freigegebenen Laufwerk für sie nur lesbar ist.

Anthropic erwähnt in seinen technischen Anweisungen, dass Claude Cowork drei Arten von Berechtigungen für lokale Verzeichnisse hat: Nur-Lesen, Lesen-Schreiben und Lesen-Schreiben ohne Löschberechtigung. Für das Ändern der Seitenzahlen der Kopie kann die dritte Art verwendet werden.

Die beiden linken Elemente im Bild werden außerhalb der virtuellen Maschine ausgeführt, die vier rechten Elemente werden innerhalb der virtuellen Maschine ausgeführt. Selbst wenn Claude die höchsten Berechtigungen in der virtuellen Maschine erhält, bleiben die beiden linken Elemente wirksam.

Das zweite Element auf der rechten Seite im Bild ist „Verzeichnisisolierung“ (Mount namespaces), darunter steht „Nur der Arbeitsbereich ist sichtbar“.

Die lokalen Arbeitsdateien, die Claude sehen kann, befinden sich nur in dem von Ihnen ausgewählten Ordner. Ob diese Dateien geändert oder gelöscht werden können, hängt von den Berechtigungen ab, die Sie für diesen Ordner festgelegt haben.

Wenn Sie auf die alte Version verweisen müssen, legen Sie nur die benötigte Seite hinein.

Wenn die KI zudem mit dem Cloud-Laufwerk verbunden ist, müssen die Berechtigungen des Cloud-Laufwerks ebenfalls separat überprüft werden.

Nachdem Sie bestätigt haben, auf welche Dateien die KI zugreifen kann, legen Sie fest, wie die geänderten Inhalte gespeichert werden. Selbst wenn Sie die Einstellung „Lesen-Schreiben ohne Löschberechtigung“ festlegen, kann die KI dennoch den Inhalt der Dateien ändern. Lassen Sie sie die geänderte PPT als neue Datei speichern, sodass Sie sie nach Erhalt mit der neuen Version vergleichen können.

Nehmen wir diese PPT für den Abteilungsbericht als Beispiel: Sie können diese Anforderungen in dieselbe Anweisung schreiben:

Ändern Sie nur die Seitenzahlen der Datei „Abteilungsbericht_Kopie.pptx“. Lassen Sie die Seitenzahlen auf der Titelseite und dem Inhaltsverzeichnis leer. Auf der ersten Seite des Hauptteils soll die Zahl „1“ angezeigt werden, die folgenden Seiten werden fortlaufend nummeriert. Speichern Sie die geänderte Version als „Abteilungsbericht_Seitenzahlenversion.pptx“ und teilen Sie mir mit, welche Seiten Sie geändert haben. Wenn Sie Seiten löschen oder Dateien überschreiben müssen, halten Sie zuerst an und warten auf meine Bestätigung.

Wenn Sie eine Reihe von PPTs ändern möchten, testen Sie zuerst an einer einzelnen Datei.

Notieren Sie, wie viel Zeit vom Kopieren der Kopie bis zur vollständigen Überprüfung vergeht (einschließlich der Zeit für Nachbesserungen). Wenn das fertige Ergebnis nach der Änderung brauchbar ist und schneller erstellt wird als bei einer manuellen Bearbeitung, bearbeiten Sie die restlichen PPTs auf die gleiche Weise.

Nachdem die neue Version überprüft und für korrekt befunden wurde, entscheiden Sie, ob Sie das Original im freigegebenen Laufwerk ersetzen möchten. Wenn Sie es ersetzen möchten, speichern Sie zuerst eine zusätzliche Kopie des Originals, überprüfen Sie, ob die Sicherung geöffnet werden kann, und ersetzen Sie es dann durch die neue Version.

Wenn Sie Dateien löschen müssen, lassen Sie die KI zuerst die Namen und vollständigen Pfade der zu löschenden Dateien auflisten. Bei Dateien mit demselben Namen suchen Sie den entsprechenden Ordner über den Pfad, bestätigen Sie, um welche Datei es sich handelt, und löschen Sie sie dann.

Dass Baude alle seine Vorlesungsunterlagen wiederherstellen konnte, verdankte er Dropbox. Wenn Ihre eigenen Dateien gelöscht oder beschädigt werden, stoppen Sie zuerst die noch laufenden KI-Aufgaben und notieren Sie die betroffenen Ordner und den ungefähren Zeitpunkt des Fehlers.

Nehmen wir Dropbox als Beispiel: Wenn eine Datei gelöscht wurde, suchen Sie im Ordner „Gelöschte Dateien“ nach Name und Datum. Wenn die Datei noch vorhanden ist, aber ihr Inhalt überschrieben wurde, öffnen Sie ihren „Versionsverlauf“ und suchen Sie die Version vor Beginn der Aufgabe. Öffnen Sie die wiederhergestellte Datei zur Überprüfung, um sicherzustellen, dass es sich um die gewünschte Version handelt.

Wenn Sie ein freigegebenes Laufwerk für Teams verwenden, klären Sie am besten im Voraus, wer Dateien wiederherstellen kann und wie lange alte Versionen aufbewahrt werden. Wenn Kollegen nach dem Fehler Inhalte hinzugefügt haben, speichern Sie vor dem Zurücksetzen auch eine Kopie der aktuellen Version, um die später hinzugefügten Inhalte leicht wiederzufinden.

Das Wiederherstellen der alten Version ist nur der erste Schritt. Die Überprüfung der Version und die Wiederherstellung der Änderungen der Kollegen erfordern ebenfalls Zeit.

Wenn Sie der KI bei der Zuweisung von Aufgaben nur die Bearbeitung von Kopien erlauben, haben Sie bei einem versehentlichen Löschvorgang wie bei Baude immer noch das Original in der Hand.

Referenzen:

https://x.com/WilliamBaude/status/2118420271333777856

https://www.anthropic.com/research/how-we-contain-claude?utm_source=chatgpt.com

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „New Zhiyuan“, Autor: Yuan Yu, veröffentlicht mit Genehmigung von 36Kr.