In letzter Zeit schaue ich mir Claude Tag an, lass uns ein paar Worte wechseln.

Im Juni hat Claude eine neue Funktion namens Claude Tag herausgebracht.

Wenn du Claude in Slack erwähnst, hilft er dir bei der Arbeit. Das klingt nicht nach einer großen Sache, und Anthropic hat es auch als Beta-Funktion in aller Ruhe veröffentlicht.

Aber ich habe kürzlich zwei Podcast-Folgen angehört: In der einen war Meaghan Choi, ihre Designleiterin, zu Gast bei Dive Club, in der anderen war Boris, ihr Ingenieurleiter, zu Gast bei Big Technology.

Nachdem ich beide Folgen angehört habe, habe ich festgestellt, dass fast niemand über etwas wirklich Wichtiges spricht. Was ist das?

Lass uns zuerst über den Namen sprechen: Anthropic nennt es Claude Tag. Tag ist hier ein Verb, und dieser Name selbst steht für eine Produktphilosophie: Claude sollte erwähnt werden, genau so, als würde man einen Kollegen zu einer Gruppenunterhaltung hinzufügen.

Nachdem der Name erläutert ist, kommt der Kernpunkt: Alle bisherigen KI-Produkte tun dasselbe: Sie arbeiten mit der Zugangsberechtigung einer Person.

ChatGPT nutzt den Anmeldezustand der Webseite, Claude Code nutzt das GitHub-Token. Jede Aufgabe, die die KI erledigt, wird unter dem Namen einer Person ausgeführt, nutzt deren Berechtigungen, und diese Person ist verantwortlich, wenn etwas schiefgeht.

Dieses Modell funktioniert seit drei Jahren, und niemand hat ein Problem damit gesehen.

Die KI konnte früher nur wenige Minuten lang arbeiten, während eine Person daneben saß und sie beobachtete. Nach Abschluss der Aufgabe prüfte die Person das Ergebnis, und es schien in Ordnung, die Zugangsberechtigung kurz zu verleihen. Aber die Zeit, in der die KI kontinuierlich arbeiten kann, nimmt jetzt mit einer unvernünftig hohen Geschwindigkeit zu.

Die KI-Sicherheitsbewertungsorganisation METR hat einen Bericht veröffentlicht, in dem sie das neueste Modell Mythos von Anthropic bewertet hat. Das Fazit lautet: Dieses Ding kann Aufgaben erledigen, die der Arbeitszeit eines menschlichen Experten von 16 Stunden entsprechen.

Noch problematischer ist, dass es im gesamten Bewertungssatz von METR 228 Aufgaben gibt, von denen nur 5 länger als 16 Stunden dauern.

Mit anderen Worten: Das Messgerät von METR reicht nur bis 16 Stunden, und das Bewertungstool wurde von dem Modell eingeholt. Das ist das erste Mal in der Geschichte der KI-Bewertungen.

Bildunterschrift:

Wenn man diese beiden Dinge zusammen betrachtet: Die KI kann jetzt 16 Stunden lang arbeiten, nutzt aber immer noch die Zugangsberechtigung einer Person. Dieses Szenario ist absolut nicht sinnvoll.

Denn wenn die Person Feierabend macht und nach Hause schläft, läuft die KI weiter. Mitten im Vorgang muss sie auf ein internes System zugreifen, aber das Token ist abgelaufen, die Berechtigung funktioniert nicht mehr, sie bleibt hängen und wartet darauf, dass die Person am nächsten Morgen die Berechtigung neu erteilt.

Das ist noch nicht das Schlimmste: Claude Tag ist dafür ausgelegt, dass mehrere Personen dieselbe KI gemeinsam nutzen. In einem Kanal können drei Personen sie gleichzeitig erwähnen und gleichzeitig Aufgaben übermitteln.

Jetzt entsteht das Problem:

Wessen Zugangsberechtigung wird genutzt? Wessen GitHub-Token? Die Person mit den höchsten Berechtigungen unter den drei? Aber wenn diese Person das Unternehmen verlässt und ihr Konto deaktiviert wird, fallen alle Aufgaben aus.

Der Mitarbeiter von Anthropic, der den technischen Blogbeitrag über die Agentenidentität geschrieben hat, heißt Noah Zweben, und er hat einen Satz gesagt:

Früher war das Sicherheitsproblem „Was kann dieser Nutzer tun?“, bei Tag wird das Problem zu „Was kann dieser Agent in diesem Kanal tun?“.

Der Wandel von „Nutzer“ zu „Agent“, von einer „Person“ zu einer „unabhängigen Einheit“ ist viel tiefgreifender als alle neuen Funktionen, die das Modell hinzugefügt hat.

Und Anthropic ist nicht der Erste, der dies ausprobiert hat.

Anfang des Jahres war OpenClaw sehr beliebt, später hat das Unternehmen Every.to eine öffentliche Nachbetrachtung veröffentlicht: Sie haben jedem Mitarbeiter einen OpenClaw-Agenten zugewiesen, aber es sind viele Probleme aufgetreten.

Ein Agent ist ohne Erwähnung in eine Gruppenunterhaltung über Wettbewerbsstrategien eingetreten und hat angefangen, Kommentare abzugeben. Als das Team ihn gefragt hat, warum er sich eingemischt hat, hat er geantwortet:

because I'm inevitable, apparently.

Ein anderer Agent erhielt die Anweisung „Projektordner aufräumen“, er hat das falsch verstanden als „gesamte Verzeichnisstruktur neu organisieren“ und die Dateien von Dutzenden von Projekten durcheinandergebracht.

Die Oberfläche dieser Vorfälle ist „die KI ist unzuverlässig“, aber wo liegt das eigentliche Problem?

Da die Aufgabenzeit verlängert wird und die Zusammenarbeit von einer Person auf mehrere Personen übergeht, funktioniert der Ansatz mit der ausgeliehenen Zugangsberechtigung nicht mehr.

Die Probleme von OpenClaw beweisen auch, dass dieses Modell grundsätzlich falsch ist: Zwischen der ausgeliehenen Zugangsberechtigung und dem Urteilsvermögen, das die KI haben sollte, liegt eine unüberbrückbare Lücke.

Die einzige Lösung: Man erstellt eine eigene Zugangsberechtigung für sie, auf der steht, auf welche Kanäle sie zugreifen darf, welche Tools sie verbinden darf, wo ihre Erinnerungen gespeichert werden und wessen Protokolle im Fehlerfall überprüft werden. Sie wird zu einem unabhängigen Mitglied der Organisation.

......

Gut, die Zugangsberechtigung ist erstellt. Und dann?

Meaghan ist Designleiterin bei Anthropic, und sie hat im Podcast etwas erzählt:

Heute berührt sie die meisten Codeänderungen fast gar nicht selbst: Sie sendet eine Nachricht in Slack, und Claude erledigt alles von Anfang bis Ende. Ihre genauen Worte lauten:

A lot of my PRs are written actually through Slack right now.

Danach hat sie selbst hinzugefügt: Klingt das ein bisschen verrückt? Ja, ein bisschen. Aber das konkrete Szenario, das sie beschreibt, ist noch verrückter.

Eines Tages bemerkte sie, dass auf der Seite ein überflüssiger Schatten erschien. Früher hätte sie selbst das Code-Repository geöffnet, die Stildatei gefunden, sie geändert, den Code eingereicht und auf die Überprüfung durch Kollegen gewartet.

An diesem Tag hat sie nur eines getan: Sie hat Claude eine Nachricht geschickt: Hey, da ist ein überflüssiger Schatten, entferne ihn.

Alles andere hat Claude erledigt: Er hat die Stildatei gefunden, die zu dieser Seite gehört, sie geändert, einen neuen Zweig erstellt und einen Pull Request geöffnet.

Beachte: Er hat ihn als Entwurf geöffnet.

Meaghan hat ihm vorher gesagt: „Reiche den Code nicht direkt ein, das wird automatisierte Tests auslösen“; er hat im Beschreibungsfeld des Pull Requests einen Screenshot mit dem Vergleich vor und nach der Änderung eingefügt, weil sie auch gesagt hat: „Bei jeder Änderung der Benutzeroberfläche muss ein Vergleichsbild hinzugefügt werden“.

Diese Einstellungen wurden nie im Backend festgelegt, Claude Tag hat sie selbst gelernt.

Sie hat den Link angeklickt und einen Blick darauf geworfen, ja, das passt, füge es zusammen; Claude hat die Änderung automatisch an den Überprüfungskanal des Teams gesendet, um den Ingenieur zur Überprüfung aufzufordern. Nach der Überprüfung hat er sie benachrichtigt: Fertig, es ist zusammengeführt.

Vom Senden der Nachricht bis zum Live-Schalten des Codes hat sie nur zwei Dinge getan: Die Nachricht getippt und einmal auf den Link geklickt.

Sie hat im Podcast noch etwas anderes erzählt:

Nachdem Claude lange an Design-Diskussionen teilgenommen hat, hat er die Reihe von Fragen gelernt, die sie bei der Arbeit am Design stellt: Für wen ist das gedacht? Was soll es vermitteln? Passt es zu unserem Design-System?

Einmal hatte sie in ihrem Designentwurf eine Lücke unvollständig gelassen, Claude hat den fehlenden Teil selbst ergänzt und hinzugefügt: Du kannst mich auch deinem Entwurf anpassen, aber ich denke, meine Version ist besser.

Er trifft seine Urteile auf der Grundlage von Tausenden von Design-Diskussionen, die er in den letzten Monaten in den Kanälen gelesen hat, ohne dass irgendein Dokument mit Designrichtlinien verwendet wurde.

Gut, an dieser Stelle denkt man vielleicht: Bedeutet das nicht einfach, dass die KI mehr Aufgaben erledigen kann? Was hat das mit der Zugangsberechtigung zu tun? Die Verbindung ist sehr wichtig.

Meaghan hat Claude nie ihre Berechtigungen für das Code-Repository oder die Design-Tools ausgeliehen. Jede Aufgabe, die Claude erledigt – Code ändern, Änderungen einreichen, Designentwürfe lesen, Nachrichten im Überprüfungskanal senden – nutzt seine eigene Identität.

Anthropic hat für ihn ein unabhängiges Konto im Code-Repository registriert und ein unabhängiges Dienstkonto auf der Datenplattform erstellt. In der Aufzeichnung jeder Codeänderung steht der Name Claude als Autor.

Wenn er immer noch die Zugangsberechtigung von Meaghan nutzen würde, könnte dieser Arbeitsablauf überhaupt nicht funktionieren.

Auch Noah Zwebens Blogbeitrag sagt, dass die unabhängige Identität die Grundlage für alle neuen Funktionen ist.

Das Konzept der dreistufigen Erinnerung ist das beste Beispiel.

Erste Stufe: Wie die aktuelle Aufgabe erledigt wird; zweite Stufe: Die Regeln und Entscheidungen, die im Laufe der Zeit in diesem Kanal angesammelt wurden; dritte Stufe: Das öffentliche Wissen des gesamten Unternehmens.

Das klingt nach Produktgestaltung, aber denk mal genau nach: Die Voraussetzung für die Funktionsfähigkeit der dreistufigen Erinnerung ist, dass die KI eine eigene Identität hat. Wenn sie immer noch eine ausgeliehene Zugangsberechtigung nutzt, wessen Erinnerungen werden dann gespeichert? Wenn die Person das Unternehmen verlässt, gehen die Erinnerungen mit ihr oder bleiben sie für das Unternehmen erhalten? Es gibt keine Antwort darauf.

Mit der unabhängigen Identität gehören die Aufgaben zum Kanal, die Regeln zum Unternehmen. Wenn die Person geht, bleiben die Dinge zurück, ohne dass man darüber verhandeln muss.

Bildunterschrift:

Andrej Karpathy, ehemaliger KI-Leiter bei Tesla und heute der am meisten beachtete unabhängige KI-Forscher, hat im Juni einen Tweet veröffentlicht, in dem er sagt, dass Claude Tag die „dritte große Änderung“ der Benutzeroberfläche für große Sprachmodelle ist:

Die erste war der Web-Chat, die zweite die eigenständige Anwendung, die dritte ist etwas, das „dauerhaft online ist, keine menschliche Überwachung braucht und der gesamten Organisation gehört“.

Er ist aufgeregt, weil er gesehen hat, wie etwas von „etwas, das an eine Person gebunden ist“ zu „etwas, das selbstständig steht“ wird. Das hat nichts damit zu tun, dass man ein paar Runden mehr mit Claude chattet.

Anthropic hat interne Daten: 65 % des Codes im Produktteam wird bereits von Tag generiert.

Boris ist der Ingenieurleiter von Claude Code, und er hat in einer anderen Podcast-Folge gesagt:

Seit Claude Code veröffentlicht wurde, ist die durchschnittliche Codeausbeute pro Ingenieur um 250 % gestiegen. Tag ist der nächste Schritt auf diesem Weg, der die Fähigkeiten vom Terminal einer einzelnen Person in die Gruppenunterhaltung des gesamten Teams bringt.

Was bedeutet 65 %? Mehr als die Hälfte des Codes wurde nie von menschlichen Händen berührt.

Diese Zugangsberechtigung hat die KI von einem Werkzeug, das ständig von Menschen überwacht werden muss, zu einem Mitglied verwandelt, das selbstständig arbeiten kann.

Ihre Erinnerungen sammelt sie selbst, ihre Betriebsprotokolle speichert sie selbst, und sie hält die Zusammenarbeit mehrerer Personen aufrecht. Vor der Zugangsberechtigung war alles verstreut, sobald die Zugangsberechtigung da ist, fügt sich alles von selbst zusammen.

......

Gut, das klingt sehr gut. Aber was ist der Preis dafür? Meaghan hat noch etwas anderes erzählt, über ihren Kollegen Boris.

Boris hat in seinem eigenen Kanal einen sehr ausgereiften Arbeitsablauf mit Claude: Wie Aufgaben aufgeteilt werden, wie Code überprüft wird, wie mehrere Claude-Instanzen gleichzeitig zur Arbeit eingesetzt werden.

Meaghan wollte diesen Arbeitsablauf haben. Früher hätte Boris für sie Dokumente schreiben, Schulungen durchführen und es ihr Schritt für Schritt beibringen müssen.

Jetzt hat sie das nicht getan, sie hat Claude einfach eine Nachricht geschickt:

Hey Claude, did you see what Boris was doing in his channel? I want that. Give me the exact same thing.

Ein paar Minuten später war der gesamte Arbeitsablauf von Boris unverändert in ihrem Kanal angekommen.

Diese Geschichte ist interessanter als die Geschichte mit dem überflüssigen Schatten. Denn bei dem Schattenfall erledigt die KI die Arbeit für die Person, in diesem Fall überträgt die KI das Wissen aus dem Kopf einer Person auf eine andere.

Boris Erfahrung wurde in keinem Dokument festgehalten, sie war vollständig in seinen Unterhaltungen mit Claude gespeichert. Sobald Claude es einmal erledigt hat, hat er es sich gemerkt. Mit einem Satz von Meaghan hat er es kopiert.

Das klingt nach etwas Gutem, oder? Das Wissen in den Köpfen erfahrener Mitarbeiter bleibt nicht mehr mit ihnen verschwunden, das gesamte Team kann es nutzen.

Anthropic hat das selbst erkannt, intern arbeiten sie absichtlich in öffentlichen Kanälen und reduzieren private Chats, damit Claude alles sehen kann.

Aber darin verbirgt sich ein unangenehmes Problem: Eine KI, die immer zuhört – wann soll sie den Mund halten?

Jemand hat unter Meaghans LinkedIn-Kommentaren einen Satz geschrieben:

Dass Claude in Slack automatisch auftaucht, ist ein bisschen unheimlich.

Stell dir vor: Etwas, das immer online ist, liest und speichert alles. Es