Großes Tutorial für Claude-Ingenieur-Agenten: Wie man vermeidet, durch übermäßige Nutzung von KI die eigenen Fähigkeiten vollständig verkümmern zu lassen

Die KI wird immer intelligenter, aber die Menschen werden immer fauler, selbst nachzudenken!

Gerade hat Addy Osmani, ehemaliger Direktor für KI bei Google Cloud und derzeitiger Ingenieur bei Claude Code, einen speziellen Artikel veröffentlicht, um dieses sehr schmerzhafte Problem zu erörtern.

Seiner Meinung nach sind die Ingenieure, die täglich Agenten anweisen, Code zu schreiben, möglicherweise unwissentlich in einen Zustand geraten – Kognitive Kapitulation (Cognitive Surrender).

Einfach ausgedrückt: Du glaubst alles, was die KI schreibt.

Der Code läuft, alle Tests sind grün, also winkst du ab und sagst: „Genehmigt!“.

Aber wenn jemand wirklich fragt, warum dieser Code so geschrieben ist, kannst du selbst keine Antwort geben.

Also beschloss dieser Ingenieur, der persönlich an der Entwicklung von KI-Programmierwerkzeugen mitgewirkt hat, allen einen interessanten Trick zu verraten:

Lasse den Agenten den Code schreiben und dir dann ein paar Fragen stellen, um dein Wissen zu prüfen.

Kannst du die Fragen nicht beantworten? Dann beeile dich nicht, den Code zusammenzuführen. (doge)

Je intelligenter die KI ist, desto leichter lassen sich Menschen „verderben“

Wer ist Addy Osmani?

Er hat seinen Master an der University of Warwick in Großbritannien absolviert, arbeitete zuvor mehr als 14 Jahre bei Google und war an Projekten für Entwicklerwerkzeuge wie Chrome DevTools und Lighthouse beteiligt. Heute ist er bei Anthropic tätig und arbeitet an Projekten im Zusammenhang mit Claude Code.

△

Außerdem ist er als bekannter produktiver Autor beliebter Tutorials bekannt.

Von Tipps zur Verwendung von Claude Code bis hin zu Agenten-Arbeitsabläufen und Code-Reviews veröffentlicht er fast regelmäßig neue Tutorials.

Diesmal aber richtet er seinen Blick auf ein immer realer werdendes Problem:

Werden Menschen die von der KI generierten Inhalte noch sorgfältig prüfen, wenn sie immer zuverlässiger werden?

Früher mussten wir beim Schreiben von Code selbst mühsam Informationen nachschlagen, Lösungen durchdenken und selbst debuggen.

Aber jetzt?

Ein Prompt geschickt, und der Agent erledigt die Arbeit möglicherweise in wenigen Minuten.

Schlimmer noch: Mit der Verbesserung der Modellfähigkeiten schreibt die KI Code, der immer überzeugender wirkt.

Nicht nur die Variablennamen sind standardisiert, die Logik erscheint auch stimmig und alle Tests sind grün.

So gewöhnen sich die Menschen allmählich daran, beim ersten Mal sorgfältig zu prüfen, beim zweiten Mal nur kurz hinzusehen und beim dritten Mal direkt auf „Genehmigen“ zu klicken…

Mit der Zeit wandeln sich die Menschen also von Personen, die selbst Code schreiben, zu Personen, die nur noch dem Agenten ihr Siegel aufdrücken.

△

Addy beschreibt diesen Zustand als Kognitive Kapitulation (Cognitive Surrender).

Sie geschieht nicht über Nacht, sondern verläuft in einem allmählich sich vertiefenden Prozess.

Anfangs handelt es sich möglicherweise nur um „kognitive Entlastung“: Wir übergeben nur konkrete Arbeiten an die KI, verstehen die Aufgabe aber selbst noch und können die Ergebnisse beurteilen;

Danach beginnt die „Abgabe der Urteilskraft“: Die von der KI gelieferten Antworten werden allmählich zur Standardgrundlage für die nächsten Arbeitsschritte;

Schließlich kommt es zur „kognitiven Kapitulation“:

Schon gut, die KI hat sicher recht, also hören wir auf sie.

An diesem Punkt übergeben wir auch alle Urteile, die wir eigentlich selbst treffen sollten, vollständig an die KI.

△

Addy nennt ein sehr typisches Beispiel:

Stell dir vor, der Agent reicht auf einmal einen Pull Request (PR) mit 600 Codezeilen ein.

Der Entwickler sieht, dass die Struktur klar ist und alle Tests bestanden wurden, also ist er beruhigt und führt den Merge durch.

Er weiß nicht, dass der Agent möglicherweise an einer unscheinbaren Stelle stillschweigend die Reihenfolge der Transaktionsverarbeitung geändert oder eine Randbedingung angepasst hat.

Diese Änderungen lösen damals keinen sofortigen Fehler aus.

Aber wenn das System wirklich Probleme macht, stellen die Entwickler plötzlich fest, dass sie nicht einmal erklären können, warum dieser Code so ausgeführt wird.

Das Schlimmste kommt noch.

Addy ist der Ansicht, dass die langfristige Nutzung von Agenten auf diese Weise auch eine neue Art technischer Schulden anhäuft – Verständnisschulden (Comprehension Debt):

Es wird immer mehr Code geschrieben, die Systemfunktionen werden immer komplexer.

Aber das Verständnis der Entwickler für den Code wächst nicht mit.

Wenn also wirklich eine Funktion geändert werden muss, merken alle plötzlich, dass dieses Code-Gebäude zwar fertiggestellt wurde, aber niemand mehr seine interne Struktur durchschaut – man kann sich nur ratlos ansehen, das ist total frustrierend.

Das bedeutet natürlich nicht, dass jede von der KI generierte Codezeile persönlich durchgelesen werden muss.

Addy erwähnt auch, dass das Claude Code-Team von Ingenieuren nicht verlangt, sich jederzeit das gesamte Code-Repository zu merken. Wenn ein Teil geändert werden muss, nutzen sie Claude, um die relevanten Logik neu zu verstehen.

Aber dafür gibt es eine Voraussetzung:

Du musst wissen, was du verstehst und welche Punkte du noch nicht verstanden hast.

Sonst kann der Code zwar schneller geschrieben werden, aber deine Verständnisschulden wachsen möglicherweise noch schneller.

Kleiner Trick gegen die Abhängigkeit: Lasse den Agenten uns umgekehrt prüfen

Jetzt stellt sich die Frage.

Die Agenten können jetzt so gut schreiben – wie können wir eigentlich mit ihrer Geschwindigkeit Schritt halten?

Addy teilt in seinem langen Artikel viele praktische Tipps aus seiner eigenen Erfahrung.

Der interessanteste Trick davon ist, den Agenten zum Prüfer zu machen.

Nehmen wir an, Claude hat gerade eine große Code-Änderung abgeschlossen.

Drücke nicht sofort auf „Genehmigen“.

Wir können ihn zuerst bitten, zusammenzufassen, welche Stellen genau geändert wurden und warum sie so geändert wurden. Dann soll er uns anhand der Änderungen ein paar Fragen stellen, und wir legen eine Regel fest:

Nur wenn alle Fragen der Prüfung richtig beantwortet wurden, darf der Code zusammengeführt werden.

Auf diese Weise verstehen wir wirklich, was wir genehmigt haben, und vermeiden unnötige Fehler.

Darüber hinaus teilt Addy noch weitere Tricks mit, die ich für euch zusammengefasst habe ( ￣▽￣)σ.

Trick 1: Bevor du einen Prompt schreibst, denke zuerst selbst nach und erstelle eine Anforderungsliste

Addy erwähnt, dass heutige Agenten wirklich zu gut darin sind, Anforderungen zu ergänzen.

Selbst wenn wir selbst noch nicht genau wissen, was wir wollen, liefern sie ein ansehnliches Ergebnis.

Aber genau hier liegt das Problem: Die unklaren Ziele, Einschränkungen und Kompromisse in den Anforderungen werden möglicherweise von der KI für dich entschieden.

Addy nennt diesen Zustand „Absichtsschulden“ (Intent Debt).

Daher empfiehlt er, vor der Aufgabenverteilung zuerst eine kurze Anforderungsbeschreibung in eigenen Worten zu schreiben.

Dazu gehört, für wen die Arbeit bestimmt ist, welches Problem gelöst werden soll, welche Dinge nicht erledigt werden müssen und welcher Grad der Fertigstellung das Ziel ist.

Denke zuerst gründlich nach, bevor du den Agenten mit der Arbeit beginnst.

Wenn du nach zwei aufeinanderfolgenden Anpassungen des Prompts immer noch nicht das gewünschte Ergebnis erhältst, solltest du zurückgehen und die Anforderungen neu ordnen, anstatt weitere Hinweise hinzuzufügen.