Es ist etwas dem Selbstwertgefühl geschadet, aber es lohnt sich so sehr. Karpathy: Als die KI 80 % des Codes übernahm, sah ich die Magie der AGI klar.

In den letzten ein oder zwei Monaten hat sich ein stummer Umbruch bei Andrej Karpathy, dem ehemaligen Leiter der KI bei Tesla und Gründungsmitglied von OpenAI, ereignet.

Im November letzten Jahres bestand sein Arbeitsablauf noch zu 80 % aus handgeschriebenem Code und zu 20 % aus Code, den er der KI überließ.

Nach nur wenigen Wochen hat sich dieses Verhältnis um 180 Grad gedreht!

Die KI übernimmt nun 80 % der Codearbeit, und er ist nur noch für die verbleibenden 20 % an symbolischer Feinanpassung zuständig.

Wie Karpathy sagt: „Ich programmiere jetzt im Grunde genommen auf Englisch. Obwohl es manchmal etwas an der Ehre rankt, ist das Gefühl dennoch unbezahlbar.“

Während die Öffentlichkeit die KI-Codierung noch im Stadium von „KI-schreibender Code hat Bugs“ sieht, hat Karpathy bereits erklärt: „Die neuesten und angesagtesten Programmiersprachen sind Englisch!“

Er hat seine einst stolz getragene Fähigkeit, Code per Hand zu schreiben, verlassen und stattdessen eine neue Programmierweise eingeführt: „Code per Englisch an die KI zu geben“.

Karpathy schrieb in einem Tweet, dass dies die größte Veränderung im Grundcodierungsarbeitsablauf in seinen zwanzig Jahren Programmierkarriere sei, und dass diese Veränderungen in nur wenigen Wochen passiert seien:

Ich schätze, dass bereits ein zweistelliger Prozentsatz der Ingenieure einer ähnlichen Veränderung unterliegt, während die Öffentlichkeit sich noch auf einem einstelligen Prozentsatz befindet.

Dies zeigt, dass dieser epische Umbruch in der KI-Codierung nicht nur ein Spiel für geniale Programmierer ist, sondern auch bei vielen normalen Programmierern und sogar Nicht-Codierungsingenieuren stattfindet.

Fast alle haben in der von Claude ausgelösten Welle das Gefühl, dass ihre Karriere neu geformt wird.

Wenn Programmieren zu einem „peinlichen“ Gespräch wird

Karpathy war sehr feinfühlig in seinen Worten, als er diese Veränderung beschrieb.

Er sagte, dass der gegenwärtige Programmierprozess ihn manchmal ein wenig „an der Ehre rankt“.

Ein Architekturprojekt, das zuvor eine ganze Woche eines Teams in Anspruch genommen hätte, kann jetzt einfach durch ein paar Worte auf Englisch an die KI erledigt werden, und der Code fließt wie ein Strom.

Vielleicht sah er die KI vor November letzten Jahres als seinen Beifahrer an, und 80 % der Arbeit musste er noch selbst per Hand schreiben.

Aber im Dezember, nach nur wenigen Wochen, hat er plötzlich festgestellt, dass die KI das Steuer übernommen hat, und er nun im Beifahrersitz sitzt, mit nur 20 % an Reparaturarbeiten.

Der Schock dieser „Rollenumkehr“ ist beispiellos. Selbst ein erfahrener Programmierer wie er fühlt sich manchmal „peinlich“ wegen des Gefühls der „Spaßes ohne Anstrengung“.

Aber diese Veränderung ist irreversibel.

Insbesondere nachdem Modelle wie Claude und Codex im Dezember letzten Jahres die Schwelle der „Konsistenz“ überschritten haben, hat dies einen Umbruch in der Softwareentwicklung ausgelöst.

Wenn die Qualität des Gesprächs (Prompt Engineering) die Qualität des Codes bestimmt, wird dieses „Englisch-Programmieren“ zu einer neuen harten Fähigkeit.

IDE / Agentenschwärme / Fehleranfälligkeit: Einige übertriebene Behauptungen

In diesem Tweet sprach Karpathy auch über seine Ansichten über die Rolle und die Grenzen der aktuellen generativen KI in der Programmierung.

Er fand, dass einige Behauptungen übertrieben seien, wie etwa „Mit der KI braucht man keine IDE (integrierte Entwicklungsumgebung wie VS Code) mehr“ oder die Hype um „Agentenschwärme“ (KI-Agenten, die wie ein Schwarm zusammenarbeiten).

Er räumte ein, dass die KI ein großer Fortschritt sei, aber das Modell sei immer noch fehleranfällig und nicht allmächtig.

1. Vertrauen Sie nicht zu sehr der KI, halten Sie wichtige Codes im Auge

Für wirklich wichtige Codes rät Karpathy, die IDE nicht zu wegschmeißen, sondern eine bequeme IDE auf einem großen Bildschirm zu verwenden, um die Ausgabe der KI zu überwachen, wie ein Adler seine Beute beobachtet.

Die Art der Fehler hat sich deutlich verändert. Es sind nicht mehr einfach Syntaxfehler, sondern eher konzeptionelle Fehler, die ein etwas unachtsamer und eilig arbeitender junger Ingenieur machen würde.

2. Das häufigste Problem der KI: Übermäßige Annahmen und fortlaufende Fehler

Die KI „erfindet“ selbst fehlerhafte Annahmen (z. B. missversteht Ihre Anforderungen) und schreibt dann ohne Überprüfung weiter, was dazu führt, dass das Ganze zusammenbricht.

Im Gegensatz zu einem Menschen, der anhalten und fragen würde: „Ich bin mir hier nicht sicher, können Sie das klären?“, zeigt die KI keine Widersprüche im Code, vergleicht nicht die Vor- und Nachteile verschiedener Lösungen und widerspricht Ihnen nicht, wenn Sie falsch denken.

Stattdessen versucht sie immer noch, Ihnen zu gefallen. Karpathy meint, dass der „Plan-Modus“ (Plan Mode, bei dem die KI zuerst plant und dann ausführt) besser wäre, aber es bräuchte eine einfachere, jederzeit einsetzbare, leichte Version dieses Plan-Modus.

3. Die KI macht einfache Dinge kompliziert

Beim Codieren neigt die KI dazu, übermäßig zu abstrahieren (zu viele Ebenen hinzuzufügen), die Struktur zu überladen (den Code zu „fetten“) und die abgelaufenen Codes (abgefallene Teile) nicht zu bereinigen.

Sie kann Ihnen tausende Zeilen ineffizienten, fehleranfälligen Codes ausspucken, und wenn Sie sie bitten, ihn zu vereinfachen, kann er auf 100 Zeilen reduziert werden.

Manchmal „macht sie sich auch um Dinge kümmern, die nichts mit der aktuellen Aufgabe zu tun haben“ und ändert oder löscht Kommentare und Codes, die sie nicht mag oder nicht vollständig versteht.

Selbst wenn man in der CLAUDE.md einige einfache Anweisungen verwendet, um diese Probleme einzuschränken, bleiben sie weiterhin bestehen.

Trotzdem hält Karpathy es für eine revolutionäre Verbesserung und kann sich kaum noch vorstellen, in eine Zeit der reinen Handcodierung zurückzukehren.

Wenn jemand sich an die KI-geholfen Codierung gewöhnt hat, fühlt es sich wie ein Rückfall in die Steinzeit an, wenn er wieder rein manuell coden muss, was sehr unangenehm ist.

Dies zeigt, dass die KI zwar mächtig ist, aber der Mensch sie intelligent einsetzen muss, um ihre Superkräfte entfalten zu lassen.

Die Magie der AGI - Die Wahrheit

Über die Beschleunigung hinaus

Es ist die Erweiterung der Fähigkeitsgrenzen

Wie stark die KI-Unterstützung die Programmierung beschleunigt, ist nicht leicht zu quantifizieren, aber Karpathy hat das Gefühl, dass er seine geplanten Aufgaben deutlich schneller erledigen kann.

Und es gibt noch wichtigere Veränderungen: Er kann Dinge tun, die weit über seine ursprünglichen Pläne hinausgehen:

Er kann Code schreiben, der früher nicht einmal die Mühe wert war;

Er kann Code bearbeiten, der ihm früher wegen fehlender Kenntnisse oder Fähigkeiten zu schwierig war.

Somit ist neben der Beschleunigung die wichtigste Veränderung, die die KI-Codierung für Karpathy bringt, die Erweiterung seiner Fähigkeitsgrenzen.

Die Zähigkeit der KI

Die wahre Magie kommt aus dem „geschlossenen Versuchskreis“

Was die KI-Agenten so beeindruckend für Karpathy macht, ist ihre Zähigkeit (Tenacity), ein Merkmal, das bei Menschen äußerst selten ist.

Karpathy hat beobachtet, dass wenn ein Code-Bug Menschen länger als 30 Minuten plagt, die meisten in Frustration, Angst und sogar in der Absicht, aufzugeben, geraten.

Aber die KI tut das nicht.

Sie ist wie ein unermüdlicher Repeater und kämpft unermüdlich gegen eine logische Lücke. Sie kann 50 verschiedene Lösungen versuchen, immer mit der gleichen Enthusiasmus wie am Anfang.

Die Ausdauer ist ein zentraler Engpass bei der menschlichen Arbeit, aber mit den großen Modellen wird dieser Engpass stark gelockert.

Während viele Menschen glauben, dass die Stärke der KI darin besteht, „alles zu wissen“, weist Karpathy darauf hin, dass ihre wahre Magie aus dem „geschlossenen Versuchskreis“ kommt.

Große Modelle sind sehr gut darin, in einer Schleife immer wieder zu versuchen, bis eine klare Zielbedingung erfüllt ist. Karpathy meint, dass dies der Ursprung der meisten „AGI-Gefühle“ ist.

Die Einschränkung des Menschen besteht darin, dass unsere geistige Belastung schnell zunimmt, wenn wir beim Codieren auf einen Fehler stoßen.

Aber der Vorteil der KI ist, dass sie unermüdlich ist. Wenn Sie ihr ein klares Ziel geben (z. B. „Diese Website muss ein funktionierendes Anmeldefeld haben“), kann sie 100 Mal in einer Schleife versuchen.

Diese Fähigkeit, „immer wieder zu versuchen, bis es klappt“, kommt in der Wahrnehmung sehr nahe an die menschliche Intelligenz (AGI-Gefühl).

Deklarative Anweisungen

Gebe das „Ziel“, nicht die „Route“

Diese Eigenschaft der KI, im „geschlossenen Versuchskreis“ bis zum Erfolg zu kommen, bedeutet, dass wir unser Denken von „imperativ“ (Imperative) auf „deklarativ“ (Declarative) umstellen müssen.

Teile ihr nicht die genauen Schritte mit, sondern gebe ihr die Erfolgsbedingungen und lasse sie dann selbst arbeiten.

Imperatives Programmieren (alte Denkweise): Sage der KI, dass sie zuerst die Datei öffnen soll, dann die Zeichenkette analysieren, dann die Leerzeichen filtern... Wenn einer der Schritte fehlschlägt, ist alles verloren.

Deklaratives Programmieren (neue Denkweise): Sage der KI: „Ich brauche ein Skript, das dieses CSV-Format verarbeiten und ein Diagramm ausgeben kann. Hier sind die Spezifikationen.“

Sobald Sie die „Erfolgsbedingungen“ klar definiert haben, wird die KI ihre Fähigkeit des „geschlossenen Versuchskreises“ nutzen, um jede Tür zu öffnen.

Testgetriebene Entwicklung (TDD) und Werkzeugintegration (MCP)

Karpathy erwähnte auch konkrete praktische Strategien.

1. Schreibe zuerst Tests, dann passe den Code an

Karpathy hält dies für die klügste Vorgehensweise.

Lasse die KI zuerst einen Code schreiben, der „überprüft, ob das Programm richtig ist“ (Testfälle).

Solange der Test nicht bestanden wird, muss die KI im Kreis weiterarbeiten. Der Test ist wie ein „Prüfer“ für die KI.

2. Führe MCP (Model Context Protocol) ein

Beispielsweise integriere die Browserfähigkeiten in die Schleife.

Sobald die KI den Code geschrieben hat, öffnet sie automatisch den Browser und führt ihn aus. Wenn sie einen weißen Bildschirm oder einen Fehler entdeckt, sieht sie die Fehlermeldung und geht zurück in die Schleife, um den Bug zu beheben.

Der Mensch muss dabei nicht eingreifen.

3. Hebelwirkung: Nutze die „Zeit der KI“ für die „Freiheit des Menschen“

Die Hebelwirkung bedeutet, dass man die Schleife der KI-Agenten länger laufen lässt.

Lasse die KI nicht sofort die komplexeste Architektur schreiben, sondern zuerst eine „dumme, aber richtige“ Version.

Mit diesem richtigen Grundsatz kann sie dann die Leistung optimieren.

So wird die Programmierkosten für jeden Menschen auf die wenigen Minuten reduziert, die man braucht, um die „Spezifikationen“ zu schreiben. Die KI kann im Hintergrund stundenlang in der Schleife versuchen, fehlschlagen und neu starten.

Unser Hebel liegt darin: Je kürzer die „Anweisungszeit“ ist, die Sie investieren, und je länger die „Schleifenzeit“ der KI ist, desto höher ist die Produktivitätsrate, die Sie erhalten.

Die Freude am KI-Programmieren und die „Verschlechterung durch Nichtgebrauch“

Die Freude, die das KI-Programmieren Karpathy bringt, hat ihn überrascht.

Er meint, dass das Programmieren mit KI-Agenten sogar noch interessanter ist als früher:

Wenn die vielen mühsamen, füllenden Aufgaben wegfallen, bleibt mehr Raum für kreative Arbeit, und er wird weniger blockiert (Karpathy findet, dass diese blockierte Erfahrung überhaupt nicht Spaß macht).

Außerdem hat er mit der KI mehr Mut, wenn er auf Probleme stößt, weil er fast immer eine Möglichkeit findet, zusammen mit ihr voranzukommen.

Karpathy meint, dass das KI-Programmieren die Ingenieure in zwei Gruppen aufteilen wird: Eine Gruppe, die hauptsächlich gerne „Code schreibt“, und eine andere Gruppe, die lieber „Dinge baut“.

Abgesehen von diesen Freuden und positiven Veränderungen hat Karpathy auch eine beunruhigende Veränderung bemerkt.

Er warnt vor der Verschlechterung durch Nichtgebrauch.

„Ich habe deutlich bemerkt, dass meine Fähigkeit, Code per Hand zu schreiben, allmählich abnimmt.“

Karpathy meint, dass wenn wir uns daran gewöhnen, nur zu beurteilen und nicht zu generieren (dies sind zwei verschiedene Fähigkeiten im menschlichen Gehirn), unser Gehirn wie ein Muskel wird, der durch lange Nichtgebrauch schwindet. Das heißt, die menschliche Fähigkeit, manuell zu programmieren, erleidet eine irreversible Verschlechterung.

Dies ist nicht nur das Verlust einer Fähigkeit, sondern auch eine tiefgreifende „