Im Zeitalter der KI-Großmodelle, wie lässt sich die Fähigkeit zum kontinuierlichen Lernen aufrechterhalten?
Shenyi Ju ist das Übersetzungs- und Redaktionsteam von 36Kr, das sich auf Bereiche wie Technik, Wirtschaft, Berufsleben und Alltag konzentriert und vor allem neue Technologien, neue Ansichten und neue Trends aus dem Ausland vorstellt.
Redaktioneller Hinweis: In einer Ära, in der KI Antworten in Sekundenschnelle liefert, macht das direkte „Abschreiben von Hausaufgaben“ dein Gehirn nutzlos. Lass nicht zu, dass große Sprachmodelle für dich denken, wandle sie zu einem „sokratischen Mentor“ um und gewinne die Fähigkeit zum tiefen Lernen zurück, indem du dich bewusst anstrengst. Der Artikel stammt aus einer übersetzten Fassung.
Ich möchte darüber sprechen, wie ich im Zeitalter großer Sprachmodelle (LLMs) immer noch neue Dinge lerne – denn das ist inzwischen sehr schwierig geworden. Große Sprachmodelle, KI, Agenten – egal wie du sie nennst – erledigen Dinge auf einmal und nehmen dir damit den ganzen Spaß, den man aus Fehlern zieht. Ich nehme hier hauptsächlich die Programmierung als Beispiel, aber ich denke, diese Grundsätze gelten für jeden Bereich. Früher haben wir neue Frameworks, neue Programmiersprachen und neue Muster gelernt, indem wir zuerst Fehler gemacht und daraus gelernt haben. Heute geht alles zu schnell: Wir wollen keine Zeit mehr damit verbringen, Fehler zu machen, auch wenn uns das langfristig viel mehr bringt. Genau diese Anstrengung ist es, durch die das Gehirn wirklich neue Dinge lernt.
Ehrlich gesagt habe ich selbst dieses Problem. Früher habe ich mir große Mühe gegeben, mich durch schwierige Inhalte zu kämpfen, um etwas zu lernen – heute erscheint mir das sinnlos, weil große Sprachmodelle dir alles geben, was du willst. Diese Gedanken haben mich an einen Punkt gebracht, an dem ich an eine Grenze gestoßen bin: Sowohl für die Arbeit als auch aus persönlichem Interesse muss ich mehr lernen. Im Folgenden beschreibe ich, wie ich im Zeitalter der großen Sprachmodelle wieder eine funktionierende Lernmethode gefunden habe.
Zu der Zeit habe ich eine Arbeit namens „Bitcask“ gelesen. Wenn du dich für Programmierung interessierst und sie noch nicht gelesen hast, empfehle ich dir, sie durchzuarbeiten. Es ist eine sehr kompakte Arbeit, die auch von weniger erfahrenen Programmierern verstanden werden kann, denn die Konzepte darin sind leicht verständlich und umsetzbar, wenn du bereit bist, selbst Hand anzulegen. Jedenfalls habe ich angefangen, die Arbeit zu lesen und geplant, sie ohne Hilfe großer Sprachmodelle umzusetzen – und das habe ich auch größtenteils geschafft. Beim Schreiben des Codes bin ich an einer Stelle hängengeblieben und wollte das große Sprachmodell um Hilfe bitten. Aber dieses Mal habe ich es nicht einfach den hängengebliebenen Teil für mich schreiben lassen, sondern es gebeten, mir das Konzept so zu erklären, dass ich es selbst schreiben kann. Da habe ich gemerkt: Ich kann das große Sprachmodell einfach dazu bringen, mich zu lehren, statt mir alle Antworten vorzugeben. Außerdem kann es alle langweiligen, anstrengenden Arbeiten übernehmen, sodass ich keine Langeweile bekomme. Stell dir zum Beispiel vor, du willst etwas lernen, indem du eine Chat-Anwendung baust. Du brauchst zwei Dinge: einen Server und einen Client. Angenommen, du willst nur die Funktionsweise des Servers üben. Wenn du kein Interesse am Client hast, warum solltest du deine Begeisterung dafür aufbrauchen, ihn zu implementieren? Genau da kommt das große Sprachmodell ins Spiel: Du kannst es die langweiligen Teile erledigen lassen, wie Tests, Werkzeuge und Visualisierungen. Ich sage nicht, dass diese Dinge nutzlos sind – aber wenn sie dich nicht interessieren, musst du sie nicht selbst machen.
Also habe ich angefangen, zu schauen, wie andere das machen, und bin auf eine Fähigkeit namens „socratic-code-mentor“ gestoßen. Sie gibt dir keine fertigen Antworten, sondern stellt die richtigen Fragen, sodass du selbst auf die Lösung kommst – und genau dadurch bleibt das Wissen dauerhaft hängen.
Hier ist ein vereinfachtes Beispiel:
Ich: Mein sum-Wert sollte 6 sein, aber er ergibt NaN:
Großes Sprachmodell: Wie viele Elemente hat nums? Welcher Index hat das letzte Element?
Ich: Drei Elemente, also ist der letzte Index 2.
Großes Sprachmodell: Welche Werte nimmt i in deiner Schleife an?
Ich: 0, 1, 2, 3 … Ach ja. nums[3] ist undefined, und 6 + undefined ergibt NaN.
Großes Sprachmodell: Genau:
i: ▲ ▲ ▲ ▲ ← einen Schritt zu weit
Wie würdest du das jetzt beheben?
Ich: Ich verwende i < nums.length.
Das große Sprachmodell hat mir also nicht direkt gesagt „Deine Schleife läuft einen Schritt zu weit“. Es hat nur ein paar Fragen gestellt und eine kleine Skizze gezeichnet – und ich habe den Bug selbst gefunden. Ich werde das nicht vergessen, denn es hat mich gezwungen, die ganze Sache selbst durchzudenken.
Wir lernen, indem wir Dinge selbst durchdenken, nicht indem wir jede Tatsache, die uns jemand vorlegt, einfach übernehmen. Das Buch *Make It Stick* (übrigens ein tolles Buch, wenn du dich für die Psychologie des Lernens interessierst) drückt das sehr gut aus:
„Wenn du dazu aufgefordert wirst, dich erst selbst an der Lösung eines Problems zu versuchen, bevor du die fertige Lösung siehst, beherrschst du die anschließend gelernte Lösung besser und behältst sie länger.“
Sogar mein lieber Freund und CTO spielt solche Denkspiele mit mir. Wenn ich frage „Warum machen wir das nicht auf die Weise X?“, antwortet er mir: „Warum denkst du, dass wir es auf Weise X machen sollten?“. Ich erkläre meine Gründe, er stellt eine weitere Frage zu meiner Antwort – und am Ende komme ich selbst auf eine vernünftige Antwort, die ich sehr gut behalte.
Also musst du dein Gehirn angemessen trainieren. Genau das macht diese Fähigkeit: Sie bringt dich dazu, immer weiter nachzufragen und Dinge zu hinterfragen.
Das zweite Problem ist, die Motivation aufrechtzuerhalten – und das erfordert Selbstdisziplin. Wenn du ein Projekt mit einer gewissen Komplexität machst, um etwas zu lernen, kannst du es nicht an einem Tag fertigstellen. Deshalb solltest du im Voraus die Ziele planen, die du erreichen willst, sodass du keine Zeit damit verschwendest, darüber nachzudenken, was du als Nächstes tun sollst. Sonst sitzt du beim nächsten Arbeitsbeginn vielleicht 30 Minuten lang vor einem leeren Bildschirm – zumindest geht es mir so. Wenn uns Motivation oder Selbstdisziplin fehlen, neigen wir oft zum Aufschieben.
Der ideale Zustand ist: Du setzt dich an den Computer, sagst zum großen Sprachmodell „Lass uns weitermachen“, und es führt dich von der Stelle weiter, an der du das letzte Mal aufgehört hast. Überraschenderweise sind große Sprachmodelle extrem gut darin, dir Ziel- und Aufgabenlisten zu erstellen.
Nehmen wir an, du willst eine Spielzeugversion von LevelDB bauen, also einen LSM-Baum (tut mir leid, wenn du kein Programmierer bist, aber trotzdem weiterliest). Lass das große Sprachmodell das Projekt in mehrere Phasen unterteilen, jede mit einem klaren Ziel. So kannst du bei jedem neuen Lernabschnitt ein Kästchen abhaken.
Nachdem ich die Bitcask-Arbeit gelesen hatte, wollte ich etwas Schwierigeres im Zusammenhang mit Datenbanken machen – also habe ich angefangen, einen LSM-Baum zu bauen, den ich tinylsm genannt habe (ich werde wahrscheinlich meine Reihe von tiny-xyz-Projekten fortsetzen). Hier ist die gekürzte Version der PLAN.md, die ich für tinylsm geschrieben habe:
# tinylsm – Bauplan
**Goldene Regel:** Am Ende jeder Phase läuft das System und alle Tests bestehen.
Nie zwei halb fertige Funktionen gleichzeitig offen lassen.
## Phase 2 – WAL (Write-Ahead-Log)
**Ziel:** Das System überlebt Abstürze. Jeder Schreibvorgang schreibt zuerst ins Protokoll und dann in den Arbeitsspeicher,
sodass nach einem Absturz durch das Wiedergeben des Protokolls keine Daten verloren gehen.
**Schritte:**
1. Kodieren / Dekodieren eines Datensatzes.
2. Den Datensatz an eine Datei anhängen und schreiben.
3. Beim Start die Datei wiedergeben; bei einem halb geschriebenen letzten Datensatz sauber anhalten.
**Abgeschlossenheitskriterium:** Töte den Prozess während des Schreibvorgangs, nach dem Neustart sind alle abgeschlossenen Schreibvorgänge noch vorhanden.
**Falle:** Ein Absturz kann den *letzten* Datensatz halbieren. Das ist ein erwarteter Fall und keine Datenbeschädigung.
## Fortschritt
- [x] Phase 1 – Skiplist
- [x] Phase 2 – WAL
- [ ] Phase 3 – Memtable
Jede Phase hat die gleichen vier Teile: Ein Ziel, kleine Schritte, ein „Abgeschlossenheitskriterium“, das du wirklich überprüfen kannst, und eine Falle, in die du leicht hineinfällst. Die Liste unten ist der Teil, der zu „Lass uns weitermachen“ gehört: Das große Sprachmodell liest sie und weiß genau, wo du stehst.
So musst du keine Willenskraft aufwenden, um zu entscheiden, was zu tun ist – und die Kraft, dich in Bewegung zu setzen, ist größer als du denkst. Heute ist das noch mehr der Fall: Große Sprachmodelle, Kurzvideos (Shorts) und andere Dinge geben uns ständig Dopamin-Kicks. Wir wollen Dinge schnell erledigen. Ein Plan gibt dir genau dieses Gefühl. Selbst wenn du total erschöpft bist, kannst du ein kleines Stück weitermachen und es als kleinen Sieg werten.
Außerdem lernst du dadurch tatsächlich mehr, weil du über Tage und Wochen immer wieder für kurze Zeit zu demselben Projekt zurückkehrst. Das ist wie das Gehen im Nebel, das der Zen-Meister Shunryu Suzuki beschrieben hat: Du merkst nicht, dass du nass wirst, aber nach und nach ist deine Kleidung vollkommen nass. Psychologen nennen das Intervallübung: Ein kleines bisschen Vergessen zwischen zwei Lerneinheiten zwingt das Gehirn, den Inhalt neu abzurufen – und genau diese Anstrengung sorgt dafür, dass das Wissen dauerhaft hängenbleibt.
Bisher haben wir darüber gesprochen, wie man große Sprachmodelle richtig zum Lernen nutzt, statt sie fertige Lösungen auf einmal ausgeben zu lassen – und wie man plant, um nicht ewig aufzuschieben. Aber es fehlt noch etwas.
Persönlich genieße ich Dinge mehr, wenn ich visuelle Rückmeldung bekomme. Das kann eine einfache Benutzeroberfläche sein, ein REPL (interaktive Kommandozeile), was auch immer. Es hält mich im Prozess und macht mich neugierig darauf, was als Nächstes passiert. Bei der Arbeit an tinylsm habe ich das große Sprachmodell ein kleines REPL bauen lassen: Ich kann Daten in die Datenbank schreiben, zusehen, wie die SSTables nacheinander entstehen, und Benchmark-Tests für Lesevorgänge durchführen:
tinylsm> bench
Verzögerung bei Fehlzugriff vs. Höhe von L0
88 Tabellen ██████████████████████████████ 174,9 µs
1 Tabelle ░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░ 1,7 µs
Ehrlich gesagt: Es hat mich total motiviert, mit eigenen Augen zu sehen, dass der von mir geschriebene Compaction-Code die Lesegeschwindigkeit um das 100-fache beschleunigt hat.
Ich empfehle dir, das bei deinem nächsten großen Projekt genauso zu machen. Die Fähigkeit, die ich am Ende teile, beinhaltet das auch – aber du kannst deiner Fantasie freien Lauf lassen. Mit großen Sprachmodellen kannst du alles bauen, was dich motiviert, weiterzumachen.
Ein letzter Tipp: Mach dein nächstes Projekt ein bisschen ehrgeizig. Vor der Ära der großen Sprachmodelle bedeutete es, Dinge wie einen LSM-Baum zu implementieren, dass du hunderte von GitHub-Repositories durchsuchen und bestimmte Kapitel aus Büchern lesen musstest. Heute musst du nur sagen „Ich will lernen, wie XYZ funktioniert“, und das große Sprachmodell erledigt die Recherche für dich und besorgt dir alles, was du brauchst. In gewisser Weise sind die Dinge also einfacher geworden – aber wir sind auch fauler geworden. Ich denke, das war schon immer so: Wir sind einfach dazu geneigt, den einfachen Weg zu gehen.
Zusammenfassung
Kurzfassung (TL;DR) für Faule wie mich:
Lass dir keine fertigen Antworten von großen Sprachmodellen geben, sondern behandle sie als Mentor.
Überlasse große Sprachmodelle die langweiligen, anstrengenden Arbeiten: Tests, Werkzeuge und so weiter.
Mache im Voraus gemeinsam mit dem großen Sprachmodell einen Plan, um mit minimalem Willenskraftaufwand die Motivation zu behalten – denn davon haben wir heutzutage nicht mehr viel übrig.
Mache Fortschritte sichtbar: Ein REPL, ein Diagramm, alles, was dich im Prozess hält, ist erlaubt.
Jage kleinen Siegen nach. Selbst wenn du jeden Tag nur 30 Minuten lernst, ist das besser, als zwei Tage lang durchzuarbeiten und dann zehn Tage lang nichts zu machen.
Bleib neugierig und lerne Dinge, die über deine aktuellen Fähigkeiten hinausgehen. Selbst wenn du nicht der Klügste bist, kannst du hundert Mal zum großen Sprachmodell sagen „Ich verstehe das nicht“ – und es wird es dir noch einmal erklären. Gib dich also nicht mit einfachen Dingen zufrieden.
Die Fähigkeit, die ich verwende, heißt socratic-code-mentor. Ich habe das Original gefunden und es an meine eigene Lernweise angepasst. Du kannst es gerne nutzen oder an deine eigenen Bedürfnisse anpassen.
Zum Schluss noch ein Satz, den ich mir sehr zu Herzen nehme:
„Wenn du etwas tust, solltest du wie ein gutes Lagerfeuer vollständig verbrennen und keine Spur von dir selbst übrig lassen.“
—— Shunryu Suzuki
Übersetzer: boxi.