Wie kann man große Sprachmodelle dazu bringen, genauer zu denken

Im Juli 2026 suchte mich der Leiter der Informatikabteilung eines Krankenhauses der Klasse 3A auf, völlig verwirrt.

Sie hatten mit GPT-4 ein System für unterstützende Diagnose entwickelt, das bei Tests eine sehr hohe Genauigkeit aufwies. Doch zwei Wochen nach der Inbetriebnahme schlug der Leiter der Intensivstation mit der Faust auf den Tisch: Das KI-System schlug vor, einem Patienten mit erhöhtem Kaliumspiegel im Blut zusätzliches Kalium zu verabreichen.

Der Grund ist einfach – das Modell sah die Hinweise „Patient fühlt sich schlapp“ und „EKG-Abweichungen“ und verknüpfte diese nach statistischer Wahrscheinlichkeit mit einer Hypokaliämie, wobei es den Wert von 6,2 für den Kaliumspiegel im Blut auf demselben Laborbericht völlig ignorierte.

KI ist nicht unfähig zu denken, sie denkt nur auf eine falsche Weise.

Der KI-Index-Bericht der Stanford-Universität 2026 zeigt, dass selbst bei modernsten Modellen die Halluzinationsrate in komplexen Fachbereichen immer noch 15 % bis 30 % beträgt. Das bedeutet: Bei jeder zehnte Antwort gibt es ein bis drei Fälle, in denen die KI „ernsthaft Unsinn redet“.

Wie lassen sich große Modelle dazu bringen, genauer zu denken? Das ist das zentrale Thema im KI-Bereich des Jahres 2026.

I. Zuerst verstehen: Warum sind große Modelle nicht gut im „Denken“

Um die Denkfehler großer Modelle zu verstehen, muss man zuerst ihre Natur begreifen.

Die gängigen großen Sprachmodelle sind im Wesentlichen ein Wahrscheinlichkeitsgenerator. Sie sagen das nächste am wahrscheinlichsten auftauchende Wort anhand der statistischen Regeln in den Trainingsdaten voraus.

Nach dem Rahmen des Nobelpreisträgers für Wirtschaftswissenschaften Daniel Kahneman ist ein großes Modell im Grunde eine superstarke Version von „System 1“ – es verlässt sich auf Intuition und Assoziation, reagiert schnell, ist aber anfällig für Fehler. Es ist gut darin, „vernünftig klingende Sätze“ zu sagen, statt „garantierte richtige Sätze“ zu äußern.

Echtes logisches Schlussfolgern erfordert „System 2“ – langsam, ressourcenintensiv, aber fähig, Probleme zu zerlegen, Hypothesen zu überprüfen und sich selbst zu korrigieren.

Das Problem lautet: Große Modelle müssen vier Hürden überwinden, um von System 1 zu System 2 zu gelangen.

Vier Hürden:

①Unfähigkeit zur Zerlegung: Bei komplexen Problemen raten sie direkt zur Antwort, statt sie in kleine Schritte zu unterteilen

②Unfähigkeit zur Überprüfung: Wenn im Schlussfolgerungsprozess ein Fehler auftritt, können sie ihn nicht selbst erkennen, und der Fehler pflanzt sich bis zum Ende fort

③Unfähigkeit zum Zurückverfolgen: Sobald eine lineare Schlussfolgerung in eine falsche Richtung läuft, gibt es keinen Mechanismus, der sie zurückgehen und neu versuchen lässt

④Unfähigkeit zum Anhalten: Sie überdenken einfache Probleme und denken nicht genug über komplexe Probleme nach

Diese vier Hürden entsprechen genau vier Lösungsmöglichkeiten.

II. Vier Schlüssel: Lassen Sie das Modell vom „Raten“ zum „Denken“ übergehen

Erster Schlüssel: Chain-of-Thought (CoT) – Lassen Sie das Modell „etwas tiefer denken“

Im Jahr 2022 entdeckte das Team von Jason Wei bei Google Brain ein erstaunliches Phänomen: Fügt man im Prompt einfach den Satz „Lasst uns Schritt für Schritt denken“ hinzu, steigt die Genauigkeit des Modells bei mathematischen Schlussfolgerungen von 17,7 % auf 78,7 % sprunghaft an.

Das ist die Chain-of-Thought (CoT) – das Modell soll vor der Abgabe der Antwort zuerst die Schlussfolgerungsschritte aufschreiben.

Warum funktioniert das? Vier Gründe:

Erstens: Zerlegung. Große Probleme werden in kleine Schritte unterteilt, sodass jeder Schritt leichter richtig gelöst werden kann. Genau wie beim Lösen einer komplexen mathematischen Aufgabe ist das schrittweise Rechnen viel zuverlässiger als das Kopfrechnen.

Zweitens: Externes Gedächtnis. Die Zwischenschritte dienen dem Modell als „Notizblatt“, helfen ihm, den Schlussfolgerungsprozess zu verfolgen, sodass es nicht die Ausgangslage vergisst, bevor es zum Ende kommt.

Drittens: Erzwungene Darstellung. Das Modell wird gezwungen, den Schlussfolgerungsprozess explizit aufzuschreiben, sodass direkte „Raterei“ von Antworten reduziert wird.

Viertens: Möglichkeit zur Selbstprüfung. Während des Schlussfolgerungsprozesses kann das Modell die vorherigen Schritte noch einmal durchgehen, Widersprüche erkennen und diese rechtzeitig korrigieren.

Aber CoT ist nicht allmächtig. Seine Einschränkung liegt darin: Wenn in der Schlussfolgerungskette ein Fehler auftritt, pflanzt sich dieser bis zum Ende fort. Außerdem erhöht CoT bei einfachen Faktenfragen (z. B. „Was ist die Hauptstadt von Frankreich?“) die Latenz und die Kosten, was reine Verschwendung ist.

In einem Satz verstanden: CoT lässt das Modell von der „schnellen intuitiven Antwort“ zum „langsamen schrittweisen Denken“ übergehen, der Preis sind mehr Tokens und höhere Kosten.

Zweiter Schlüssel: Self-Consistency Sampling – Lassen Sie das Modell „mehrmals versuchen“

Die Schlussfolgerungskette von CoT kann Fehler enthalten. Was kann man dann tun?

Im Jahr 2022 schlugen Wang und Kollegen eine einfache und effektive Idee vor: Statt einer einzelnen Schlussfolgerungskette zu vertrauen, soll das Modell K Mal unabhängig aus verschiedenen Perspektiven ableiten, dann abgestimmt werden – die Antwort, die am häufigsten auftritt, ist mit hoher Wahrscheinlichkeit die richtige.

Dies nennt man Self-Consistency Sampling. Die zentrale Erkenntnis lautet: Komplexe Schlussfolgerungsprobleme haben oft mehrere korrekte Schlussfolgerungspfade. Wenn mehrere Pfade auf dieselbe Antwort hinweisen, ist das Vertrauen in diese Antwort höher.

Die gemessenen Daten sind überzeugend: Auf dem MATH-Benchmark beträgt die Genauigkeit bei einer einzelnen Schlussfolgerung 54 %, bei Self-Consistency Sampling mit K=5 erreicht sie 65 %, mit K=20 sogar 72 %. In Kombination mit CoT lässt sich die Genauigkeit um weitere 12-18 % steigern.

Aber der Preis ist direkt ersichtlich – die Kosten steigen linear. 20 Mal zu samplen bedeutet 20-fache Rechenaufwände. Deshalb eignet sich Self-Consistency Sampling für Szenarien mit definierten Antworten, begrenztem Antwortraum und sehr hohen Genauigkeitsanforderungen (mathematische Berechnungen, Codegenerierung, Faktenprüfung), nicht für offene kreative Aufgaben.

Es gibt noch ein Fallstrick: Wenn die Temperatur auf 0 gesetzt ist, verlaufen alle Samplungen auf demselben Pfad, und die Abstimmung ist sinnlos. Man muss eine hohe Temperatur von 0,7 bis 0,9 verwenden, um Vielfalt zu gewährleisten.

Dritter Schlüssel: Tree-of-Thoughts (ToT) – Lassen Sie das Modell „zurückgehen, wenn es nicht weitergeht“

CoT ist eine gerade Linie, man kann nicht zurückgehen, wenn man einen Fehler macht. Tree-of-Thoughts (ToT) entfaltet die Schlussfolgerung zu einem Baum – jeder Knoten ist ein „Denkzustand“, jede Kante ist ein „Schlussfolgerungsschritt“.

Beim Spiel 24 Punkte beträgt die Genauigkeit bei direkter Verwendung von GPT-4 nur 4 %, mit ToT kann sie auf 74 % sprunghaft ansteigen. Warum? Weil das Spiel 24 Punkte erfordert, verschiedene Kombinationen auszuprobieren, zurückzukehren und einen anderen Weg einzuschlagen, wenn es nicht weitergeht – das ist genau der natürliche Vorteil der Baumsuche.

ToT erlaubt drei Dinge, die CoT nicht kann: Verzweigung (Erkundung mehrerer Richtungen aus dem aktuellen Zustand), Rückverfolgung (Aufgeben aussichtsloser Zweige und Zurückkehren zum vorherigen Knoten), Bewertung (Beurteilung, wie weit der aktuelle Zustand vom Ziel entfernt ist).

Aber ToT ist eine „schwere Waffe“ – die Rechenkosten sind 10 bis 100 Mal so hoch wie bei CoT, die Anzahl der LLM-Aufrufe entspricht der Anzahl der Zweige multipliziert mit der Suchtiefe. Für Probleme, die CoT lösen kann, ist die Verwendung von ToT reine Geldverschwendung.

Vierter Schlüssel: Self-Refine / Reflexion – Lassen Sie das Modell „die gemachte Aufgabe selbst prüfen“

Der letzte Schlüssel ist die Selbstkorrektur. Der Kernprozess lautet: Generieren → Bewerten → Verbessern → Wiederholen.

Das Modell erstellt zuerst einen Entwurf, holt sich dann Feedback ein, korrigiert sich anhand des Feedbacks und wiederholt den Vorgang, bis es zufrieden ist oder eine Obergrenze erreicht ist. Bei der Codegenerierungsaufgabe HumanEval kann Reflexion die Genauigkeit um 24 % steigern.

Aber es gibt eine kontraintuitive Erkenntnis: Die Qualität der Feedbackquelle bestimmt die Obergrenze. Sortiert nach Zuverlässigkeit –

Sortierung der Feedbackquellen nach Zuverlässigkeit:

★★★★★ Codeausführung (Komponententests, Kompilierungsfehler)

★★★★ Regelprüfung (Formatvalidierung, Erfüllung von Einschränkungen)

★★★ Toolaufruf (Taschenrechner, Suchmaschine)

★★★ Menschliches Feedback

★★ Kreuzprüfung durch ein anderes LLM

★ Selbstbewertung desselben LLM (am schlechtesten, fehlt externer Bezug)

Das bedeutet, dass das Modell sich selbst am schlechtesten prüfen kann. Eine wirklich wirksame Selbstkorrektur erfordert externes Feedback – Komponententests, Compiler, Suchmaschinen, Regel-Engines oder sogar ein anderes Modell.

III. Wie wählt man die vier Schlüssel aus

Diese vier Schlüssel schließen sich nicht gegenseitig aus, sondern bauen aufeinander auf. Die korrekte Reihenfolge der Verwendung lautet –

① Zuerst direkt fragen (Baseline)

→ Genauigkeit nicht ausreichend? Fügen Sie CoT (Chain-of-Thought) hinzu

→ Noch instabil? Fügen Sie Self-Consistency (mehrfaches Sampling und Abstimmung) hinzu

→ Kombinierte / Suchprobleme? Verwenden Sie ToT (Tree-of-Thoughts) zur Erkundung

→ Gibt es eine externe Feedbackquelle? Verwenden Sie Self-Refine zur iterativen Verbesserung

Das zentrale Prinzip lautet: Zuerst einfach, dann komplex. Die meisten Produktionssysteme brauchen ToT überhaupt nicht. Probieren Sie zuerst CoT aus, und aktualisieren Sie erst, wenn es nicht funktioniert. Wenn man gleich die schwerste Waffe einsetzt, gibt man oft viel Geld aus, ohne die erwartete Wirkung zu erzielen.

IV. Paradigmenwechsel: Von der „Prompt-Engineering“ zum „Reasoning-Modell“

Die vier oben genannten Schlüssel verwenden Prompt-Tricks und Schlussfolgerungsstrategien, um die Genauigkeit zu verbessern, ohne die Modellgewichte zu ändern.

Aber seit Ende 2024 ist ein völlig neuer Weg entstanden – Reasoning-Modell.

Die o1/o3-Serie von OpenAI, DeepSeek R1 verlassen sich nicht mehr darauf, dass der Nutzer den Satz „Lasst uns Schritt für Schritt denken“ hinzufügt, sondern sie haben die Denkfähigkeit fest in die Modellgewichte integriert. Sobald das Modell eine Aufgabe erhält, entfaltet es automatisch Schlussfolgerungen, führt Selbstprüfungen durch und geht zurück, um Fehler zu korrigieren, wenn es sie erkennt.

Dahinter stehen drei technische Durchbrüche:

Durchbruch 1: Process Reward Model (PRM)

Beim herkömmlichen RLHF wird ein Outcome Reward Model (ORM) verwendet – die endgültige richtige Antwort bekommt eine hohe Punktzahl, die falsche Antwort bekommt null Punkte. Das funktioniert bei geisteswissenschaftlichen Kreationen, ist aber bei mathematisch-logischen Aufgaben eine Katastrophe. Denn eine richtige Antwort kann auf Umwegen erreicht werden, und eine falsche Antwort kann nur durch einen Fehler in einem einzigen Schritt entstehen.

Das Process Reward Model (PRM) bewertet jeden Zwischenschritt im Schlussfolgerungsprozess. Das zwingt das Modell, „ehrlich zu denken“, und reduziert logische Halluzinationen in Zwischenschritten stark.

Durchbruch 2: Scaling Law auf der Schlussfolgerungsseite

Früher glaubten wir, „je größer das Modell, desto klüger ist es“. Die o1/o3-Serie beweist ein neues Gesetz: Wenn man bei der Schlussfolgerung die Rechenmenge erhöht, kann ein Modell mit kleinen Parametern ein Modell mit großen Parametern besiegen.

Ein anschauliches Beispiel: Wenn man o3 10 Millisekunden zum Denken gibt, verhält es sich wie ein Oberschüler; gibt man ihm 10 Sekunden, ist es wie ein Doktorand; gibt man ihm 10 Minuten für eine tiefe Suche, kann es das Niveau menschlicher Experten übertreffen.

Das ist „Intelligenz durch Rechenleistung ersetzen“ – Intelligenz ist nicht mehr statische Parametergewichte, sondern ein dynamischer Suchprozess.

Durchbruch 3: Selbstspiel und emergente Reflexion

DeepSeek R1 wird mit reinem Verstärkungslernen trainiert und ist nicht auf menschlich annotierte Schlussfolgerungsschritte angewiesen. Das Modell hat bei mathematischen und Codeaufgaben selbstständig Schlussfolgerungsverhalten „erfunden“ – einschließlich Reflexion, Rückverfolgung und schrittweiser Überprüfung. Dieses emergente Verhalten war nicht Teil des Trainingziels, sondern eine natürlich entstandene Fähigkeit unter groß angelegtem Verstärkungslernen.

Noch beeindruckender sind die Kostendaten: DeepSeek R1 erreicht eine nahezu gleichwertige Schlussfolgerungsleistung zu weniger als 5 % der Kosten von OpenAI o3. Die MoE-Architektur mit 671B Parametern aktiviert nur 37B Parameter pro Token, und die API-Preise betragen nur 0,55 US-Dollar pro Million Tokens. Die Open-Source-Verfügbarkeit von Schlussfolgerungsfähigkeiten macht es mehr Unternehmen möglich, „denkende KI“ zu verwenden.

V. Praxiseinsatz in Unternehmen: Drei Verteidigungslinien, damit KI „keinen Unsinn redet“

Sowohl Prompt-Tricks als auch Schlussfolgerungsmodelle lösen nur das Problem „wie man denkt“. Aber im Unternehmenskontext hängt die Richtigkeit des Denkens auch