Die Cache-Trefferrate beträgt 99,93 %, der am besten für DeepSeek geeignete Harness ist erschienen und hat auf GitHub beeindruckende 86.000 Star gesammelt.

Na gut, na gut.

Die offizielle Version von DeepSeek ist noch nicht erschienen, aber das von der Community entwickelte „beste Harness“ hat bereits die Führung übernommen! (Ich kann nicht mehr vor Arbeit, jpg.)

Das Projekt heißt „Pi“, ein quelloffener Programmier-Agent, der auf GitHub etwa 86.000 Stars gesammelt hat.

Der Grund für den riesigen Erfolg des Projekts liegt vor allem darin, dass es extrem kostensparend ist...

Schauen Sie sich den Entwickler Evan Kim an: Nachdem er DeepSeek in Pi integriert hat, treffen etwa 99,93 % der eingegebenen Tokens erfolgreich im Cache ein.

Mit anderen Worten: Die Cache-Fehltrefferquote beträgt nur 0,07 %, der Großteil der wiederholten Kontexte muss nicht neu berechnet werden???

Das Team von Composio hat kürzlich acht gängige Agent-Harness im Seitenvergleich getestet und DeepSeek V4 Flash direkt für die Ausführung echter Aufgaben eingesetzt.

Das Ergebnis ist etwas dramatisch –

Pi hat die niedrigsten durchschnittlichen Kosten für eine erfolgreiche Aufgabenerledigung und benötigt nur etwa 0,028 US-Dollar.

Claude Code: Warum bin ich plötzlich sieben Mal so teuer wie Pi!!!

DeepSeek: Meine Tokens sind bereits so günstig.

Pi und andere kostensparende Projekte: Keine Sorge, ich kann den Nutzern helfen, noch weniger Tokens zu verbrauchen.

Vier Tools in Kombination mit DeepSeek senken die Cache-Fehltrefferquote auf 0,07 %

Bevor wir über Pi sprechen, klären wir kurz, was Harness eigentlich ist.

Wir alle wissen, dass ein großes Sprachmodell eher wie ein Gehirn ist, das für das Denken zuständig ist –

Um es tatsächlich in einem Code-Repository arbeiten zu lassen, muss es mit Augen, Händen und einem Arbeitsablauf ausgestattet werden.

Zum Beispiel wer Dateien liest, wie das Terminal aufgerufen wird und wie Tests nach Codeänderungen ausgeführt werden – diese um das Modell herum angeordneten Ingenieursysteme werden gemeinsam als Harness bezeichnet.

Aus diesem Grund können sich bei demselben Modell nach dem Wechsel zu einem anderen Harness die tatsächliche Leistung und die Aufrufkosten stark unterscheiden!!!

Und das von dem Entwickler Mario Zechner erstellte „Pi“ erfüllt genau diese Aufgabe: Es baut eine solche Programmierarbeitsumgebung für große Sprachmodelle auf.

Ich habe das gesamte Projekt durchgesehen und kurz zusammengefasst: Die Idee von Pi ist sehr direkt –

Von Anfang an war nicht geplant, alle Funktionen in den Kern des Projekts aufzunehmen...

Im Standardzustand stellt Pi dem Modell nur vier Tools zur Verfügung – Datei lesen, Datei schreiben, Datei ändern und Befehl ausführen.

Wenn Nutzer den Planungsmodus, Sub-Agent, MCP, Git-Checkpoints oder Zugriffskontrolle benötigen, können diese nach und nach über Erweiterungen und Skills hinzugefügt werden～

emm… Es ist ungefähr so, als würde man zuerst ein Rohhaus mit voll funktionsfähigem Wasser- und Stromanschluss liefern: Pi baut die vier Wände, und am Ende kann der Nutzer selbst entscheiden, ob er es zu einem Studio, einem E-Sport-Raum oder einer Drei-Zimmer-Wohnung ausbaut???

Zufällig trifft das genau die Anforderungen von DeepSeek...

Wie allgemein bekannt ist, verfügt DeepSeek über starke Inferenz- und Programmierfähigkeiten, aber für Tool-Aufrufe, Kontextverwaltung und Wiedergabe von Denkinhalten gelten eigene Schnittstellenregeln.

Das führt dazu, dass die direkte Verwendung eines allgemeinen, für OpenAI oder Claude entwickelten Harness leicht zu Problemen wie inkompatiblen Tool-Formaten, Fehlern bei der Wiedergabe von Inferenzinhalten und ungültigem Cache führen kann.

Die offizielle Produktversion von DeepSeek ist noch nicht erschienen, aber Pi hat bereits die Anpassung vorgenommen –

Im April dieses Jahres hat Pi die native Unterstützung für den DeepSeek-Provider hinzugefügt und gleichzeitig den 400-Fehler bei der Wiedergabe von V4-Sitzungen behoben.

Es behält den reasoning_content gemäß den Anforderungen der DeepSeek-Schnittstelle bei und ordnet die interne Inferenzstufe von Pi den von DeepSeek unterstützen Denkstufen zu.

Es ist buchstäblich eine exklusive, von der Community entwickelte Anpassung.

Aber das, was Pi und DeepSeek wirklich perfekt zusammenpasst, ist der „Cache“.

Schließlich muss der Coding Agent bei jedem Schritt die Systemaufforderung, die Tool-Definitionen, den historischen Dialog und den Code erneut an das Modell senden – das führt dazu, dass

die Aufgaben des Modells immer länger werden und die Anfragen immer größer werden, wobei der Großteil des Inhalts DeepSeek eigentlich schon lange bekannt ist...

In diesem Fall kommt der automatische Präfix-Cache zum Einsatz.

Er merkt sich vorübergehend den Anfang der bereits berechneten Anfrage. Bei dem nächsten Aufruf können diese großen Inhalte direkt wiederverwendet werden, solange die Systemaufforderung, die Tool-Definitionen und der historische Dialog unverändert bleiben. Das Modell muss nur die neu hinzugefügten Informationen am Ende verarbeiten.

Die „Cache-Trefferquote“ misst, wie viele Tokens in dieser Eingabe die zuvor berechneten Ergebnisse erfolgreich wiederverwenden.

Je höher die Trefferquote ist, desto weniger Tokens müssen neu berechnet werden, und desto niedriger sind natürlich die Aufrufkosten.

Aber es gibt auch ein Problem: Wenn die Aufforderung eine zusätzliche Uhrzeit enthält oder die Reihenfolge der Tools geändert wird, kann der Cache sofort ungültig werden und die Berechnung muss von vorne beginnen.

Der Vorteil von Pi ist jedoch, dass es „einfach genug“ ist: Standardmäßig gibt es nur wenige Tools, der Sitzungsinhalt wird kontinuierlich nach hinten angefügt, und der vorherige Inhalt wird selten geändert.

Auf diese Weise kann DeepSeek Hunderte von bereits gelesenen Seiten im Protokoll direkt überspringen und nur die zuletzt hinzugefügten Seiten verarbeiten, sodass die Cache-Fehltrefferquote stark sinkt～

Wie der Nutzer Evan Kim anschaulich gezeigt hat –

Nach der Integration von DeepSeek in Pi beträgt die Cache-Fehltrefferquote nur 0,03 %, was einer Cache-Trefferquote von etwa 99,97 % entspricht.

Umgerechnet betragen die Kosten für die Verarbeitung von einer Milliarde Tokens nur etwa 19 Yuan. Ohne Verwendung des Caches würden die Kosten über 900 Yuan betragen...

Darüber hinaus hat das Team von Composio kürzlich acht gängige Agent-Harness im Seitenvergleich getestet und DeepSeek V4 Flash direkt für die Ausführung echter Aufgaben eingesetzt.

Das Ergebnis ist ziemlich dramatisch: Bei demselben DeepSeek kann der Kostenunterschied nach dem Wechsel zu einem anderen Harness bis zum Siebenfachen betragen???

Auf den ersten Blick ist klar, dass der „Durchschnittskosten“ des Pi Agent für eine erfolgreiche Aufgabenerledigung am niedrigsten ist – er beträgt nur etwa 0,028 US-Dollar.

Darauf folgen Deep Agents, Hermes Agent, OpenCode, Codex, Oh My Pi und Prime Agent.

Schauen wir uns Claude Code, das beliebte Produkt von Anthropic, an: Es ist zweifellos der „teuerste Teilnehmer“ –

Für eine erfolgreiche Aufgabenerledigung fallen durchschnittlich etwa 0,195 US-Dollar an, also fast sieben Mal so viel wie bei Pi... (Das ist ja der Wahnsinn)

Natürlich bedeutet diese Zahl nicht, dass Claude Code weniger leistungsfähig ist, schließlich ist es selbst ein komplettes Ingenieursystem, das für das Claude-Modell entwickelt wurde.

Es bedeutet nur, dass nach dem Austausch des zugrundeliegenden Modells gegen DeepSeek der Arbeitsablauf, der ursprünglich für die Claude-Ökosystem optimiert wurde, die Vorteile von DeepSeek wie niedrige Kosten und hohe Cache-Effizienz nicht vollständig nutzen kann.

Das Modell ist immer noch dasselbe DeepSeek – Pi lässt es nur bereits gelesene Inhalte nicht mehrmals neu lesen.

Pi: Ich warte nur darauf, dass das offizielle Harness mich übertrifft.

Das offizielle Harness-Team wurde gegründet, Ziel ist es, Claude Code zu erreichen

Natürlich ist Pi, so gut es auch zu DeepSeek passt, derzeit immer noch eine Drittanbieterlösung.

Schließlich hat DeepSeek selbst bereits beschlossen, selbst ein eigenes Harness zu entwickeln, und es ist sehr wahrscheinlich, dass es bald veröffentlicht wird? (Meine Vermutung)

Im Mai dieses Jahres bestätigte Chen Deli, erfahrener Forscher bei DeepSeek, dass das Unternehmen intern ein Agent-Harness-Team aufbaut. Sein Ziel lässt sich in einem sehr direkten Satz zusammenfassen –

Wir entwickeln das DeepSeek Code Harness von Grund auf neu, mit dem Ziel, mit Claude Code gleichzuziehen.

In den folgenden Monaten wurden auf der offiziellen Website massenhaft Stellen für Produktmanager und Entwicklungsingenieure im Bereich Harness veröffentlicht, ungefähr so:

Ende Juli hat Cui Tianyi, Leiter des DeepSeek Agent Harness-Teams und ACM-Goldmedaillist, im Internet Entwickler für das entsprechende Projekt rekrutiert.

Es ist fast so weit, dass das Projekt fertig wird.

Wenn man alle Hinweise zusammennimmt, wird der Weg von DeepSeek allmählich klar.

Die V4-Version stärkt die zugrundeliegende Inferenz-, Programmier- und Agent-Fähigkeit; das offizielle Harness verbindet das Modell mit Terminals, Code-Repositories und Toolketten; die Kontextverwaltung und Testrückmeldungen können die fehlgeschlagenen Fälle echter Nutzer zurück an das Modellteam liefern.

Natürlich wird Pi nach der Veröffentlichung des offiziellen Produkts nicht überflüssig.

Das offizielle DeepSeek Harness ist auf sofortige Einsatzbereitschaft und eine tiefere Zusammenarbeit mit dem eigenen Modell ausgelegt.

Pi hingegen überlässt die Arbeitsumgebung den Nutzern zur individuellen Anpassung und eignet sich besser für Entwickler, die die Tools kontrollieren, den Arbeitsablauf anpassen und das Modell jederzeit wechseln möchten.

Schließlich hat Pi sich von Anfang an nicht ausschließlich an DeepSeek gebunden...

Claude, OpenAI, Gemini, Kimi, MiniMax und andere werden alle unterstützt. Heute spart man mit DeepSeek Tokens, morgen wechselt man zu einem anderen Modell für spezielle Aufgaben – die Nutzer können den Provider jederzeit wechseln.

Das bedeutet auch, dass das offizielle DeepSeek Harness nicht nur mit einer Reihe von Produkten im Stil von Claude Code konkurrieren muss, sondern auch mit offenen Arbeitsumgebungen wie Pi, die von Entwicklern bereits sehr komfortabel angepasst wurden. (doge)

Jetzt liegt der Druck also bei der offiziellen Version –

Das von DeepSeek selbst entwickelte Harness kann doch nicht schlechter darin sein, Tokens zu sparen, als die Drittanbieterlösung??? (doge)

Referenzlinks: