Im Jahr 2026 ist diese die am wichtigsten Idee im Bereich Künstliche Intelligenz.
Das Divine Translation Bureau ist ein Übersetzungsteam unter 36Kr, das sich auf Technologie, Geschäft, Arbeitsplatz und Lebensbereiche konzentriert und vor allem neue Technologien, neue Ansichten und neue Trends aus dem Ausland vorstellt.
Redaktionelle Anmerkung: Künstliche Intelligenz wandelt sich von der "Dialogbox" in einen "Selbstentwicklungskreislauf". Wenn sich zeigt, dass 99 % der geistigen Arbeit nur überflüssige Hilfskonstruktionen sind, wird die Fähigkeit, "Absichten" klar zu definieren und zu überprüfen, der Markstein werden, der Spitzeneliten von Durchschnittlern unterscheidet. Dieser Artikel ist eine Übersetzung.
Nach etwa einer Woche intensiven Nachdenkens und der Teilnahme an der RSA-Konferenz glaube ich, dass es einige zentrale KI-Ideen gibt, die die aktuelle Situation in einer überwältigenden Weise verändern werden.
Automatische Komponentenoptimierung
Umstellung auf "Absichtsbasierte Ingenieurwissenschaften"
Von Unklarheit zur Transparenz
Erkenntnis, dass die meisten Arbeiten nur "Hilfskonstruktionen" sind
Diffusion von Fachwissen in das öffentliche Wissen
1. Automatische Komponentenoptimierung
Diese Idee ist eng verbunden mit Konzepten wie der Umwandlung von "aktueller Zustand" in "gewünschter Zustand", Algorithmisierung und allgemeiner Überprüfbarkeit.
Was diese Idee wirklich greifbar macht, ist das Autoresearch - Projekt von Karpathy.
Sein Projekt konzentriert sich auf die KI - Forschung selbst, d. h. "automatische Forschung an den 'Forschungsabschnitten' in der KI - Forschung". Das bedeutet, dass lästige und zeitaufwändige Aufgaben wie die Anpassung von Modellparametern, die Einstellung empfindlicher Umgebungen und die Kombination verschiedener Optionen automatisch bearbeitet werden.
In seiner Veröffentlichung müssen Sie nur einige Ideen in der Datei `PROGRAM.md` schreiben, und das System wird alle diese lästigen Aufgaben automatisch erledigen. Sie können einfach schlafen gehen, und das System wird mithilfe von maschinellem Lernen und Optimierungstechniken bessere Ergebnisse erzielen als Sie.
Erweiterung von Autoresearch
Es gibt jetzt "Autoresearch for X", was bedeutet, dass es zu einem Paradigma, einer Bewegung wird und im Wesentlichen zu einem universellen Werkzeug wird.
Es hat viele Menschen zum Nachdenken angeregt:
Kann ich eine ähnliche Methode in meiner aktuellen Arbeit anwenden?
Dies ist wirklich bemerkenswert.
Verbindung von Autoresearch mit meiner Forschung
Ich habe mich immer auf das Gesamtkonzept der "allgemeinen Überprüfbarkeit" oder "allgemeinen Bergsteigeralgorithmus (Optimierung)" konzentriert. Dies bezieht sich erneut auf das, was Karpathy vor langer Zeit in "Software 2.0" gesagt hat und auf einen seiner jüngsten Tweets, in dem er sagte, dass die Zukunft der Software darin besteht, dass alles überprüfbär ist.
Deshalb versuche ich in meinem PAI - Algorithmus, alles in "Kriterien für den gewünschten Zustand" aufzuteilen. Diese Kriterien bilden im Wesentlichen ein ideales Blueprint für das Ergebnis, das ich möchte.
Auf dieser Grundlage kann der Algorithmus ständig in Richtung dieses Ziels optimieren (Bergsteigen).
Alles ist bewertbar (Evals)
Damit verbunden ist das Konzept, dass "alles bewertbar" ist. Dies ähnelt stark meiner Idee der allgemeinen Überprüfbarkeit oder allgemeinen Bergsteigeroptimierung. Der Kerngedanke ist: Alles, was wir tun, wird messbar und, was noch wichtiger ist, verbesserbar.
Was es möglich macht, dass "alles bewertbar" ist, ist die Transparenz.
Allgemeiner Optimierungskreislauf
Dies wird das Standardbetriebsmodell für jede Firma, Organisation, Regierung und Person werden. Der Kreislauf sieht wie folgt aus:
Sie zeichnen alle Aufgaben, die Sie erledigen möchten, in einer zielgerichteten Struktur (Mission, Ziele, Arbeitsabläufe, SOP) auf. KI - Agenten führen diese Arbeitsabläufe aus. Alles wird umfassend protokolliert - einschließlich Ausgaben, Gesprächsprozessen, Endergebnissen und Qualitätssituationen. Wenn im Protokoll Fehler, Misserfolge oder Qualitätsprobleme erfasst werden, werden sie an den "Problem - Sammelpunkt" dieser Entität geleitet.
Dieser Sammelpunkt ist die Nahrungsquelle für den Selbstoptimierungsalgorithmus. Die Agenten ziehen aus diesem Punkt die Probleme heraus, erstellen ähnliche Autoresearch - Aufgaben, um die Störungen zu beheben, Lösungen zu versuchen, durch Bewertungen zu überprüfen und zu optimieren. Sobald eine Reparatur gefunden wird, aktualisieren sie die SOP, um sicherzustellen, dass das Problem nicht wieder auftritt. Dann wiederholt sich der Kreislauf.
Der Lebenszyklus von allem verläuft so. Ziele klar definieren. Von Agenten ausführen. Alles protokollieren. Misserfolge sammeln. Selbstständig verbessern. SOP aktualisieren. Immer wiederholen - und jedes Mal schneller als das letzte Mal.
2. Umstellung auf "Absichtsbasierte Ingenieurwissenschaften"
Die wahre Stärke der KI liegt darin, von dem "aktuellen Zustand" zum "gewünschten Zustand" zu gelangen. Definieren Sie den aktuellen Zustand, definieren Sie das Ziel, und lassen Sie die KI die Lücke zwischen aktuellem Zustand und Ziel schließen. Das Konzept ist einfach, aber es gibt eine Voraussetzung, bevor alles funktioniert: Sie müssen klar ausdrücken können, was Sie wirklich wollen. Es hat sich gezeigt, dass dies extrem schwierig ist. Wenn Sie nicht beschreiben können, was "gut" ist, können Ihnen auch die besten Werkzeuge nicht helfen.
Dies ist für Unternehmen ein großes Problem. Wenn Sie einem CEO fragen, wie ein ideales Sicherheitskonzept aussehen soll, erhalten Sie nur vage Beschreibungen. Wenn Sie einem Teamleiter fragen, was "Abgeschlossen" für ein Projekt bedeutet, erhalten Sie einen Text, und drei Personen werden drei verschiedene Interpretationen haben. Diese "Ausdruckslücke" besteht nicht nur zwischen Experten und KI, sondern auch zwischen Führungskräften und ihrer Organisation. Die meisten Unternehmen können nicht klar beschreiben, was sie tun, geschweige denn in messbare oder optimierbare Komponenten aufteilen.
Genau diese Fähigkeit habe ich in meinem Algorithmus entwickelt - eine Methode, um jeden Auftrag rückwärts in diskrete, testbare "Kriterien für den gewünschten Zustand" zu zerlegen. Jedes Kriterium besteht aus acht bis zwölf Wörtern, und die Beurteilungskriterien sind schwarz - weiß "Bestanden/Nicht bestanden". Sobald Sie diese haben, können Sie optimieren (Bergsteigen), bewerten und automatisierte Verbesserungen vornehmen. Aber alles beginnt damit, dass Sie genau sagen können, was Sie wollen. Dies ist die neue Ingenieurfähigkeit - nicht Programmieren oder Tipps schreiben, sondern die Absicht klar genug auszudrücken, um sie überprüfbär zu machen.
3. Von Unklarheit zur Transparenz
Unternehmen haben nie wirklich gesehen, was in ihrem Inneren passiert. Was sind die tatsächlichen Kosten eines Prozesses? Wie lange dauert es wirklich? Wie ist die Qualität der Ergebnisse? Wer macht die Kernarbeit, und wer macht die "Hilfskonstruktions" - Arbeiten außerhalb der Kernarbeit?
Die meisten Organisationen funktionieren auf Basis von "Gefühl" und Tabellen. Die KI macht alles sichtbar. Die tatsächliche Arbeit, die Kosten und die Qualität - all dies wird auf eine Weise messbar, die bisher überhaupt nicht möglich war. Sobald Sie es sehen, können Sie es verbessern. Dies gilt für Unternehmen, Regierungen, kleine Teams von drei Personen - für alles, worauf Sie sich konzentrieren.
Und die Transparenz zeigt zunächst, wie viel Arbeit eigentlich gar keine Kernarbeit ist.
4. Die meisten Arbeiten sind nur "Hilfskonstruktionen"
Die KI zeigt, dass 75 % bis 99 % der geistigen Arbeit tatsächlich "Hilfskonstruktions" - Verwaltungsaufwendungen sind. In Bereichen wie Sicherheitstests, Entwicklung und Beratung wird die meiste Zeit mit der Wartung von Werkzeugen, Arbeitsabläufen, Vorlagen und Wissensbeständen verbracht. Echte tiefe Denkarbeit macht nur einen sehr kleinen Anteil aus und wird von sehr wenigen Menschen in sehr wenig Zeit geleistet.
Die KI kann diese "Hilfskonstruktions" - Arbeiten vollständig übertreffen. Die Fähigkeiten von Agenten (Agent Skills) haben gezeigt, dass Sie alle Kontexte, Methoden und Werkzeuge zu einer Fähigkeit packen können, und die Leistung der KI kann nicht nur mit der von den meisten Fachleuten mithalten, sondern sie kann sogar übertreffen. Die Kernarbeit ist eigentlich nicht schwierig, sondern die Wartung der unterstützenden Hilfskonstruktionen.
5. Diffusion von Fachwissen in das öffentliche Wissen
Es gibt eine "Ausdruckslücke" zwischen dem Wissen, das Experten haben, und dem, das festgehalten wird. Die meisten Fachkenntnisse existieren nur im Kopf der Menschen. Zum Beispiel Cliff, der 62 Jahre alt ist, weiß, wie alles funktioniert, aber er hat es nie festgehalten. Wenn Cliff in den Ruhestand geht, geht dieses Wissen mit ihm verloren.
Was jetzt passiert, ist, dass Fachwissen aus den Köpfen in Fähigkeiten, SOPs, Kontext - Dateien und Open - Source - Projekte diffundiert. Sobald dieses Wissen festgehalten wird, geht es nie wieder verloren. Es ist wie Urinieren in einem Pool (unwiderruflich). Jede veröffentlichte Fähigkeit, jeder festgehaltene Arbeitsablauf, jede erfasste Expertenberichterstattung - alles geht für immer in den kollektiven Wissensbestand. Dies macht jede KI - Instanz schlauer. Nicht nur eine, sondern alle zugleich.
Es hat sich bereits eine große Branche entwickelt, die sich darauf konzentriert, Fachwissen in Modelle zu extrahieren, und die meisten Menschen wissen davon nichts. Dies ist ein unidirektionaler Klinkeneffekt. Menschen brauchen 20 bis 30 Jahre, um in einem einzigen Bereich tiefes Fachwissen aufzubauen. Sie vergessen, gehen in den Ruhestand oder wechseln den Job. Die KI kann jedoch alle erfassten Fachkenntnisse sofort aufnehmen, nie vergessen und unbegrenzt kopieren. Die Lücke zwischen Menschen und KI bei der Akkumulation von Fachwissen wird immer größer.
Auswirkungen
Automatische Optimierung ändert die Geschwindigkeit aller Dinge
Der Fortschritt in vielen Bereichen wird in einer unglaublichen Geschwindigkeit beschleunigt. Wenn Sie definieren können, was "gut" ist, und damit messen und automatisch iterieren können, kann Arbeit, die früher Monate lang manuell angepasst werden musste, jetzt in einer Nacht erledigt werden. Autoresearch hat dies in der maschinellen Lernforschung bewiesen. Dies gilt jedoch auch für Sicherheitskonzepte, Beratungsergebnisse, Inhalts - Pipelines, Einstellungsverfahren. Alles, was einen definierbaren "gewünschten Zustand" hat, kann autonom optimiert werden.
Jede Entität - Firma, Regierung, Team, Person - wird denselben Kreislauf durchlaufen: Ziele klar definieren, von Agenten ausführen, alles protokollieren, Misserfolge sammeln, selbstständig verbessern, SOP aktualisieren. Diejenigen Entitäten, die diesen Modus zuerst adoptieren, werden in einer unglaublichen Geschwindigkeit vorankommen, so dass die Verlierer gar nicht mehr mithalten können.
Absicht wird zum Engpass
💡 Diejenigen, die ihre Absicht klar ausdrücken können, haben einen großen Vorteil.
Die neue knappe Fähigkeit ist nicht Programmieren oder Tipps schreiben, sondern die Fähigkeit, genau zu sagen, was man will. Und dies muss eine hochwertige Absicht sein. Die Qualität der Ideen ist immer am wichtigsten, aber danach kommt die Fähigkeit, die Idee auszudrücken, sie in ein konkretes Ziel umzuwandeln und die gesamte Firma darum herum zu organisieren. Die meisten Führungskräfte können dies nicht, und die meisten Unternehmen auch nicht. Die Unternehmen, die dieses Problem zuerst lösen, können alle Optimierungswerkzeuge auf das echte Ziel richten, während andere noch über OKRs plaudern.
Alles wird transparent
Wir werden bald sehen, wie sich die Welt von der vagen "Gefühlsmäßigkeit" zu transparenten und optimierbaren Komponenten wandelt. Es wird immer weniger Platz für Betrüger und "Torhüter" in Branchen geben.