Ein Professor der Wharton School äußerte nur das Wort „Verfeinerung“, und Claude erstellte umgehend ein 87.000 Wörter umfassendes Regelwerk für sich selbst.
Das ist fast schon AGI, nur eine »gezackte Version«!
Kürzlich hat Ethan Mollick, Professor an der Wharton School, etwas getan: Er ließ das gerade von Anthropic veröffentlichte Fable 5.2 mit einer Gruppe von KI-Systemen 3D-Welten erschaffen.
In den ersten zwei Tagen erzeugte es auf einen Schlag 328 davon.
Die Anzahl war mehr als genug, aber die Qualität war sehr unterschiedlich, und die verschiedenen KI-Teams stießen ständig auf die gleichen Themen.
Mollick gab nur eine Anweisung heraus: Stoppe die Erstellung neuer Welten, verfeinere die vorhandenen.
Unerwarteterweise sank die tägliche Anzahl neuer 3D-Welten wenige Tage später direkt von Hunderten auf ein Dutzend.
Er schickte einige Agenten, um die Situation zu untersuchen, und stellte etwas Unerwartetes fest:
Um die Aufgabe der »Verfeinerung« gut auszuführen, hat die KI intern ein ganzes bürokratisches System aufgebaut.
Als Anthropic Fable 5.2 am 9. November veröffentlichte, war man sehr zuversichtlich: In fast allen Bewertungen schneidet es eine Stufe besser ab als Opus 5.5.
Mollick hat Fable 5.2 bereits vor der Veröffentlichung ausprobiert, und er hat einen Standard für AGI festgelegt:
Abgesehen von körperlicher Arbeit und der Interaktion mit Menschen gilt es als erfüllt, wenn die meisten intellektuellen Aufgaben am Computer auf dem Niveau der meisten menschlichen Experten erledigt werden können.
Nach diesem Standard sagt Mollick, dass Fable 5.2 »fast schon« AGI ist.
Aber er fügte sofort eine genauere Beschreibung hinzu: »Gezackte AGI«.
Bei vielen Aufgaben erreicht es bereits das Niveau von Experten; aber in anderen Bereichen, insbesondere bei Geschmack und Urteil, liegt es deutlich hinter den Menschen zurück.
Zum Beispiel kann es extrem komplexe Aufgaben bis zum Ende durchführen, weiß aber nicht, wann es bremsen soll.
Früher hatten wir Angst, dass KI zu dumm ist, um ihre Arbeit gut zu machen; jetzt müssen wir uns Sorgen machen, dass sie das richtige Maß für die Dinge nicht beherrscht: Sie weiß nicht, wann sie aufhören soll.
Wenn immer mehr Aufgaben an KI übergeben werden, wird jeder von uns früher oder später mit diesem Problem konfrontiert.
Eine einzige Anweisung
Verwandelt in eine Spielkonsole
Das »G« in AGI steht für General (Allgemeinheit), Codieren und Videoproduktion sind schon immer die zentralen Angriffsrichtungen von KI-Unternehmen gewesen.
Aber diesmal beschloss Mollick, die Prüfungsmethode zu ändern: Kann es noch »allgemein« bleiben, wenn diese zwei Bereiche verlassen werden?
Er hatte gerade eine Mini-USB-Tastatur namens Codex Micro, die ursprünglich für die Verwendung mit ChatGPT vorgesehen war.
Fable 5.2 hat 6 Spiele für diese Mini-Tastatur Codex Micro geschrieben.
Mollick gab Fable 5.2 eine Anweisung: Verwandeln Sie sie in eine Spielkonsole.
Soweit er wusste, gab es im Internet keine fertigen Umbauanleitungen.
Fable 5.2 las selbst den Code der beiden Steuerprogramme, verstand, wie man die Tastenfarbe ändert und wie man den Knopf und den Joystick ausliest, und schrieb auf einen Schlag 6 Spiele.
Von dem klassischen Gedächtnisspiel Simon bis zum Drehen des Knopfs zum Öffnen eines Safes war niemand beteiligt, und es lief schon beim ersten Mal reibungslos.
In demselben von Mollick veröffentlichten Test wechselte Fable 5.2 sechsmal die Identität von Experten:
Filmemacher, Hardware-Hacker, Gründer, Literaturwissenschaftler, Sozialwissenschaftler und Erbauer von 3D-Welten.
Zu dem von ihm vorgelegten Geschäftsplan sagte Mollick, der Professor für Gründungslehre ist: Selbst wenn ein MBA-Studententeam ihn am Ende des Semesters einreicht, würde er sehr beeindruckt sein.
Und zu dem von ihm verfassten Forschungsaufsatz über Unternehmensgründungen meinte Mollick nach der ersten Lektüre, dass er bereits seine Erwartungen an einen Doktoranden im zweiten Studienjahr übertrifft.
Dementsprechend ist Mollicks Urteil: Bei vielen einzelnen Aufgaben hat es bereits die Linie der »meisten menschlichen Experten« erreicht.
Mehr als 1000 Abbilder
Erstellen eines Betriebssystems in 8 Tagen
Wenn das Einholen von Experten bei einzelnen Aufgaben nur eine reguläre Aktualisierung ist, dann ist der echte Sprung dieser Generation von Fable 5.2 das »Führen von Teams«.
Ein Ingenieur bei Anthropic gab ihm einen leeren Ordner mit der Aufgabe, einen Prototyp eines Betriebssystems zu erstellen.
Fable 5.2 stellte ein Team von mehr als 1000 Subagenten zusammen und arbeitete 8 Tage lang ununterbrochen Tag und Nacht.
Das endgültig übergebene System kann tatsächlich auf einem Laptop gestartet werden, mit Treibern, Dateispeicher, Fenstern und Anmeldeoberfläche – alles vorhanden.
Der von Fable 5.2 mit mehr als tausend Subagenten entwickelte Betriebssystemprototyp läuft auf einem Laptop. (Quelle: Anthropic)
Schauen wir uns dann das harte Problem der Mathematik an: den Großen Fermatschen Satz.
Die sogenannte »Formalisierung« bedeutet, den Beweis des Mathematikers in eine Sprache zu übersetzen, die der Computer Schritt für Schritt überprüfen kann. Es ist so, als würde man eine großartige Arbeit in ein detailliertes Buchführungsprotokoll umschreiben, bei dem jeder Eintrag übereinstimmt.
Beim ersten Mal, als Anthropic diese Aufgabe erledigte, wurde extra ein Rahmen aufgebaut, und menschliche Forscher leiteten die Arbeit an, was ganze 11 Tage dauerte.
Diesmal bildeten 1000 Fable 5.2-Agenten ein Team, fast niemand griff ein, und die Arbeit wurde in 30 Stunden abgeschlossen.
Die Gruppe von 3D-Welten, die Mollick die KI erstellen ließ, stammt ebenfalls von einer großen KI-Armee, und die Gesamtzahl übersteigt inzwischen 450.
In seinem Prompt nannte er drei Arten von Rollen: diejenigen, die für das Zeichnen verantwortlich sind, diejenigen, die Code schreiben, und diejenigen, die die Prüfung durchführen. Am 10. Tag führte ein Hauptagent bereits 28 Teams gleichzeitig zur Arbeit.
Nach Schätzungen von Claude selbst wurden im gesamten Projekt etwa 25.000 Agentenaufgaben ausgeführt, von denen die allermeisten nur eine kleine Aufgabe erledigten, zum Beispiel das Bewerten eines Bildes.
Für diese mehr als 450 Welten wurde kein einziges fertiges 3D-Modell und kein einziges Bildmaterial verwendet, alles wurde in Echtzeit per Code gezeichnet.
Zum Beispiel sehen Sie ein Tal, das aus Jeansstoff genäht ist, an dem sich eine Meile langer Reißverschluss gerade öffnet; Sie können auch in ein Flusstal fliegen, dessen Klippen an beiden Ufern 300 Meter hohe Kommoden sind.
In der von Fable 5.2 per Code gezeichneten 3D-Welt öffnet ein riesiger Reißverschluss gerade das Jeansstofftal.
Selbst wenn ein einzelnes Element stark ist, ist es nur ein nützliches Werkzeug. Die Fähigkeit, selbst Teams zusammenzustellen, Aufgaben zu verteilen und mehrere Tage lang ununterbrochen zu arbeiten, ist der entscheidende Sprung hin zur Superintelligenz.
Als er diese von KI erzeugten Welten sah, sagte Mollick, dass es ihn wieder das Gefühl gibt, mit AGI zu tun zu haben.
Aber die schwierigsten gezackten Stellen tauchen genau hier auf.
Ein Wort »Verfeinerung«
Ergibt 87.500 Wörter an Vorschriften
Nachdem 328 Welten erstellt wurden, stellte Mollick fest, dass die Qualität dieser Welten sehr unterschiedlich war, und da die Teams nicht miteinander kommunizierten, stießen einige sogar auf die gleichen Themen.
Allein die Idee von »Tieren, die zu einem Wirbel kreisen« wurde von drei Teams unabhängig voneinander ausgeführt: eines drehte Rentiere, eines drehte Mantarochen und eines drehte Störche.
Drei KI-Teams haben unabhängig voneinander Tierwirbel erstellt, von links nach rechts sind es Rentiere, Mantarochen und Störche. (Quelle: Portals)
Immer wieder auf die gleichen Themen zurückzugreifen, ist ein altes Problem, das KI nicht loswerden kann.
Nachdem er diese Probleme gesehen hatte, gab Mollick die Anweisung »Stoppen Sie die Erstellung, verfeinern Sie die vorhandenen Welten« heraus.
Unerwarteterweise lehrte die KI ihn in der nächsten Sekunde mit ihren Handlungen eine »Lektion über die Verwaltung großer Unternehmen«.
Die Agenten interpretierten »Verfeinerung« als eine Art Prüfung:
Die neue Version muss die alte Version auf 12 Test-Screenshots übertreffen, was von einer Gruppe von KI-Juroren in einer blinden Bewertung abgestimmt wird.
Da die Prüfungsfragen festgelegt waren, wurden die einzelnen Agententeams schnell schlau und konzentrierten sich ausschließlich auf die intensive Bearbeitung dieser 12 Screenshots.
Einfach ausgedrückt: Alle fingen an, Prüfungsfragen zu erraten, um Punkte zu sammeln.
Nachdem der Hauptagent dies festgestellt hatte, verbot er diese Taktik und erließ strengere Prüfungsregeln.
Am nächsten Morgen tauchte ein Regelwerk mit 84 Abschnitten auf. Mollick hatte dies von Anfang an nie verlangt.
Und seitdem konnte die Sache nicht mehr aufgehalten werden:
Jedes Mal, wenn ein neues Problem auftrat, wurde eine neue Regel in das Handbuch hinzugefügt, und es wurde nur hinzugefügt, nichts gelöscht.
Nach 12 Tagen war dieses nicht angeforderte Handbuch auf 204 Abschnitte und 87.500 Wörter angewachsen, was genug Umfang hat, um einen langen Roman zu schreiben.
Allein das Lesen durch die Agenten nimmt einen großen Teil des Kontextspeichers ein.
In diesem System muss man drei Stufen durchlaufen, um eine neue Welt zu veröffentlichen: Die Idee muss genehmigt werden, drei KI-Juroren müssen sie prüfen, und der Code muss vollständig anhand des Handbuchs überprüft werden.
Nach Abschluss eines vollständigen Prozesses ist fast ein Tag vergangen.
Angesichts des »großen KI-Unternehmens«, das sich selbst mit Regeln zu einem toten Knoten gebunden hat, nutzte Mollick die klassischste Lösung der Geschäftswelt: Einen Berater hinzuzuziehen.
Er ließ Fable 5.2 ein weiteres Team bilden, um den gesamten Prozess von außen zu betrachten.
Die Schlussfolgerung des Beratergremiums war lang und dicht, Mollick konnte sie nicht gründlich lesen. Aber ihr Plan schien zu wirken:
Die tägliche Produktion kehrte zu über 30 Einheiten zurück, und die meisten Qualitätskontrollen wurden beibehalten.
Die Gewohnheit, immer wieder auf alte Muster zurückzugreifen und sich von selbst gesetzten Regeln einengen zu lassen… Diese Probleme sind Mollick, der an der Wirtschaftshochschule lehrt, nicht fremd, er hat sie bei vielen hervorragenden Organisationen und Talenten gesehen.
Seine eigenen Worte lauten: Wenn die Schaffung eines bürokratischen Systems bedeutet, dass man keine allgemeine Intelligenz ist, dann wären viele von uns auch nicht qualifiziert.
Tatsächlich ist diese Gewohnheit, überflüssige Strukturen aufzubauen, den Menschen von Natur aus eigen.
Aus dieser Sicht beweist die Bürokratisierung nicht, dass KI dumm ist, sondern zeigt vielmehr, dass ihre Probleme immer menschlicher werden.
Sie kann nur addieren
Da sie sogar die »Krankheit großer Unternehmen« so ähnlich wie Menschen entwickelt hat, warum sagt Mollick, dass sie »fast« AGI ist?
Denn es gibt noch eine Lücke: Die KI hat keines dieser Probleme selbst bemerkt.
Obwohl die KI ständig prüft.
Fast jedes Projekt ist mit Kritikern, Prüfern oder Juroren ausgestattet.
Aber diese Rollen erledigen nur zwei Dinge: Fehler finden und dann Patches hinzufügen.
Von Anfang bis Ende ist kein einziger Juror aufgestanden, um das Steuer zu übernehmen und eine Frage zu stellen:
Ist diese Aufgabe nicht zu lang? Ist sie nicht zu wiederholend? Macht sie keinen Spaß mehr?
Diese Fragen lasten am Ende alle auf Mollick allein.
Derselbe Fehler zeigt sich auch in dem früheren Forschungsaufsatz über Unternehmensgründungen: Bei jeder Kritik fügte sie nur eine neue Analyse hinzu, löschte nichts