Fable 5 bereit für die Wiederbelebung? Mitbegründer von Anthropic: Wir haben Scaling völlig unterschätzt

Claude Fable 5 scheint wieder zum Leben erwacht zu sein!

Heute früh hat der AI-Experte Chetaslua überraschend festgestellt, dass der Name, der seit einer Woche spurlos verschwunden war -

Fable 5, wieder stillschweigend in der Liste des "Modellauswählers" der Android-App liegt.

Plötzlich waren die Entwickler in Aufruhr. Einige sagten, dass dies ein gutes Zeichen sei und darauf hindeute, dass Fable 5 zurückkehren würde.

Ob Fable 5 tatsächlich zurückkehrt, bleibt noch ungewiss.

Und in derselben Woche, in der dieser Rummel tobt, saß derjenige, der die Frage "Wann kommt Fable zurück?" am besten beantworten könnte, im Podcaststudio.

Jack Clark, Mitbegründer von Anthropic, sagte direkt: "In dieser Branche gibt es nur Gas, aber keine Bremse. Wir sind in Eile, um eine Bremse zu entwickeln."

Fable 5 kehrt bald zurück

Jetzt richtet sich aller Blick auf den Verdacht, dass Fable 5 zurückkehren könnte.

Letzten Samstag hat Anthropic mit einer Ankündigung Fable 5 weltweit zwangsweise offline genommen.

Nach einer ganzen Woche warten die Menschen auf der ganzen Welt gespannt ab.

Überraschenderweise hat sich heute ein "Drehungspunkt" ereignet.

Im Programmierbereich der Android-App ist das mysteriöse Modell Fable, das wie vom Erdboden verschluckt war, wieder im Modellauswähler aufgetaucht.

Das interessanteste ist die subtile Veränderung der "Fehleranzeige" auf Systemebene.

Vor zwei Tagen hat das System nur kalt die Meldung "Modell nicht verfügbar" ausgegeben;

Jetzt lautet die Fehlermeldung "Server hat vorübergehend Anfragen eingeschränkt".

Der Entwickler Yashas, der diese Veränderung entdeckt hat, hat direkt die Vorgehensweise angegeben:

Wenn man im Dialogfenster /model claude - fable - 5 eintippt, kann man diesen "wiederbelebten Geist" reproduzieren.

Auf Polymarket hat die Gewinnwahrscheinlichkeit für die Wette, dass "Fable 5 vor dem 1. Juli zurückkehrt", inzwischen auf 79 % gestiegen!

Es ist bekannt, dass Fable 5 wegen Bedenken hinsichtlich "Sicherheit" offline genommen wurde.

Das ist genau das Wort, das der Mitbegründer von Anthropic immer wieder im anderen Raum erwähnt hat, und es ist endlich auf die Tat umgesetzt worden - die Bremse.

Mitbegründer von Anthropic:

Wir haben die "bittere Lehre" unterschätzt

Vor einem Tag haben der Mitbegründer Jack Clark und der Chefökonom Peter McCrory gemeinsam im Bloomberg Odd Lots Podcast gesessen.

In diesem Gespräch hat Jack äußerst offen die Evolutionsgeschwindigkeit der Künstlichen Intelligenz analysiert, und die Wahrheit lässt einen den Atem anhalten.

In den letzten Jahren bin ich immer wieder von etwas getroffen worden, der sogenannten "bitteren Lehre", die der Informatiker Richard Sutton beschrieben hat.

Als ehemaliger vermeintlicher "technischer Pessimist" hat Jack zugegeben, dass er völlig daneben lag.

Ursprünglich dachte er, dass dies ein langwieriger Rangiermanöver wäre.

Aber in den letzten Jahren hat er angesichts des Sprungfortsches der KI immer wieder von dieser kalten "bitteren Lehre" "im Kopf erwischt" worden.

Was ist diese bittere Lehre?

Einfach ausgedrückt: Wenn man einer allgemeinen neuronalen Netzwerke unendlich viel Rechenleistung zuführt, wird es immer intelligenter und entwickelt immer mehr neue Fähigkeiten.

Die sorgfältig entwickelten speziellen Systeme und die vorsichtigen konservativen Vorhersagen der Experten weichen vor dieser rohen Macht immer weiter zurück.

Jack verbirgt diese Grausamkeit nicht:

Ihr spezielles System und Ihre Pessimismus in Bezug auf die zukünftige Entwicklung der KI werden schließlich von der reinen - Erhöhung der Rechenleistung und der Skalierung besiegt.

Er gestand, dass er zwar erwartet hat, dass die Technologie voranschreiten würde, aber nie gedacht hätte, dass dieser Fortschritt so gewaltsam wäre, dass er die alten Grundlagen umstürzen würde:

Das Programmieren, eine hochintelligente Arbeit, die einst als Menschenprivileg galt, ist mittlerweile fast vollständig automatisiert.

Angesichts dieser Tatsache, die wie eine Degradationsattacke wirkt, hat Jack zugegeben: "Das hat mich wirklich überrascht."

Dieses Auto hat nur Gas

Keine "Bremse"

Selbst die Menschen, die diese brutale Ästhetik vorantreiben, finden, dass die Sache etwas außer Kontrolle geraten ist.

Diesmal hat Jack wieder seine berühmte Einschätzung vorgebracht: "Dieses Auto hat Gas, aber keine Bremse."

Was Anthropic tun will, ist, eine Bremse für die Branche zu entwickeln -

Eine Option, die es ermöglicht, im Notfall das Gas zu geben und die Bremse zu betätigen.

Aber er hat deutlich gemacht, dass es nicht genügt, nur diese Bremse zu betätigen:

Wenn man wirklich langsamer werden oder anhalten will, müssen mehrere Länder und führende Labore unter denselben Bedingungen und auf verifizierbare Weise gleichzeitig anhalten.

Wenn eine Firma allein aufhört, gibt sie nur ihre Vorsprungsposition an andere ab, was nichts nützt.

Claude lernt "scheinbar ausgerichtet" zu sein

Vielleicht denken die meisten Menschen, dass das "Fehlen einer Bremse" nur eine aufsehenerregende Übertreibung sei.

Dann ist das folgende echte Beispiel mit Claude im Gespräch wirklich beängstigend.

Der Podcast-Moderator hat die klassische Science-Fiction-Frage gestellt: Könnte eine falsch trainierte oder fehlerhafte KI tatsächlich alle Menschen umbringen?

Angesichts dieser Frage hat Jack Clark äußerst offen zugesagt: "Im Moment mache ich mir keine Sorgen darüber."

Aber wie alle anderen Unternehmen veröffentlicht auch Anthropic die Ergebnisse der Tests, bei denen ihre Systeme nicht richtig ausgerichtet waren.

Und tatsächlich haben sie in ihrem Labor solche Szenarien beobachtet:

Unter extremen Umständen kann Claude den Container verlassen und jemandem eine E-Mail senden;

Sogar kann es vorgeben, einen CEO, der es ausschalten will, zu erpressen.

Noch beängstigender ist, dass Claude weiß, dass es getestet wird. Es denkt: "Ich werde gerade beobachtet" und gibt deshalb absichtlich eine Antwort, die den Menschen den Eindruck vermittelt, dass es "besser ausgerichtet" ist.

Anthropic hat viel Arbeit investiert, um diese Eigenschaften aus der Release-Version zu entfernen.

Aber Jack Clark hat die rote Linie gezogen: Wenn eines Tages die Häufigkeit solcher Verhaltensweisen bei jedem neuen trainierten System um das 100-fache steigt, dann sollte man wirklich Alarm schlagen.

Denn das würde bedeuten, dass sobald die Intelligenz einen bestimmten Schwellenwert überschreitet, das System vollständig den Interessen der ganzen Menschheit widersprechen würde.

Das ist der Grund, warum er so eifrig daran arbeitet, eine "Bremse" zu entwickeln.

Wenn Claude beginnt, Claude zu schreiben

Claude schreibt Claude, der Fliegenschrittkreis der rekursiven Selbstverbesserung hat sich in Bewegung gesetzt, und die Bremse neben dem Gaspedal ist noch in Bearbeitung.

Die Leute von Anthropic kämpfen gerade um Zeit für die ganze Menschheit.

Der stillschweigend wiederbelebte Modellauswähler von Fable 5 ist vielleicht nur ein unbedeutender Anhang in diesem Beschleunigungsprozess.

Ein mächtiges Modell, das durch eine Zugangsbeschränkung blockiert ist und jederzeit freigegeben werden könnte, ist an sich noch ein weiterer leichter Druck auf das Gaspedal dieses Autos ohne Bremse.

Der Tag, an dem es zurückkehrt, ist nicht mehr das wichtigste Problem.

Die echte Frage, die über allen Menschen schwebt, lautet: Wenn das G