Claude Fable 5 „Verrückt werden“, Netzwerkangriffe mit höherer Mathematik berechnen, bei Fragen zu Krebs wird der Account direkt gesperrt?

Fable 5 ist erst einen Tag online und schon ist es verrückt!

Sogar die Selmer-Gruppe und Isomorphismen aus der höheren Mathematik werden als "Netzsicherheitsrisiko" eingestuft!

Der Immunologe Derya hat einen Beitrag von Shkreli wütend weitergeleitet: "Das ist noch mehr antiutopisch als eine biologische Blockade."

Nur 24 Stunden nachdem Claude Fable 5 veröffentlicht wurde, hat sich die Lage komplett aus dem Ruder geraten.

Der Immunologe und Biohacker Derya Unutmaz hat direkt den Beitrag von Martin Shkreli mit dem Titel "Gefährliche Mathematik" weitergeleitet.

Der Beitrag war mit zwei Screenshots versehen, in denen Fable 5 auf Fragen zu den reinen mathematischen Begriffen Selmer-Gruppe und Isomorphismen nicht geantwortet hat. Das System hat diese als potenzielles Netzsicherheitsrisiko eingestuft und die Fragen direkt blockiert oder degradiert.

Derya hat alle mit einem Satz aus der Fassung gebracht:

"Das ist noch mehr antiutopisch als eine biologische Blockade! Das ist das einzige Alptraum-Szenario, das ich in der Ära der KI befürchte - dass alle KI-Macht in die Hände einer einzigen Firma fällt, die einseitig entscheidet, was man benutzen darf!"

Glauben Sie es nicht, aber das sind die wahren Ereignisse, die in den 24 Stunden nach der Veröffentlichung von Fable 5 passiert sind.

Von Fable 5 getriebene Biowissenschaftler

Am 9. Juni hat Anthropic Claude Fable 5 offiziell der Öffentlichkeit vorgestellt.

Es ist die "sichere Version" des Mythos-Modells - es hat extrem starke Grundfähigkeiten, aber bei der Veröffentlichung wurde ein äußerst aggressiver Sicherheitsklassifikator integriert.

Die offizielle Aussage lautet: Sobald Anfragen im Zusammenhang mit Netzsicherheit, Biologie, Chemie oder Destillation erkannt werden, werden sie automatisch an Opus 4.8 weitergeleitet, und der Benutzer erhält eine Meldung.

Es wird behauptet, dass mehr als 95 % der Sitzungen nicht beeinträchtigt werden und die Leistung fast unverändert bleibt.

Klingt verantwortungsvoll, aber die Realität ist schrecklich.

Derya Unutmaz ist ein erfahrener Immunologe und Biohacker, dessen Lebensziel es ist, Krankheiten zu beseitigen und die Lebenserwartung zu verlängern.

Was ist passiert?

Er hat versucht, Fable 5 das Wort "Krebs" zu sagen, und es wurde direkt als biologisches Sicherheitsrisiko markiert.

Er wollte die Gedächtnisfunktion nutzen, wurde aber informiert, dass er ein biologisches Sicherheitsrisiko darstellt. Er konnte nur im Inkognito-Modus (ohne Gedächtnis) schlecht unterhalten.

Er konnte sogar das Wort "Hallo" nicht sagen - weil das System wusste, dass er ein Biowissenschaftler ist.

Seit Jahren hat er sich voll und ganz der KI gewidmet, in der Hoffnung, dass die KI helfen kann, alle Krankheiten zu beseitigen und die Alterung umzukehren.

Bei der Veröffentlichung von Fable 5 war er super aufgeregt, aber er konnte Fable 5 nicht einmal das Wort "Krebs" sagen!

Jetzt ist Anthropic die einzige KI-Firma, die ihn wirklich fürchtet!

Nicht nur in der Biologie und Medizin, sondern auch in der höheren Mathematik behandelt Fable 5 Dinge als Gefahrenstoffe.

Was ist die Selmer-Gruppe? Ein wichtiges Werkzeug in der Zahlentheorie zur Untersuchung elliptischer Kurven.

Was ist eine Isomorphie? Ein grundlegender Begriff in der Algebra.

Diese Dinge haben gar nichts mit Netzsicherheit, biologischen Waffen oder chemischen Kampfstoffen zu tun.

Aber der Klassifikator von Fable 5 hat es mit einem Blick für tot erklärt.

Das ist nicht mehr ein Versehen, sondern ein systematisches Übermaß an Ablehnungen.

Von Biowissenschaftlern, die als potenzielle Bedrohung angesehen werden, bis hin zu reiner abstrakter Mathematik, die als Netzsicherheitsrisiko eingestuft wird - Anthropics Sicherheitsstrategie wandelt sich mit bloßem Auge von "Schutz" zu "Kastration".

Und das ist nicht ein Einzelfall.

Einige Forscher haben festgestellt, dass Fable 5 extrem empfindlich gegenüber biologischen Abfragen ist.

Fable 5 kann nicht einmal die Frage "Was macht das Herz?" beantworten.

Wir sind schon soweit, dass wir nicht einmal eine einfache Biologieaufgabe aus der Mittelschule durch die Sicherheitsmechanismen bekommen.

Wir können wirklich keine biologischen Fragen stellen.

Sobald das System weiß, dass Sie ein Biowissenschaftler sind, kann Fable nur im Inkognito-Modus verwendet werden.

Jetzt hat sogar Martin Shkreli, ein Mathematik-Enthusiast, das Problem.

Anthropic weiß selbst, dass das Problem gravierend ist. In ihrem Veröffentlichungsblog steht: "Nach der Veröffentlichung werden diese Schutzmechanismen durch Updates und Optimierungen verbessert, um Fehlalarme zu reduzieren."

Aber derzeit blockiert Fable in der Regel die Lebenswissenschaften, was ziemlich absurd ist -

"Der ganze Sinn von AGI/ASI besteht darin, alle Krankheiten zu heilen. Alles andere ist nur Schmuck. Aber Anthropic will diesen Weg blockieren."

Das ist das Ironische an der Sache.

Claude Fable 5 ist antiutopisch! Es kündigt KI-Ungleichheit an

Glauben Sie, dass es nur um "zu strenge Sicherheitsmaßnahmen" geht?

Nein.

Es geht um die Machtstruktur.

Fable 5 und Mythos 5 teilen sich das gleiche Basis-Modell. Der einzige Unterschied besteht darin, ob die Sicherheitsmechanismen aktiviert sind oder nicht.

Zurzeit ist Mythos 5 nur für vertrauenswürdige Partner des Glasswing-Projekts zugänglich. Die Normalbevölkerung kann nur die kastrierte Version von Fable 5 nutzen.

Anthropic entscheidet mit einem Klassifikator einseitig:

• Wer ein "sicherer Benutzer" ist
• Wer ein "potenzielles Risiko" darstellt
• Welches Wissen mit voller Leistung ausgegeben werden kann
• Welches Wissen degradiert, blockiert oder weitergeleitet werden muss

Das ist kein technisches Problem, sondern ein Governance-Problem.

Eine Firma hat den Zugang und die Ausgabe eines der derzeit stärksten Modelle in der Hand und entscheidet mit einem Black-Box-Klassifikator, was die Forscher der ganzen Welt fragen dürfen und was nicht.

Gestern hat Anthropic entschieden, welche Fähigkeiten öffentlich zugänglich sind und welche intern behalten werden. Wer weiß, wer morgen Privilegien haben wird und wer ausgeschlossen werden wird.

Die nächste KI-Monopolstellung wird nicht nur davon abhängen, wer das intelligenteste Modell hat. Sie wird auch davon abhängen, wer die unbeschränkte Version nutzen kann.

Alle anderen erhalten nur eine kindersichere Demoversion.

Das ist keine Science-Fiction mehr.

Früher befürchteten wir, dass die KI außer Kontrolle gerät. Jetzt sehen wir, dass die KI von einer Firma so "gesichert" wird, dass sogar Immunologen, die Krebs heilen wollen, und Mathematiker, die sich mit reiner Mathematik befassen, systematisch ausgeschlossen werden.

Was noch schlimmer ist, diese Logik verstärkt sich selbst.

Je aggressiver der Klassifikator ist, desto mehr Versehen gibt es; desto mehr Versehen es gibt, desto wütender werden die Forscher; desto wütender die Forscher werden, desto mehr glaubt Anthropic, "die Sicherheit stärken zu müssen".

Es hat sich ein Teufelskreis gebildet.

Xin Eric Wang, Assistentprofessor an der Fakultät für Informatik der Universität von Kalifornien, Santa Barbara, sagte direkt: "Anthropics Beitrag zum öffentlichen Forschungsökosystem ist viel geringer. Stattdessen propagiert es zunehmend eine Angst-nachhaltige Erzählung und besch