„AI-Bücherverbrennung" ist eigentlich ein Missverständnis

Im Silicon Valley wird die Sache mit dem „AI-Bücherverbrennen“ immer absurder.

In einem aktuellen Bericht haben Medien mit einem Antiquar zusammengearbeitet und eine AirTag in eine Reihe von Büchern gesteckt, die von einem mysteriösen Käufer bestellt wurden. Sie verfolgten das Signal den ganzen Weg bis zu Amazons Fabrik in Las Vegas.

Mitarbeiter der Fabrik gaben an, dass es sich um ein Amazon-Projekt namens VGT3 handelt, das speziell das Zerschneiden und Scannen von Büchern durchführt.

Ein gebrauchtes Buch hat unfreiwillig die Handlung eines Krimis durchlaufen.

Die Entwicklung der Sache bis heute ist schon fast surreal.

Im letzten Monat tauchten unzählige Berichte über das „AI-Bücherverbrennen“ auf, aber es gibt eigentlich keine neuen Fakten: KI-Unternehmen kaufen massenhaft alte Papierbücher, schneiden die Buchrücken ab, scannen sie mit hoher Geschwindigkeit, digitalisieren den Inhalt und entsorgen die Originalbücher danach. Als Anthropics „Projekt Panama“ Anfang des Jahres aufgedeckt wurde, lagen die aufregendsten Elemente bereits auf dem Tisch: Millionen von Büchern, Einkäufe im Wert von mehreren zehn Millionen Dollar und zerstörerisches Scannen.

Später entdeckten globale Antiquare ungewöhnliche Bestellungen, ISBNdb wurde dafür entlarvt, speziell Papierbücher für KI-Unternehmen zu sammeln, und jetzt verfolgt eine AirTag das Signal direkt in das Amazon-Lager – all das bestätigt immer wieder: Ja, diese Sache passiert wirklich, und mehr als ein Unternehmen macht das so.

Man sieht deutlich, dass die Fakten immer noch die gleichen sind, aber die öffentliche Stimmung rund um das „AI-Bücherverbrennen“ wird immer stärker.

„KI-Unternehmen verschlingen Bücher“, „Die menschliche Zivilisation wird an Maschinen verfüttert“, „Sie lassen selbst vergriffene Bücher nicht in Ruhe“ – unzählige Menschen hinterlassen erschreckte Kommentare in sozialen Medien, Videos und Fotos vom Zerschneiden von Büchern wirken besonders aufwühlend.

Aber um fair zu sein: Zwischen den bekannten Fakten und der Bedeutung, die die Öffentlichkeit ihnen beimisst, gibt es mittlerweile eine erhebliche Diskrepanz.

KI-Unternehmen zerstören tatsächlich Bücher, das braucht man nicht zu vertuschen.

Aber wie viele Bücher zerstören sie wirklich? Bedeutet die Zerstörung von physischen Büchern auch die Zerstörung des Wissens? Ist die Verantwortung für vergriffene Bücher, die gekauft und zerschnitten werden, wirklich vollständig bei den KI-Unternehmen zu suchen?

Es ist an der Zeit, einige Mythen zu zerbrechen.

01

Zuerst die Schlussfolgerung: Ein großer Teil der heutigen Wut der Menschen über die „KI-Buchzerstörung“ richtet sich eher an die symbolische Bedeutung dieser Sache als an den tatsächlich bereits entstandenen Schaden.

Natürlich lassen sich die beiden leicht vermischen. Immerhin sind Schlagzeilen wie „KI-Unternehmen kaufen und zerstören antike Bücher“ oder „KI-Unternehmen zermahlen Millionen von Büchern nach dem Scannen“ wirklich erschreckend, und der Prozess des Buchzerreißens hat eine starke visuelle Wirkung. Es gibt kaum ein passenderes Bild, um darzustellen, dass „KI die menschliche Zivilisation verschlingt“.

Aber wenn man den Blick etwas weiter zurückzieht, ist die Sache nicht so apokalyptisch wie es auf den Bildern aussieht.

Das Unternehmen mit dem größten bekannten Umfang ist derzeit Anthropic. Nachdem es 2024 das „Projekt Panama“ gestartet hat, mit dem Ziel, alle Bücher der Welt zu scannen, hat es in etwa einem Jahr mehrere zehn Millionen Dollar ausgegeben, Millionen von physischen Büchern gekauft und zerstörerisch gescannt, manchmal gleich mehrere zehntausend Bücher auf einmal.

Aber „Millionen von Büchern“ sind im gesamten Markt für gebrauchte Bücher eigentlich nicht so überwältigend, wie man denkt.

Allein der große Antiquar World of Books hat 2024 weltweit 31 Millionen Bücher verkauft, verfügt über einen langfristigen Bestand von etwa 7 Millionen Büchern und bietet auf seiner Website ständig rund 2 Millionen verschiedene Titel an.

Mit anderen Worten: Die von Anthropic bearbeitete Menge entspricht im normalen Umlaufvolumen eines großen Antiquars nur dem Geschäftsvolumen von einigen Monaten.

Es stimmt also, dass „KI-Unternehmen Millionen von Büchern nach dem Scannen zerstören“, aber von da direkt zu der Annahme zu springen, dass „KI alle gebrauchten Bücher restlos auffrisst“, ist noch weit entfernt.

Außerdem gibt es ein Problem, das leicht von Emotionen überhöht wird, das geklärt werden muss: Das Verschwinden von physischen Büchern bedeutet nicht das Verschwinden des Wissens in ihnen.

Anthropic kauft diese Bücher, um den Inhalt zu bewahren. In dem Urheberrechtsverfahren, in dem Schriftsteller wie Andrea Bartz Anthropic verklagt haben, zeigen Gerichtsakten, dass jedes Papierbuch nach dem Auseinandernehmen und Scannen zu einer PDF-Datei wird, die ganzseitige Bilder und maschinenlesbaren Text enthält, und in die eigene digitale Bibliothek von Anthropic aufgenommen wird.

Wenn wir nur von „ein Buch kaufen, es zerschneiden, scannen und dann das Original zerstören“ sprechen, ist das fast das Gegenteil von dem historischen „Bücherverbrennen“.

Beim Bücherverbrennen soll der Inhalt verschwinden. Das Auseinandernehmen von Büchern durch KI-Unternehmen dient ausgerechnet dazu, den Inhalt zu bewahren – und sobald er für das Modelltraining verwendet wird, wird er auf neue Weise zu lebendigem Wissen. Richter haben bereits ähnliche Ansichten geäußert: Der Inhalt von Büchern, der zum Trainieren von Modellen verwendet wird, wird im Training in neue Fähigkeiten umgewandelt.

Die zerschnittenen physischen Bücher sehen zwar schmerzlich aus, aber das menschliche Wissen wurde nicht zusammen mit ihnen als Altpapier verkauft.

02

Ein Punkt ist tatsächlich bemerkenswert und ist der stärkste Vorwurf in der aktuellen öffentlichen Kritik: KI-Unternehmen kaufen nicht nur normale alte Bücher, die man überall kaufen kann, sondern darunter sind tatsächlich auch seltene gebrauchte Bücher, sogar vergriffene Titel.

Dieses Problem kann man nicht einfach mit der Aussage „Das physische Buch ist weg, das Wissen bleibt“ beschönigen. Denn der Wert einiger Bücher liegt nicht nur im Text selbst. Sonderausgaben, spezielle Einbände, Widmungen und Anmerkungen des Autors – sogar die Spuren, die die vorherigen Besitzer hinterlassen haben – können dem physischen Objekt einen unersetzlichen Wert verleihen.

Aber zuerst muss man eines klarstellen: Selten bedeutet nicht wertvoll, und vergriffen bedeutet nicht, dass es sich um ein kulturelles Erbe handelt.

Ihr Universitätslehrer hat 1994 auf eigene Kosten 300 Exemplare des „Handbuchs zum Bau von Abwassernetzen auf Kreisebene“ gedruckt. Heute gibt es weltweit vielleicht nur noch ein Dutzend Exemplare – das ist natürlich selten und längst vergriffen. Ob es sich um ein Juwel handelt, das die menschliche Zivilisation um jeden Preis schützen muss, erklärt sich von selbst.

Auf dem Markt für gebrauchte Bücher gibt es Unmengen solcher Objekte. Der Grund, warum sie schwer zu finden sind, liegt oft nur darin, dass sie damals nur in kleiner Auflage gedruckt oder nie neu aufgelegt wurden. Das bedeutet nicht, dass jedes fehlende Exemplar einen Verlust für die öffentliche Kultur darstellt.

Zweitens: Selbst wenn wir den Kreis auf die Bücher beschränken, bei denen das physische Objekt selbst einen hohen Wert hat, ist das Problem nicht so einfach.

Solange ein Buch auf dem Markt für gebrauchte Bücher als Ware frei gehandelt wird, kann es von einem „Verrückten“ legal gekauft werden.

Dieser Käufer kann es in einem gläsernen Schrank mit konstanter Temperatur und Luftfeuchtigkeit aufbewahren, oder es als Unterlage für einen wackeligen Tisch verwenden. Noch verrückter: Er reißt morgens zwei Seiten heraus und isst sie mit Milch. Solange das Buch nicht durch spezielle Gesetze geschützt ist, können andere ihn höchstens dafür verurteilen, dass er ein wertvolles Objekt verschwendet – aber sie können es ihm nicht verbieten.

Warum ändert sich die Sache plötzlich, sobald der Käufer ein KI-Unternehmen ist? Es ist, als ob Anthropic oder Amazon nach der Bezahlung zwar das Buch besitzen, es aber eigentlich im Auftrag der gesamten Menschheit aufbewahren müssen.

Diese Debatte hat es schon immer zwischen Menschen gegeben.

2010 versteigerte Christie's ein „Stundenbuch“, das in den 1460er Jahren in Frankreich hergestellt wurde. Es hatte Blattgoldverzierungen, schöne Kalligrafie und 17 ganzseitige Illustrationen, war bei der Versteigerung fast vollständig und wurde für 25.000 Pfund verkauft.

Einige Jahre später kaufte die Wissenschaftlerin Elaine Treharne, die an Stanford-Universität mittelalterliche Literatur erforscht, die Überreste dieses Buches. Von den ursprünglichen 254 Seiten blieben nur 7 Seiten übrig.

Später fand sie heraus: Das Buch wurde nach der Versteigerung bei Christie's von dem Käufer – einem deutschen Antiquar – eigenhändig auseinandergenommen. Die Seiten wurden einzeln verkauft: Normale Seiten kosteten hunderte Dollar, schöne Illustrationen waren noch teurer.

Aber die Verteidigung des Antiquars war sehr interessant:

Als Christie's das Buch öffentlich versteigerte, konnten Museen kommen und es kaufen, große Sammlungen konnten kommen und es kaufen, reiche Sammler konnten kommen und es kaufen. Alle haben es gesehen, niemand war bereit, einen höheren Preis zu zahlen – also habe ich es gekauft. Warum erzählt ihr mir nach dem Ende des Handels plötzlich, dass dieses Objekt eigentlich der gesamten Menschheit gehört und ich es für euch gut aufbewahren muss?

Nun, die Worte sind grob, aber die Logik stimmt – je mehr man darüber nachdenkt, desto sinnvoller ist sie.

Genau das Gleiche gilt heute für KI-Unternehmen.

Wenn ein Buch wirklich so wertvoll ist, dass das Zerschneiden einer Seite ein unumkehrbarer kultureller Verlust wäre – wo sind dann die Museen? Wo sind die Bibliotheken? Wo sind die öffentlichen Sammlungen? Wo sind die Menschen, denen das wertvolle Erbe der Menschheit besonders am Herzen liegt?

Warum warten Sie, bis das KI-Unternehmen wirklich bezahlt hat, und sagen dann plötzlich alle zusammen: Du darfst es nicht zerstören, das gehört der gesamten Menschheit?

Ihr kauft es nicht, aber ihr wollt mir vorschreiben, was ich mit dem gekauften Objekt mache – ist das nicht ein bisschen überzogen?

Natürlich heißt das nicht, dass die Zerstörung wertvoller alter Bücher durch KI-Unternehmen zu begrüßen ist. Dass man rechtlich „das Recht hat, es zu tun“ und wir gleichzeitig finden, dass „es schlecht ist, das zu tun“, kann sehr wohl gleichzeitig gelten.

Aber wenn ein Buch wirklich so wichtig ist, dass es nicht beliebig von seinem Besitzer entsorgt werden darf, dann muss man wahrscheinlich nicht die Moral der KI-Unternehmen ändern.

03

Um die Logik klar zu machen, habe ich die vorherigen Aussagen etwas extrem formuliert.

Aus der Perspektive des gemeinsamen Interesses der Menschheit ist die groß angelegte Beschaffung von gebrauchten Büchern durch KI-Unternehmen – vor allem, wenn sie sich auf seltene, vergriffene und fremdsprachige Bücher konzentrieren – tatsächlich ein Problem, das man beachten sollte.

Wie bereits erwähnt: Millionen von Büchern, die Anthropic in einem Jahr kauft, sind im gesamten Markt für gebrauchte Bücher eigentlich nichts Besonderes. Aber eine Beschaffungsmenge, die im gesamten Markt nur ein Tropfen auf dem heißen Stein ist, kann, wenn sie sich stark auf seltene Bücher konzentriert, in diesem Bereich zu großflächigen Schäden führen.

Also ist die Aussage „KI kauft alle gebrauchten Bücher auf“ übertrieben – aber die Annahme, dass die Beschaffung von KI-Unternehmen bestimmte ohnehin fragile Buchbestände konzentriert verbrauchen könnte, ist keine unbegründete Vermutung.

Aber das Problem ist: Man kann nicht von KI-Unternehmen verlangen, die Heiligen zu spielen.

Sie könnten es natürlich tun.

Aber „es wäre gut, wenn sie das tun“ ist etwas anderes als „die Gesellschaft kann sich nur darauf verlassen, dass sie das tun“.

Unternehmen sind letztendlich Unternehmen. Heute findet ein Unternehmen es wichtig, seltene Bücher zu schützen und ist bereit, mehr Geld für zerstörungsfreies Scannen auszugeben. Morgen wechselt der Verantwortliche und stellt fest, dass dieser Prozess 30 % teurer ist – dann könnte er ihn auch streichen.

Sich darauf zu verlassen, dass kommerzielle Unternehmen das kulturelle Erbe langfristig aus Gewissensgründen für die gesamte Gesellschaft schützen, ist ungefähr so, als würde man von Sun Wukong verlangen, sich selbst das Zauberband anzulegen und es selbst zu beschwören – wenn er es mal einsieht, ist alles gut, aber bei der Gestaltung von Regeln sollte man sich nicht auf solche Wunder verlassen.

Wenn die Beschaffung durch KI-Unternehmen tatsächlich beginnt, Bücher mit öffentlichem Wert zu bed