Von der erzwungenen Open-Source-Veröffentlichung durch AT&T bis zum Streit um die Genomsequenzierung: Die Geschichte beweist, dass die wahren hohen Gewinne im KI-Bereich vollständig in der „letzten Meile“ liegen

Shen Translation ist das Übersetzungsteam von 36Kr, das sich auf Bereiche wie Technologie, Wirtschaft, Arbeitswelt und Leben konzentriert und vor allem neue Technologien, neue Ideen und neue Trends aus dem Ausland vorstellt.

Anmerkung des Herausgebers: Open Source wird die Investitionen in KI nicht zerstören, aber die übermäßigen Gewinne von Closed-Source-Modellen zunichte machen: Wenn Modelle zu einer Versorgung wie Strom und Wasser werden, sind es die „komplementären Vermögenswerte“, die sich intensiv mit der physischen Welt auseinandersetzen, die wirklich Gewinne erzielen können. Der Artikel wurde übersetzt.

Im Mai 1851 strömten Millionen von Menschen durch die Gänge eines gläsernen Gebäudes, um einen Blick auf die Zukunft zu werfen. Die Große Industrieausstellung vereinte die repräsentativsten Innovationen der Welt zu dieser Zeit, darunter Dampfhämmer, Telegrafen, Mähdrescher und Spültoiletten. Jeder konnte diese Technologien aus nächster Nähe kennenlernen und versuchen, sie zurückzuentwickeln. Verschiedene Länder schickten ihre besten Ingenieure, um mit aller Kraft die Kerntechnologien von Wettbewerbern zu erlernen. Der Initiator der Ausstellung, Prinz Albert, war überzeugt, dass die breite Verbreitung und Diffusion von Technologie der Schlüssel zur Beschleunigung des wirtschaftlichen Fortschritts ist.

Anderthalb Jahrhunderte später fasste die Ökonomin Petra Moser die damaligen Ausstellungskataloge sowie fast 15.000 Erfindungen aus dieser Ausstellung und der US-amerikanischen Fortsetzungsausstellung von 1876 in einer Datenbank zusammen. Ein entscheidender Punkt war, dass diese Erfindungen aus Ländern mit und ohne Patentschutz stammten. Ihre Forschungsergebnisse überraschten die überzeugten Befürworter eines starken Schutzes des geistigen Eigentums: Das Patentsystem hatte keinen Einfluss auf die Gesamtzahl der Innovationen, es änderte nur die Richtung der Aufmerksamkeit der Erfinder. Zu dieser Zeit gab es in der Schweiz kein Patentschutzsystem, sodass Innovatoren in Bereiche wie wissenschaftliche Instrumente und Lebensmittel strömten (Nestlé wurde 1866 in der Schweiz gegründet), in denen Geheimhaltung, zeitlicher Vorsprung und komplementäre Vermögenswerte ihnen ausreichten, um Wettbewerbsvorteile zu verschaffen. Unter einem starken System zum Schutz des geistigen Eigentums verteilten sich Innovationen breiter. Die Gesamtzahl der Innovationen war in beiden Fällen gleich, nur die Verteilung auf verschiedene Bereiche unterschied sich.

Heute sind dieselben Spiele und Spannungen erneut zum Kern des Streits zwischen Closed-Source- und Open-Source-Gewicht-KI geworden. Anthropic und OpenAI argumentieren, dass „Destillationsangriffe“ von chinesischen Unternehmen nicht nur die Fähigkeit der Branche bedrohen, Mittel für die nächste Generation von Modellen zu beschaffen, sondern auch die nationale Sicherheit der Vereinigten Staaten gefährden. Befürworter von Open-Source-Gewichten entgegnen, dass eine breite Verbreitung entscheidend für den Aufbau eines wettbewerbsfähigen und innovativen KI-Marktes ist.

Die Forschungsergebnisse von Moser zeigen jedoch, dass die aktuelle Debatte den falschen Ausgangspunkt gewählt hat. Open-Source-Gewichte werden das Gesamtinvestitionsniveau in KI kaum verändern, sie ändern nur die Investitionsrichtung: was entwickelt wird, von wem es entwickelt wird und wer die Erträge erzielen kann. Closed-Source-Labore werden wahrscheinlich weiterhin die modernsten allgemeinen Fähigkeiten vorantreiben, während Open-Source-Gewichte Experimente weit in Unternehmen und Bereiche tragen lassen, die maschinelle Intelligenz mit knappen Daten, Vertriebskanälen und implizitem Wissen kombinieren können. Dieselbe Logik der Ressourcenallokation wirkt sich auch auf Sicherheitsfragen aus. Das eigentliche Kernproblem ist nicht, ob Open Source in abstrakter Hinsicht gefährlich ist, sondern wann die Verbreitung die Kräfte der Verteidiger stärken kann und an welchen Stellen schädliche Fähigkeiten wirklich eingedämmt werden können.

Zwei gegensätzliche Visionen für die Marktperspektive der maschinellen Intelligenz

Das ökonomische Argument gegen Open-Source-Gewichte ist einfach: Modelldestillation ist Diebstahl von geistigem Eigentum, der den Innovationsantrieb schwächt. Wenn die US-Regierung nicht eingreift und alle verfügbaren Mittel einsetzt, um dies zu stoppen, werden nicht nur die inländischen Labore in den USA nicht in der Lage sein, Mittel für die nächste Runde groß angelegter Trainings zu beschaffen, sondern China wird auch kostenlos davon profitieren und aufholen. Für Menschen mit dieser Weltanschauung ist Open-Source-Gewichte im Wesentlichen eine extreme „Verlangsamungsdoktrin“.

Die gegenteilige Sichtweise konzentriert sich auf die Gesetze der historischen Verbreitung allgemeiner Technologien im Wirtschaftssystem. Ihre Schlussfolgerung geht nicht nur davon aus, dass Open-Source-Gewichte den Wettbewerb und die technologische Beschleunigung grundlegend fördern, sondern weist auch darauf hin, dass die USA ohne Open Source schnell zurückfallen würden. Offenheit und umfassende Experimente sind genau der Grund, warum wir im Internetzeitalter die Führung behalten haben, und dieses Mal ist es nicht anders.

Sicherheitsrisiken machen diese Diskussion noch komplizierter. Dario Amodei widersetzt sich seit Jahren vehement Open-Source-Gewichten mit der Begründung, dass sie enorme Sicherheitsrisiken mit sich bringen. Er glaubt, dass die menschliche Gesellschaft nicht in der Lage sein wird, sich gegen böswillige Akteure zu wehren, sobald die Intelligenz einen bestimmten kritischen Schwellenwert überschreitet, und außer Kontrolle geratene Modelle verheerende existenzielle Krisen verursachen könnten. Nur durch die Kontrolle des Zugriffs und die Einrichtung strenger Sicherheitsbarrieren darf das Land, das die „Rechenzentrums-Genies“ versammelt, existieren. Schlimmer noch: Da Open-Source-Gewichte nicht „zurückgerufen“ werden können, könnten wir plötzlich in einer apokalyptischen Situation landen, ohne Vorwarnung und ohne Mittel zur Bewältigung.

Kritiker von Amodei weisen darauf hin, dass der Markt für maschinelle Intelligenz ohne Open-Source-Gewichte schnell stark konzentriert würde; und es sei zu zufällig, dass die kommerziellen Interessen von Anthropic genau mit den KI-Sicherheitszielen und den nationalen Sicherheitsanforderungen der Vereinigten Staaten übereinstimmen. Sicherheitsforscher umgehen ebenfalls häufig den Schutz von Closed-Source-Modellen, und die Modelle von Anthropic und OpenAI wurden bereits weitgehend von Hackern ausgenutzt, sogar für den Angriff auf sensible Infrastrukturen von Regierungen. Sie argumentieren, dass Closed-Source-Modelle uns zwar eine Illusion der Sicherheit vermitteln, aber bestenfalls nur die Illusion von „reichlich Zeit“ kaufen.

Beide Seiten befürchten, dass heutige falsche Maßnahmen uns in eine unumkehrbare Situation bringen werden. Und beide Seiten sind aufrichtig davon überzeugt, dass ihr eigener Ansatz der einzige Weg ist, Sicherheit zu gewährleisten (oder der sicherste Weg unter realen Bedingungen). Glücklicherweise bevorzugen die ökonomischen Gesetze keine Seite.

Das nicht mehr funktionierende Exklusivitätssystem

Anthropic und OpenAI waren schon immer die Hauptziele anderer Labore, die den Branchenvorsprung einholen wollen. Anthropic hat sogar öffentlich den Kongress gebeten, Alibaba streng zu bestrafen, und beschuldigt es, rücksichtslose illegale Angriffe gestartet zu haben, um seine Technologie zu stehlen. Wie können US-Labore weiterhin Mittel für teure Trainings beschaffen, wenn chinesische Labore die Leistung ihrer Modelle in nur wenigen Monaten mit geringen Kosten reproduzieren können?

Der Kern des Problems bei dieser Forderung von Anthropic ist, dass abgesehen von gefälschten Konten und systematischem Missbrauch von APIs das patenähnliche Exklusivitätssystem, das es erwartet, nie existiert hat. Modelldestillation ist eine in der Branche anerkannte legitime Praxis, die sich grundlegend von Spionage und Diebstahl von Geschäftsgeheimnissen unterscheidet, denen US-amerikanische Verteidigungs-, Luft- und Raumfahrt- und Chiphersteller in der Vergangenheit ausgesetzt waren. Chinesische Labore stehlen die Kerngewichte nicht direkt, sie lassen einfach durch Prompt-Engineering US-Modelle als „Mentoren“ für ihre eigenen Modelle fungieren.

Von Modellen generierte Inhalte sind nicht durch das Urheberrecht geschützt, und KI-Labore übertragen normalerweise das Eigentum an den Ausgaben an Kunden. Obwohl die Nutzungsbedingungen Kunden ausdrücklich verbieten können, diese Ausgaben zum Trainieren von Konkurrenzmodellen zu verwenden, wirft dies ein offensichtliches Problem auf: Wenn die Technologie so fortschrittlich ist, warum können Labore nicht technische Mittel einsetzen, um Destillation zu verhindern? Die Antwort ist, dass weder der angeforderte Inhalt noch die Anfragequelle die Angriffsabsicht direkt offenlegen kann. Jede einzelne Anfrage sieht genauso aus wie die eines normalen Kunden, und organisierte Teams können das Aufrufvolumen auf eine große Anzahl von massenregistrierten Konten, Aggregationsplattformen und verschiedene Rechtsräume verteilen. Ohne auf der gesamten Plattform umständliche Nutzungshürden hinzuzufügen, werden Sperrmaßnahmen nur zu einem endlosen Zyklus aus „Konto sperren – neu eröffnen“. Dieser Kompromiss hat sich bereits bei Fable gezeigt. Aufgrund seiner Beschränkungen zur Unterstützung der Spitzen-KI-Entwicklung, die starke Unzufriedenheit bei Kunden auslösten, musste Anthropic die Regeln innerhalb weniger Tage dringend anpassen. Risikokontrollmaßnahmen, die ausreichend wirksam sind, werden zwangsläufig eine große Anzahl legitimer normaler Arbeiten beeinträchtigen. Langfristig ist es geschäftlich nicht machbar, zahlende Kunden daran zu hindern, Ausgabedaten für das Training zu verwenden. Wenn die Beschränkungen zu streng sind, werden Kernbenutzer mit hoher Nutzung direkt zu Open-Source-Gewicht-Modellen wechseln.

Schließlich wird die separate Einstufung der Kerntechnologien, die den großen Fortschritt der KI in den letzten zehn Jahren vorangetrieben haben, als illegal die Spitzenlabore in eine sehr peinliche Lage bringen, da sie selbst derzeit vehement das Prinzip der „fairen Nutzung“ geltend machen, um massiv Daten aus dem riesigen Mengen an Webseiten, Medieninhalten und Büchern im Internet zu extrahieren und aufzunehmen.

Um einen Schritt zurückzutreten: Ist es für die US-KI-Industrie wirklich schädlich, dass Spitzen-KI-Modelle als Mentoren fungieren können, um die Leistung rückständiger Modelle zu verbessern? Selbst wenn die Regierung weiche Macht, Politik und diplomatische Mittel einsetzen kann, um solche Barrieren durchzusetzen, wollen wir dieses Ergebnis wirklich sehen?

Monopol oder kein Monopol?

Richard Nelson im Jahr 1959 und der Nobelpreisträger Kenneth Arrow im Jahr 1962 haben dieses klassische Problem eingehend erörtert. Wissen ist nicht exklusiv und nicht konkurrierend: Meine Anwendung einer Idee hindert dich nicht daran, dieselbe Idee zu verwenden; und sobald eine Idee öffentlich gemacht wurde, kann man andere nicht mehr davon ausschließen. Daher ist der gesamte soziale Wert, den eine Idee erzeugt, oft weit höher als der Ertrag, den der Erfinder selbst erzielen kann, was eine klassische Sorge auslöst: Einige Ideen mit sehr hohem sozialen Wert können von Anfang an nicht ausreichend erforscht und finanziert werden.

Modellgewichte – zumindest wenn sie separat von peripherer Begleitsoftware existieren – verhalten sich sehr ähnlich wie „Ideen“.

Für die gesamte Gesellschaft entwickelt sich dies zu einem zeitübergreifenden Kernkonflikt: Sobald eine Idee geboren ist, wünscht sich die Gesellschaft, dass sie so weit wie möglich verbreitet wird. Schließlich sind ihre Grenzkosten fast null, genau wie das Herunterladen von Modellgewichten. Aber bevor eine Idee geboren wird, muss die Gesellschaft die Forscher überzeugen, dass sie reiche Erträge erzielen können, um die Entwicklungskosten zu decken.

Joseph Schumpeter kämpfte sein ganzes Leben lang mit diesem Widerspruch. Einerseits anerkannte er den Wert von Monopolrenten zur Förderung früher Investitionen, andererseits betonte er die Notwendigkeit von Startups und „schöpferischer Zerstörung“, um Monopole zu brechen und nachfolgendes explosionsartiges Wachstum voranzutreiben. Schließlich kam er zu einem leicht widersprüchlichen Kompromiss: Die beste Strategie, die die Gesellschaft verfolgen kann, besteht darin, ihr zunächst einen vorübergehenden Monopolstatus zu verleihen und dann den Wettbewerb vollständig zu öffnen.

Seitdem ist die gesamte Forschung im Bereich der Innovationsökonomie im Wesentlichen ein endloses Debattieren darüber, wie lange dieses Monopol andauern soll und welche Mechanismen zu seiner Regulierung verwendet werden sollen. Es gibt jedoch eine Schlüsselvariable, die das Gleichgewicht zwischen Open Source und Closed Source erheblich stören kann.

Der Zinseszinseffekt von Ideen

Die überwiegende Mehrheit (oder sogar alle) Innovationen sind das Ergebnis irgendeiner Form von Ideenrekombination. In Bereichen, die stark auf Wissensakkumulation angewiesen sind und eine Nachbearbeitung bestehender Ergebnisse erfordern, müssen die Laufzeit und die Stärke der Rechte, die Vorreitern gewährt werden, sorgfältig gegen die zusätzlichen Kosten abgewogen werden, die durch die Verzögerung der Erkundung durch Nachfolgende entstehen. Egal wie reich die führenden KI-Labore sind, die Anzahl der vielversprechenden Wege, die sie erforschen können, ist begrenzt, was auch im Bereich der KI-Sicherheit gilt.

Künstliche Intelligenz war von Anfang an das Produkt schneller Destillation und Verfeinerung. Die beeindruckenden heutigen Modelle profitieren sowohl von jahrzehntelanger Akkumulation der akademischen Forschung im Bereich neuronaler Netze während der „KI-Winter“ als auch von der öffentlichen Veröffentlichung der Transformer-Architektur durch Google. Aus dieser Perspektive sind Open-Source-Gewicht-Modelle als „Schüler“ von Closed-Source-Modellen eine direkte Fortsetzung dieser technologischen Traditionslinie. Die Ausgaben von Modellen sind genau die Schlüsselrohstoffe für die Forschung und Entwicklung, die das gesamte Ökosystem vorantreiben.

Das reinste natürliche Experiment dazu, wie die Beschränkung des Zugriffs auf grundlegende F&E-Elemente Innovationen hemmt, stammt aus einem anderen Wettbewerb: dem Wettbewerb zwischen dem gewinnorientierten Unternehmen Celera und dem öffentlich finanzierten „Human Genome Project“ bei der DNA-Sequenzierung. Nachdem Celera als Erster einen bestimmten Gensequenzabschnitt abgeschlossen hatte, beschränkte es den Zugriff durch Gebühren, Beschränkungen der Weiterverbreitung und kommerzielle Lizenzen. Die Ökonomin Heidi Williams fand heraus, dass diese eingeschränkten Gene 20 % bis 30 % weniger nachfolgende Forschung und Produktentwicklung anziehen als vergleichbare Gene, die von Anfang an vollständig öffentlich waren. Obwohl diese Beschränkungen nach zwei Jahren endeten, als das öffentliche Projekt die Sequenzierung derselben Gene unabhängig abschloss, blieb die entstandene Lücke langfristig bestehen. Bis 2009 lagen die von Celera sequenzierten Gene bei den nachfolgenden F&E-Ergebnissen immer noch hinter anderen Genen zurück.

Wenn der Wert der nachfolgenden Forschung sehr hoch ist, können selbst kleine frühe Widerstände negative kumulative Effekte mit Zinseszins erzeugen. Dementsprechend wird die Beseitigung von Widerständen einen tiefgreifenden Einfluss auf die Geschwindigkeit und Richtung der Innovation haben. Im Bereich der Biomaterialien fanden Jeff Furman und Scott Stern heraus, dass die Kumulativität der Forschung um 57 % bis 135 % stieg, wenn der Zugriff auf F&E-Elemente einfacher wurde. In der Forschung an gentechnisch veränderten Mäusen untersuchten Fiona Murray, Philippe Aghion und ihre Mitarbeiter die Situation, nachdem die National Institutes of Health (NIH) durch Verhandlungen die Beschränkungen von DuPont für Hunderte von Cre-lox- und Onco-Stämmen aufgehoben und die durchdringenden Lizenzgebühren und umständlichen Berichtsanforderungen abgeschafft hatte, die den akademischen Zugang behinderten. Die Ergebnisse zeigten, dass die nachfolgende Forschung deutlich zunahm. Noch wichtiger ist, dass die Forschungsrichtungen vielfältig wurden, neue Forscher traten hinzu und erforschten mehr brandneue technologische Wege. Im oberen Bereich wurde die Züchtung neuer gentechnisch veränderter Mäuse in keiner Weise negativ beeinflusst.

Insgesamt ist Offenheit die vorteilhafteste Strategie, sol