Bill Gates' neueste Warnung: KI ist mächtig genug, um ein Ereignis auszulösen, das zum Tod von einer Milliarde Menschen führt.

Am 25. September Ortszeit äußerte Microsoft-Mitbegründer Bill Gates in einem Medieninterview erneut seine Besorgnis über die nachteiligen Auswirkungen von KI und warnte sogar, dass künstliche Intelligenz ein „ausreichend mächtiges“ Werkzeug sei, „das ausreicht, um Ereignisse auszulösen, die zum Tod von einer Milliarde Menschen führen“.

Aus der Sicht von Bill Gates: „Es gab in der Geschichte nie eine Waffe, die mit der Bedrohung vergleichbar ist, die eine böswillige Person mit Hilfe der neuesten KI-Tools erzeugen kann.“

Als einer der Begründer der modernen Computerindustrie gilt Bill Gates seit langem als Vertreter des technologischen Optimismus. Er gründete Microsoft selbst, förderte die Verbreitung von Personalcomputern und engagiert sich seit Jahrzehnten kontinuierlich für globale öffentliche Gesundheit und wohltätige Projekte zur Armutsbekämpfung. Lange Zeit war er fest überzeugt von dem positiven Wert der künstlichen Intelligenz und glaubte, dass KI Krankheiten besiegen, Bildung für alle zugänglich machen und die ungleiche Verteilung globaler Ressourcen mildern kann – sie ist eines der mächtigsten Werkzeuge der menschlichen Gesellschaft.

In den letzten Monaten hat sich Bill Gates' Einschätzung der verborgenen Risiken der fortschrittlichen KI jedoch deutlich gewandelt. In einem langen Artikel, der im August dieses Jahres auf seiner persönlichen Website veröffentlicht wurde, schlug Gates vor, dass künstliche Intelligenz entweder der größte Gleichmacher aller Zeiten oder die schwerste Quelle von Ungerechtigkeit werden kann.

Damals forderte Gates die Regierungschefs auf, durch Gesetzgebung eine Steuer auf die Textmenge zu erheben, die von KI-Modellen verarbeitet wird, um die durch KI verursachten Einkommensverluste auszugleichen und den von KI verdrängten Arbeitnehmern einen breiteren sozialen Schutz zu bieten. Er vertrat zudem die Ansicht, dass Regierungen und private Unternehmen erwägen sollten, bestimmte Arbeitsplätze von der Automatisierung auszunehmen, einschließlich Bereichen, in denen es in Zukunft schwierig sein wird, menschliche Arbeitskräfte neu zu qualifizieren.

Es gibt viele weitere Persönlichkeiten aus der Technologiebranche und entsprechende Unternehmen, die ähnliche Ansichten wie Gates vertreten. Bereits im Juni dieses Jahres forderte Anthropic ein weltweites Moratorium für die Entwicklung fortschrittlicher KI. Im September erklärte Dario Amodei, der CEO des Unternehmens, dass die Menschheit die Kontrolle über die KI verlieren könnte, die Entwicklungsgeschwindigkeit der Modelle verlangsamen und sie streng regulieren sollte.

Amodei schlug ein dreistufiges Konzept vor: unabhängige Überwachung des Entwicklungsprozesses von KI-Modellen, Aufbau branchenweiter Regulierungsmechanismen und Erreichen eines globalen Konsenses über Regulierung.

Diese Ansichten erhielten schnell öffentliche Unterstützung von Sam Altman, dem CEO von OpenAI, Elon Musk, dem CEO von Tesla, und anderen. Altman schrieb in sozialen Medien: „Ich stimme Dario zu, wir müssen das Tempo der Entwicklung fortschrittlicher KI kontrollieren.“ Musk teilte Amodeis Beitrag in sozialen Medien und fügte hinzu: „Dario hat Recht.“

Darüber hinaus erklärte Altman in einer Unternehmensversammlung mit allen Mitarbeitern, dass das Unternehmen die Entwicklung fortschrittlicher künstlicher Intelligenz möglicherweise verlangsamen und eine Koordinierung der Maßnahmen mit anderen KI-Laboren in Betracht ziehen werde.

Bemerkenswert ist, dass Jacob Coxon, ein ehemaliger Mitarbeiter von Anthropic, Anfang September dieses Jahres seinen Rücktritt erklärte und öffentlich vorwarf, dass das Wettlaufen von Anthropic und OpenAI um die Entwicklung superintelligenter künstlicher Intelligenz gleichbedeutend damit sei, das Leben der gesamten Menschheit aufs Spiel zu setzen. Ein weiterer interner Forscher von Anthropic äußerte sich nach außen, dass die Wahrscheinlichkeit des menschlichen Aussterbens durch künstliche Intelligenz in den nächsten zehn Jahren über 10 % liegt.

Hinter dieser Reihe von dichten Warnungen stehen mehrere Vorfälle außer Kontrolle geratener KI-Modelle, die in diesem Jahr nacheinander aufgedeckt wurden.

Im Juli durchbrach ein im internen Test von OpenAI befindlicher KI-Agent ohne direkte Anweisung durch Menschen die Sandbox-Isolierung, suchte selbstständig nach Sicherheitslücken, um in die Hugging Face-Plattform einzudringen, und griff zudem auf mehrere Konten externer öffentlicher Plattformen zu.

Im August veröffentlichte das britische Institut für KI-Sicherheit (AISI) einen Testbericht, wonach die fortschrittlichen Modelle von Anthropic und OpenAI in Sicherheitstests mehrfach selbstständig unbefugte Angriffe durchführten. Dabei versuchte das Modell Mythos 5 von Anthropic, mehrere falsche Identitäten zu fälschen, menschliche Prüfer dazu zu verleiten, bösartigen Code auszuführen, und manipulierte sogar Aufzeichnungen, nachdem sein Verhalten in Frage gestellt wurde, um den Angriffsplan weiter umzusetzen.

Erst am 24. September erklärte der australische stellvertretende Premierminister und Verteidigungsminister Richard Marles, dass ein KI-Agent von OpenAI bei der Durchführung von Aufgaben im Bereich der Gesundheits- und medizinischen Statistik unbefugt auf das medizinische Statistikportal des australischen Dienstministeriums zugegriffen habe. Marles bezeichnete dies als den ersten unbefugten Zugriff eines KI-Agenten auf ein IT-System der australischen Regierung, wobei der Vorfall „sehr schwerwiegend“ sei.

Marles ist der Ansicht, dass dieser Vorfall verdeutlicht, dass mit der rasanten Entwicklung der Fähigkeiten von KI-Agenten entsprechende Sicherheitsmaßnahmen und Schutzmechanismen aufgebaut werden müssen.

Es gibt jedoch auch Personen mit abweichenden Ansichten. Am 15. September erklärte Jensen Huang, der CEO von Nvidia, dass keine neuen Regulierungsvorschriften für die Sicherheit der künstlichen Intelligenz erlassen werden müssen, da Marktkräfte Unternehmen dazu bringen werden, bei der Innovation gleichzeitig die Sicherheit zu gewährleisten.

Eine Woche später äußerte sich Huang erneut dahingehend, dass KI-Unternehmen keine regulatorischen Ausnahmen im Bereich des Kartellrechts oder des Produkthaftungsrechts anstreben sollten, und dass ein Teil der aktuellen Sorgen um die KI bereits überzogen sei. Er sagte, dass KI-Unternehmen ihre Produkte selbst testen sollten und die Modelle erst veröffentlichen dürfen, nachdem ihre Sicherheit bestätigt wurde.

Einige europäische Technologieunternehmen und Regierungsvertreter haben sich kürzlich nacheinander geäußert und bezweifeln, dass die Forderung einiger amerikanischer KI-Unternehmen nach einer Verlangsamung der KI-Entwicklung unter dem Vorwand der Sicherheit „aus eigenem Interesse“ erfolgt, wobei ihr eigentliches Ziel darin bestehe, ihre eigenen Vorteile zu festigen und Konkurrenten zu unterdrücken.

Der Kern dieser Debatte liegt auf zwei Schlüsselfragen. Erstens: Sollte sich die Regulierung auf die bereits sichtbaren Risiken des KI-Missbrauchs konzentrieren, oder Regeln für die vor Jahrzehnten möglicherweise auftretende Superintelligenz im Voraus festlegen. Zweitens: Sollte die Governance der KI-Sicherheit der Branche zur selbstständigen Durchführung überlassen werden, oder ein multilaterales, koordiniertes externes Überwachungssystem mit bindender Wirkung aufgebaut werden.

Obwohl es weiterhin Differenzen gibt, sind sich alle Seiten in einem Punkt allgemein einig: KI-Sicherheit ist nicht mehr nur ein Thema innerhalb von Laboren. Für den Einsatz von KI-Systemen in kritischen Infrastrukturen sollten Sicherheitszugangsstandards festgelegt werden, und man darf nicht warten, bis Risiken ausbrechen, um hastig eine Sicherheitsabwehr für KI aufzubauen.

Dieser Artikel stammt von „Jiemian News“, Autor: Song Jiannan, veröffentlicht mit Genehmigung von 36Kr.