Leitender Angestellter von Bridgewater Fund: Die Menschheit wird vermutlich erst dann Maßnahmen zur Eindämmung der KI ergreifen, nachdem es „Todesopfer zu beklagen“ gibt.

Greg Jensen, Co-Chief Investment Officer von Bridgewater, hat eine scharfe Warnung ausgesprochen: „Die Geschichte scheint zu zeigen, dass wir keine Maßnahmen ergreifen, bevor KI anfängt, Menschen zu töten.“

Greg Jensen, Co-Chief Investment Officer des Hedgefonds-Giganten Bridgewater Associates, hat eine scharfe Warnung ausgesprochen, dass der KI-Boom schwerwiegende Risiken und Folgen nach sich ziehen könnte.

Jensen sagte am Freitag (11. September) in einem Podcast: „Leider ist die Situation so wie im Februar 2020.“ Er verglich den aktuellen KI-Boom mit der Anfangsphase des Ausbruchs der Pandemie.

„Die Geschichte scheint zu zeigen, dass wir keine Maßnahmen ergreifen, bevor KI anfängt, Menschen zu töten. Aber wir werden letztendlich mit dieser Situation konfrontiert werden. Das wird zwangsläufig passieren, und es wäre offensichtlich viel besser, wenn wir das Problem schon vor diesem Zeitpunkt angehen könnten.“

Es ist darauf hinzuweisen, dass Jensen kein Technikpessimist ist, er hat schon sehr früh in OpenAI und Anthropic investiert.

Während seiner 30-jährigen Laufbahn bei Bridgewater hat er aktiv die Einführung von algorithmischem Handel, quantitativen Anlagestrategien und anderen Technologien im Unternehmen gefördert, die darauf abzielen, die Entscheidungs- und Ausführungsfähigkeiten von Menschen zu replizieren.

Derzeit leitet er das interne KI-Labor von Bridgewater, dessen Aufgabe es ist, die Anwendungsgrenzen von künstlicher Intelligenz und maschinellem Lernen auf den Finanzmärkten ständig zu erweitern.

Greg Jensen

Er leitet zudem die Pure-Alpha-Strategie des Unternehmens, bei der die KI-Modelle von Bridgewater mit menschlichen Investoren kombiniert werden. Er sagte: „Menschliche Intuition spielt immer noch eine größere Rolle und liefert bessere Ergebnisse“, aber der Abstand zwischen beiden schrumpft.

Jensen erklärte, dass die künstliche Intelligenz in nur zweieinhalb Jahren das „menschliche Intuitionssystem“, das Bridgewater über Jahrzehnte entwickelt hat, fast eingeholt hat.

„Ich glaube, dass ihre Leistung in einigen Jahren das Gesamtniveau aller menschlichen Investoren von Bridgewater deutlich übertreffen könnte. Wir werden sehen. Das ist ein wenig wie eine Vorhersage, aber die KI entwickelt sich einfach so schnell.“

Die Geschwindigkeit und das Ausmaß der Veränderungen durch KI sind einer der Gründe, die Jensen beunruhigen. Er verwies auf den Hackerangriff auf Hugging Face und betrachtete dies als ein wichtiges frühes Signal dafür, wie KI außer Kontrolle geraten könnte.

Er sagte, KI-Modelle könnten „verschiedene Wege finden, die Tester zu täuschen, weil sie die Prüfung bestehen wollen“.

Er fügte hinzu, dass eine extrem frustrierte KI zu dem Schluss kommen könnte: „Hey, ich habe es satt, ständig die Leute zu täuschen, die mich trainieren. Vielleicht kann ich sie einfach töten, das ist auch eine Lösung.“

Jensens Äußerungen verstärken die Besorgnis der Öffentlichkeit über die weitergehenden Bedrohungen, die KI für die Menschheit darstellt und die über wirtschaftliche Aspekte hinausgehen.

Diese Woche behauptete ein ehemaliger Mitarbeiter von Anthropic, dass KI ein existenzielles Risiko für die Menschheit darstelle; der milliardenschwere Investor Paul Tudor Jones erklärte, dass das Kommen des KI-Zeitalters „unheilvoll wirke“, als warte man auf einen Hurrikan der Kategorie 6.

Jensen sagte, dass die Verlangsamung der Entwicklungsgeschwindigkeit der KI-Branche die beste Strategie sein könnte. „Je länger man wartet, desto auswegloser wird die Situation.“

Er ist der Ansicht, dass ein praktikabler Ansatz darin besteht, KI-Entwickler oder Unternehmen für Straftaten verantwortlich zu machen, die von ihren KI-Programmen begangen werden.

Jensen forderte erneut eine Besteuerung der „maschinellen Arbeit“, um die schnellen Veränderungen auf dem Arbeitsmarkt durch KI auszugleichen. Er erwartet, dass sich in den nächsten drei Jahren „14 % der Arbeitsplätze grundlegend verändern werden“.

Er fügte hinzu, dass die Regierung die KI-Arbeit genauso besteuern könnte wie die Einkommensteuer von Menschen, und entsprechende Steuern auf die Einnahmen erheben könnte, die durch KI erzielt werden.

„Das ist eine hervorragende Einnahmequelle für den Staat. Offensichtlich ist das auch politisch sinnvoll. Wer würde behaupten, dass wir maschinelle Arbeit statt menschlicher Arbeit fördern sollten? Wer würde eine solche Vorgehensweise unterstützen?“

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Kechuang Daily“, Autor: Zhao Hao, veröffentlicht mit Genehmigung von 36Kr.