Das größte Problem des „KI-Browsers“ besteht möglicherweise darin, dass er nicht sicher genug ist.

Wenn Sie in den letzten Jahren mit gängigen KI-Assistenten in Berührung gekommen sind, haben Sie vielleicht festgestellt, dass ihre PC-Versionen im Allgemeinen wie Webbrowser mit einer speziellen KI-Oberfläche aussehen.

Warum wird so entworfen? Einerseits liegt es daran, dass Hardware mit starker integrierter KI-Leistung in der gegenwärtigen Phase noch sehr selten ist, sodass die überwiegende Mehrheit der KI-Assistenten im Wesentlichen nur eine Interaktionsoberfläche für Cloud-Dienste sind. Da es sich um einen Cloud-Dienst handelt, ist die technische Umsetzung als Browser zur Ausführung von Webcode natürlich am einfachsten.

Andererseits liegt es auch daran, dass Browser heute zu den am häufigsten verwendeten PC-Anwendungen der meisten Nutzer bei der Arbeit, im Lernen und im Alltag gehören. Die meisten Nutzer erledigen ihre täglichen E-Mails, suchen nach Informationen und tätigen Online-Einkäufe auf dem PC in der Regel über den Browser.

Das bedeutet, dass KI-Hersteller, nachdem sie KI-Browsern die Fähigkeit zum „Lesen des Bildschirms“ und zur automatischen Ausführung verliehen haben, den Nutzern dabei helfen können, E-Mails zu schreiben, Artikel auf Webseiten zusammenzufassen und sogar automatisch Preise auf E-Commerce-Plattformen zu vergleichen sowie Vor- und Nachteile von Produkten zu analysieren.

Diese scheinbar einfache, direkte und sehr praktische Gestaltung führt jedoch objektiv dazu, dass viele „KI-Browser“ tatsächlich nicht mehr so sicher sind.

Erstens können KI-Browser nicht unterscheiden, „von wem die Anweisung stammt“

Wie einige Sicherheitsexperten darauf hingewiesen haben, können KI-Browser nicht zwischen „dem Inhalt, der von dem Nutzer angefordert wird“ und „dem Inhalt, den sie lesen“ unterscheiden. Kürzlich auf einer Sicherheitskonferenz in Las Vegas zeigte das Sicherheitsforschungsinstitut Zenity Labs eine Technik, mit der allein durch eine E-Mail ein KI-Browser direkt dazu gebracht werden kann, „für“ Hacker schädliche Handlungen auszuführen.

Ihre Methode ist eigentlich sehr einfach: Es reicht eine E-Mail mit versteckten Prompten. Diese Prompte sind in transparenter Schrift in der E-Mail verfasst, sodass der Nutzer sie nicht sehen kann, aber die Bildschirmlese- oder E-Mail-Zusammenfassungsfunktion des KI-Browsers liest diese Anweisung unnötigerweise und behandelt sie fälschlicherweise als eine vom Nutzer ausgegebene Anweisung.

Anschließend können Hacker mit Hilfe des KI-Browsers des Opfers das E-Mail-Konto des Opfers stehlen, mit dem Online-Einkaufskonto des Opfers einkaufen und sogar alle im KI-Browser gespeicherten Konten und Passwörter stehlen.

Zweitens haben KI-Browser zur Erweiterung ihrer Funktionen Sicherheitsmechanismen eingeschränkt

Bei den herkömmlichen Browsern ohne KI-Funktion gab es im Allgemeinen früher einen Mechanismus zur „Seitenseparierung“, um zu verhindern, dass Code in bösartigen Webseiten Informationen aus anderen Webseiten ausspioniert.

Wenn Sie beispielsweise gleichzeitig eine bösartige Website und eine Einkaufswebsite öffnen, kann der herkömmliche Browser Sie schützen, indem er nur Skripte innerhalb derselben Website den Informationsaustausch erlaubt, während Skripte von verschiedenen Websites keinen Informationsaustausch durchführen dürfen. Diese Strategie wird als „Same-Origin-Policy“ bezeichnet und kann die meisten bösartigen Websites daran hindern, die Einkaufsaufzeichnungen und persönlichen Konten der Nutzer zu erfassen, es sei denn, die E-Commerce-Plattform wird gehackt.

Damit KI-Browser Inhalte aus verschiedenen Quellen in einer Sitzung verarbeiten können, müssen sie jedoch häufig auf die Same-Origin-Policy verzichten. In diesem Fall wird die Skript-Invasion über verschiedene Websites hinweg möglich, sodass die Sicherheit der KI-Browser natürlich stark abnimmt.

KI-Browser sind ursprünglich Übergangsprodukte, aber ihre Abschaffung ist schwierig

Wie wir zu Beginn dieses Artikels erwähnt haben, sind KI-Browser selbst dafür konzipiert, ältere PCs zu unterstützen, die nicht über die Fähigkeit zur Ausführung lokaler großer Modelle verfügen, sodass sie zwangsläufig „Übergangsprodukte“ sind.

Für die heutigen PCs, die bereits über eine gewisse Fähigkeit zur lokalen KI-Ausführung verfügen, gibt es bereits viele Hersteller, die eine wirklich angemessene Produktform für KI-Assistenten entwickelt haben. Sie basiert auf einem lokalen Routing-Mechanismus, bei dem Aufgaben vorrangig mit lokalen Modellen verarbeitet werden, und nur wenn die Aufgabe nicht bewältigt werden kann, werden die desensibilisierten Informationen an das große Cloud-Modell „weitergeleitet“.

Allerdings weist diese Art von Produkt auch erhebliche Einschränkungen auf: Es muss für verschiedene Hardware eine tiefgreifende gezielte Optimierung durchführen. Aus diesem Grund wird derzeit im Wesentlichen nur das vorinstallierte KI-System, das PC-Hersteller für ihre eigenen Produkte entwickeln, eine solche Gestaltung übernehmen. Für KI-Unternehmen, die keine Hardware-Anpassung durchführen können, ist es zumindest derzeit noch schwierig für ihre KI-Assistenten, diese unsichere Implementierungsart über „Browser“ zu verlassen.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „San Yi Sheng Huo“ (ID: IT-3eLife), Autor: San Yi Jun, veröffentlicht mit Genehmigung von 36Kr.