Apples neues Geschäft: Verkauf von KI-Hardware ohne Eingriffe in die Privatsphäre an Sie

„Welcome home.“

Mit dem Satz „Willkommen zu Hause“ legt Apple den Grundstein für die geheimnisvolle Neuheitenveranstaltung am 13. Oktober.

Das Wort „Home“ scheint die Hauptrolle dieser Veranstaltung anzudeuten. Wie wir bereits in früheren Berichten erwähnt haben, wird Apple diesmal wahrscheinlich viele neue Geräte in unsere Wohnungen bringen.

Bild | Apple

Hinter diesen neuen Hardwareprodukten versucht Apple auch, KI wirklich in den Alltag zu Hause zu bringen und Siri AI zum „Gehirn“ des gesamten Smart-Home-Systems zu machen.

Wenn Apple, das stets großen Wert auf den Datenschutz legt, auf KI trifft, die die Umgebung aktiv wahrnehmen muss, könnte die Datenschutzstrategie von Apple im KI-Zeitalter noch aufschlussreicher sein als die bevorstehenden neuen Produkte.

Vor einigen Tagen hat eine Enthüllung über Apples neues Gerät geradezu eine unkonventionelle Produktidee aufgedeckt:

Eine KI-Kamera, die keine Videos aufzeichnet

Laut einer Aussage des Bloomberg-Reporters Mark Gurman in seinem Podcast „Power On“ entwickelt Apple eine Smart-Home-Kamera mit dem Codenamen J450.

Ihre Form ist ein kleiner metallischer Zylinder, der wie eine vergrößerte Lippenstift aussieht und an verschiedenen Stellen im Haus platziert werden kann.

Das Besondere daran ist, dass diese Kamera keine Videos speichert oder überträgt. Sie nimmt die Umgebung mit einer sehr niedrigen Bildrate wahr, analysiert dann die Aktivitäten von Personen und Haustieren mit KI und wandelt die aufgetretenen Ereignisse schließlich in textliche Beschreibungen um.

In diesem Sinne ist es angemessener, sie als „Sensor“ zu bezeichnen …

Dieses Produkt wird keine eigene Produktlinie bilden, sondern ist ein Zubehör für das Smart-Home-Display-Zentrum mit dem Codenamen J490 – also das HomePad, das in früheren Enthüllungen erwähnt wurde.

Bild | MacRumors

Die Enthüllung erwähnt gleichzeitig, dass ihre Wahrnehmungsmethode sehr ähnlich der Technologie sein könnte, die Apple zuvor für die kameraausgestatteten AirPods erforscht hat.

Im August dieses Jahres wurde ein Demonstrationsvideo veröffentlicht: AirPods mit Kamera wurden verwendet, um Bücher vor den Augen des Benutzers zu erkennen. Im darauffolgenden September beschrieb Gurman in einem anderen Podcast die zugehörige Technologie als „Depth Map“ (Tiefenkarte) – sie ähnelt eher der Darstellung der Position und Bewegung von Personen durch punktuelle Informationen.

Wir lassen vorerst beiseite, ob die Enthüllung korrekt ist. Nutzen wir sie, um zu verstehen, was diese neue „Kamera“ eigentlich erreichen will.

Für eine herkömmliche Kamera bedeutet ein zehnminütiges Video zehn Minuten aufeinanderfolgende Bilder. Für eine KI, die visuelle Informationen verstehen kann, braucht der Benutzer möglicherweise nur einen Satz:

„Jemand hat das Paket vor die Tür gelegt und ist dann gegangen.“

Man kann nicht behaupten, dass vollständige Aufzeichnungen ihren Wert verlieren. Schließlich können die Informationen, die aufeinanderfolgende Bilder im wirklichen Leben liefern, von einem KI-generierten Text nicht vollständig wiedergegeben werden.

Aus dieser technologischen Perspektive bietet sie jedoch tatsächlich eine andere Idee: Geräte müssen nicht unbedingt alles aufzeichnen, was in ihrer Umgebung passiert, um zu verstehen, was gerade vor sich geht.

Um es mit einem Vergleich zu beschreiben: Das Wahrnehmungskonzept, das Apple erforscht, ähnelt einem mattierten Glas auf einer Badezimmertür.

Personen vor der Tür können immer noch sehen, ob sich jemand im Inneren befindet, und sogar anhand der verschwommenen Umrisse erraten, was eine Person ungefähr tut. Aber zumindest können sie nicht mehr jede Bewegung im Inneren klar erkennen, wie durch ein durchsichtiges Glas.

Das bedeutet natürlich nicht, dass der Datenschutz absolut sicher ist. Schließlich ist mattiertes Glas keine Wand, es lässt immer noch etwas durchscheinen.

Aber der psychologische Druck, den beide erzeugen, ist keineswegs vergleichbar. Wenn ein Badezimmer nur aus durchsichtigem Glas besteht, werden nur wenige Leute bereit sein, es zu betreten. Wenn das Glas aber mattiert ist, sind viele Leute bereit, dieses Maß an Offenheit zu akzeptieren, selbst wenn sie wissen, dass andere immer noch ihre Umrisse sehen können.

Was Apple zu ändern versucht, ist genau diese psychologische Grenze.

Die kürzlich vorgestellte Apple Watch Series 12 bringt die Funktion Siri Recap. Ich denke, sie spiegelt auch eine ähnliche Idee wider.

Bild | Apple

Nachdem der Benutzer die Funktion aktiviert hat, kann die Uhr Gespräche in der Umgebung erkennen und mithilfe von Apple Intelligence Titel, Zusammenfassungen und Kernpunkte generieren, damit der Benutzer sie später nachvollziehen kann.

Dabei werden die erfassten Audiodaten von iPhone und PCC (Private Cloud Computing) analysiert und transkribiert. Am Ende bleibt eine „hochkomprimierte und von sensiblen Informationen bereinigte“ Aufzeichnung in Textform übrig, während die ursprüngliche Tonaufnahme dem Benutzer nicht zur Wiedergabe zur Verfügung steht.

Wenn wir nun wieder auf diese Kamera blicken: Beide scheinen unterschiedliche Produktformen zu haben, aber die Richtung, die Apple bei beiden erforscht, ist im Grunde dieselbe:

Vom Aufzeichnen dessen, was passiert, hin zum Verstehen dessen, was passiert.

Soziales Vertrauen, das durch KI neu gestaltet wird

Bisher reagierten intelligente Geräte meist passiv auf die aktiven Aktionen des Benutzers. In Zukunft muss der KI-Assistent die Umgebung des Benutzers aktiv und kontinuierlich verstehen, um Dienste anbieten zu können, die besser zur jeweiligen Situation passen. Das ist das Konzept des „persönlichen Kontexts“, das wir oft erwähnen.

Hieraus entsteht auch der Widerspruch.

Je besser ein Gerät den Benutzer kennt, desto wahrscheinlicher ist es, dass es auf Lebensdetails zugreift, die der Benutzer nicht aufgezeichnet haben möchte. Noch komplexer ist, dass der Datenschutz nicht nur den Gerätebesitzer betrifft, sondern auch Freunde, Familienmitglieder und sogar andere Personen, die versehentlich in den Wahrnehmungsbereich geraten.

Ein einfaches Szenario: Sie sitzen mit einem Freund in einem Café und unterhalten sich, während er eine intelligente Brille trägt. Sie diskutieren wie gewohnt über die Arbeit und beschweren sich über Kollegen.

Auf den ersten Blick mag es nicht wie ein großes Problem erscheinen, es ist ja nur eine Brille.

Aber wenn dieser Freund plötzlich ein Diktiergerät herausnimmt, es auf den Tisch legt und Ihnen mitteilt, dass alle Ihre Beschwerden über exzentrische Kunden, Ihre Ärgernisse bei Streitigkeiten mit Ihren Eltern und sogar alte Geschichten über Ihren Ex-Partner aufgezeichnet, auf einen unbekannten Server hochgeladen und schließlich zu einer Notiz zusammengestellt werden, auf die er jederzeit zugreifen kann.

Diesen Kaffee werden Sie höchstwahrscheinlich nicht mehr trinken wollen.

Denn in unserer traditionellen sozialen Umgebung gibt es viele Regeln, die nicht ausdrücklich ausgesprochen werden müssen.

Bei zufälligen Gesprächen zwischen Freunden wird standardmäßig nicht aufgezeichnet; Witze am Esstisch werden nach dem Lachen einfach vergessen – diese Regeln sind selten in formellen sozialen Etiketten niedergeschrieben, aber sie bilden das stillschweigende Einverständnis im Umgang zwischen Menschen.

Die echte Notlage ist, dass KI-tragbare Geräte dieses Einverständnis allmählich auflösen.

Früher mussten wir, um ein Gespräch aufzuzeichnen, normalerweise das Handy herausnehmen und die Aufnahme starten, sodass die Personen in der Umgebung zumindest die Chance hatten, nachzufragen.

Heute gibt es bei einigen intelligenten Brillen eine Aufnahmeanzeigeleuchte, die die Personen in der Umgebung darauf hinweist. Auch wenn dies meiner Meinung nach mehr oder weniger die Bedeutung hat: „Ich habe dich gewarnt, der Rest geht mich nichts mehr an.“

Die leuchtende Anzeige ist letztendlich nur eine Erinnerung, kein Versprechen. Sie bedeutet nicht, dass die Personen in der Umgebung der Aufnahme zugestimmt haben.

Darüber hinaus werden zukünftige Geräte, die die Umgebung rund um die Uhr wahrnehmen können, möglicherweise sogar den Schritt „Aufnahmetaste drücken“ überspringen. Selbst wenn der Träger nichts aktiv tut, hat das Gerät die Wahrnehmung und Analyse bereits im Stillen abgeschlossen.

Das ist auch das Dilemma einiger aktueller KI-Hardwareprodukte: Viele ihrer Funktionen basieren auf der Umfelderfassung, bei der die Personen in der Umgebung möglicherweise nicht informiert sind und nicht zugestimmt haben.

Das zwingt uns, unser Verständnis von „Datenschutz“ neu zu überdenken.

Früher, wenn wir über Datenschutzprobleme bei technischen Produkten sprachen, konzentrierten wir uns meist auf Datensicherheit und den Diebstahl personenbezogener Daten. Zum Beispiel, ob unsere Chat-Protokolle durchgesickert sind oder ob die Plattform diese Informationen ohne unsere Zustimmung an Dritte weitergibt.

Wenn KI-Geräte die Fähigkeit erlangen, die reale Welt kontinuierlich wahrzunehmen, gewinnt das Datenschutzproblem eine neue Komplexitätsebene.

Tatsächlich hat die amerikanische Datenschutzforscherin Helen Nissenbaum schon vor dem Aufkommen von KI-tragbaren Geräten eine Theorie zum Verständnis von Datenschutz vorgeschlagen – die „Kontextuelle Integrität“ (Contextual Integrity). Ich denke, sie ist auch im KI-Zeitalter anwendbar.

Die Theorie der kontextuellen Integrität lehrt uns, dass Datenschutz nicht einfach gleichbedeutend mit Geheimhaltung ist.

Wir tauschen täglich Informationen in verschiedenen sozialen Beziehungen und Szenarien aus. Ob der Fluss dieser Informationen angemessen ist, hängt weitgehend davon ab, ob er den Regeln entspricht, die die Menschen in bestimmten Kontexten standardmäßig akzeptieren. Zum Beispiel erzählen wir unserem Arzt bei einer Untersuchung körperliche Zustände, die selbst unsere Familienmitglieder möglicherweise nicht kennen.

Um zu beurteilen, ob der Fluss einer Information eine Grenze überschreitet, müssen wir berücksichtigen, wer die Information übermittelt, wer sie empfängt, welchen Inhalt sie hat und unter welchen Bedingungen sie übermittelt wird.

Selbst wenn sich die Information selbst nicht ändert, kann eine ursprünglich angemessene Informationsübertragung die Datenschutzgrenze überschreiten, sobald sich der Empfänger oder die Übermittlungsmethode ändert.

Nehmen wir wieder das Beispiel der Arztbesuchs: Ich bin bereit, meinem Arzt über meinen Gesundheitszustand zu berichten, aber wenn diese Informationen ohne meine Zustimmung an Werbetreibende weitergegeben werden, ist das selbst bei unverändertem Inhalt kaum akzeptabel für mich.

Kehren wir zurück zum Café-Szenario.

Ich bin bereit, meinem Freund über meine Beschwerden über Kunden zu erzählen, das bedeutet aber nicht, dass ich damit einverstanden bin, dass dieses Gespräch von seiner intelligenten KI-Brille erfasst und analysiert wird. Selbst wenn keine Informationen durchsickern, geht das grundsätzlich weit über meine Erwartungen an das Szenario der „privaten Unterhaltung“ hinaus.

Daher darf der Datenschutz nicht erst nach der Datenerhebung einsetzen. Die Entscheidung des Geräts, was aufzu