Analyse: Apples Audio Intelligence – ist das schon die Dystopie?

Die erste Reaktion vieler Nutzer auf Apples neue Audio-Intelligence-Funktion dürfte ähnlich ausfallen wie jene auf die zuvor geleakten (und bislang noch nicht offiziell präsentierten) AirPods mit Kamera: Was, bitte, soll das? Hat Apple vor, sein Image als Privatsphären-Pionier zu verspielen? Die Features, die da gestern auf der Keynote fast nebenbei angekündigt wurden und zunächst nicht in der EU verfügbar gemacht werden sollen, klingen, und das darf man mit Fug und Recht behaupten, für eine Firma wie Apple wild. Sie erinnern an enorm umstrittene KI-Gadgets kleiner Start-ups wie das kürzlich von Amazon erworbene Bee, die – zumindest bislang – schnell kamen und wieder gingen. Nur dass Apple die Funktionalität nun in die jüngsten Varianten der beliebtesten Wearables der Welt integriert: die neuen Apple-Watch-Modelle Series 12 und Ultra 4. Man bekommt das ungute Gefühl, als habe Apple vor, unter dem neuen CEO John Ternus im Hinblick auf KI-Verrücktheiten eine massive Aufholjagd zu starten.

Kurz vor der Keynote hatte es bereits einen Leak gegeben, laut dem Apple plant, über eine neue Funktion auf der Computeruhr den Tagesverlauf des Nutzers mittels Audioerkennung zu erfassen. Dieses Ambient-Sensing-Feature steckt im Code von iOS 27 beziehungsweise watchOS 27. Es soll Vorgänge wie Geschirrspülen, Essen, Gehen, Gartenarbeiten, Anziehen, die Nutzung des ÖPNV (Bus und Zug unterscheidbar), Arbeiten an Laptop, Tablet oder iPhone und sogar Unterricht und Meetings oder das Bücherlesen erkennen – samt Ort und Zeit sowie beteiligte Personen, falls bekannt. Angekündigt hat Apple diese dystopische Vollerfassung allerdings (noch?) nicht. Ob sie wirklich kommt, ist unklar.

Klar ist hingegen, dass vier Audio-Intelligence-Funktionen kommen, die Apple offiziell zunächst auf Englisch erscheinen lassen wird. Sie sollen teilweise sofort mit Start der neuen Apple-Watch-Modelle, einige aber auch später in diesem Jahr als Betaversion verfügbar gemacht werden. Die spektakulärste neue Funktion, die noch für viele Diskussionen sorgen wird, nennt sich Live Rewind. Wie Ron Huang, Apples Vizepräsident für „Sensing and Connectivity“, im Plauderton erzählte, ist die Apple Watch ja „immer an Deinem Handgelenk“. Deshalb sei sie in Kombination mit Apple Intelligence auf dem iPhone ideal dafür positioniert, „um Umgebungsgeräusche wahrzunehmen und den Überblick über Deine Konversationen zu behalten“.

Dann zeigt der Konzern während der Keynote auch, was damit gemeint ist: Wir sehen eine Person, die sich von einer Restaurantfachkraft die heutigen Spezialitäten erklären lässt, was ihr allerdings zu schnell geht. Sie drückt zweimal auf die digitale Krone und bekommt dann in Form eines Transkripts auf der Uhr angezeigt, was in den letzten 15 Sekunden gesagt wurde. Das lässt sich auf Wunsch auch in der Siri-App abspeichern.

Das heißt: Mit Live Rewind hört die Apple Watch künftig dauernd zu. Apple macht großen Wind darum, wie gut geschützt das alles sein soll. Es gibt ein eigenes Datenschutz-Whitepaper zu diesem und den anderen Audio-Intelligence-Features, in dem unter anderem erläutert wird, dass es keine Aufzeichnung von Audioinhalten gebe und weder Apple noch der Nutzer Zugriff darauf hätten. Man setzt unter anderem auf die Secure Exclave in der Uhr, nutzt Ende-zu-Ende-Verschlüsselung zur iCloud-Synchronisation (falls man ein Transkript speichern will) und will die Transkribierung bei Live Rewind nur lokal auf der Uhr in Verbindung mit einem gekoppelten iPhone durchführen. Ist das iPhone nicht in Reichweite, wird der Audiostrom verworfen. Zudem handele es sich technisch um einen „continous rolling buffer“, bei dem „ständig altes Audio durch neues ersetzt wird, sodass Audio sich nicht ansammelt“.

Menschen in der Umgebung, die nun laufend aufgezeichnet werden, will Apple dadurch respektieren, dass es auch bei deaktiviertem Apple-Wach-Lautsprecher und/oder gekoppelten Kopfhörern ein Audiosignal gibt (und eine „Animation auf dem ganzen Display“), sobald man die letzten 15 Sekunden abfragt. Im Fall der besagten Demonstration auf der Keynote mit der Restaurantfachkraft hätte das allerdings wenig gebracht, denn die war längst weg, als das Transkript aufgerufen wurde. Nun mögen 15 Sekunden Sprachaufnahme nicht viel sein und die Funktion kann Leuten helfen, die Probleme im Alltag haben, etwa bei einer Aufmerksamkeitsstörung, Demenz oder anderen Behinderungen.

Doch letztlich wird mit dieser Dauertranskribierung ein sozialer Vertrag gebrochen: Wir zeichnen nicht ständig auf, was andere sagen, was auch dabei hilft, das man leichter „vergeben und vergessen“ kann. Man stelle sich Live Rewind etwa bei Streitigkeiten zwischen Partnern vor: ein „He-said-she-said“ ganz neuer Dimension! Schließlich dürften sich Kriminelle wie Sicherheitsbehörden nach den Daten die Finger lecken, selbst wenn Apple alle notwendigen Sicherheitsmaßnahmen trifft. Zudem werden sich viele andere Firmen, die weniger auf Datenschutz achten, von Apple inspirieren lassen. Warum man all das bei der Umsetzung der Funktion offenbar nicht bedacht hat, ist rätselhaft.

Die zweite Audio-Intelligence-Funktion kann ebenfalls datenschutztechnisch zum Problem werden: Siri Recap. Hier kommt neben der Apple Watch selbst plus dem iPhone auch Apples Private Cloud Compute zur (hoffentlich möglichst nicht halluzinierten) KI-Zusammenfassung zum Einsatz. Der Konzern will mit der Funktion schnell wachsenden Anbietern wie Granola Konkurrenz machen. Die Idee: Gespräche und Meetings sollen via Siri AI erfasst und zusammengefasst werden, wobei Apple „by design“ keine Sprechererkennung implementiert, was die Nützlichkeit bremst. Siri Recap kann hingegen Informationen von Apps nutzen – etwa welche Musik oder welcher Podcast gerade läuft, um festzustellen, ob ein Gespräch womöglich gar nicht vom Nutzer kommt. Das System hält auch Orte fest (nicht genau, aber etwa „Heim“, „Arbeit“,„Schule“ sowie Stadt und Land) und (er)kennt Point of Interests wie „Park“ oder „Supermarkt“. Apple will „sensible“ Informationen wie Finanzdaten, ID-Nummern oder andere Daten automatisch verwerfen, die eine Person identifizieren könnten.

Aber auch hier ist die Art des Aufrufs potenziell ziemlich problematisch: Zwar kann man Siri Recap aktiv an- und ausschalten, wie von anderen KI-Zusammenfassungslösungen bekannt, es gibt aber auch mehrere Automatikfunktionen. Diese erlauben die Aktivierung entweder nach Zeiten und Orten, oder auch – und jetzt kommt’s – als „Always-on“. Letzteres bedeutet, dass die Watch ständig mithört, ob der Nutzer womöglich in einem Gespräch ist, um dann mit dem Transkribieren und Zusammenfassen zu beginnen. Live Rewind bleibt offenbar parallel aktiv. Siri-Recaps-Zusammenfassungen werden standardmäßig sieben Tage auf dem Gerät abgelegt, außer man speichert sie explizit. Apple betont auch hier, dass kein „Raw Audio“ aufgezeichnet oder rekonstruierbar sei. Zudem will man nur „High-level Summaries“ erstellen, Wort-für-Wort-Transkribierungen werden nicht bereitgestellt.

Audio-Intelligence-Feature drei und vier klingen gegen Live Rewind und ein Always-on-Siri-Recap fast harmlos: Sound Recogniton erkennt, nützlich etwa für Menschen mit Hörbehinderung, Rauchmelder, Türklingeln oder das Schreien eines Babys und alarmiert den Apple-Watch-Nutzer. Die Funktionen gab es zuvor schon auf dem iPhone. Apples Musikerkennung Shazam wiederum bekommt ebenfalls einen Dauerzuhörmodus auf der Computeruhr, wenn Nutzer dies erlauben: Audio wird „in kleinen Segmenten“ gepuffert und die Watch kann dann prüfen, welches Musikstück gespielt wurde. Die Daten sollen „sofort weggeworfen“ werden, wenn sich nichts Passendes findet, sagt Apple.

Analyse: Apples Audio Intelligence – ist das schon die Dystopie?

Ein Gerät, das Millionen am Handgelenk tragen, hört mit und erkennt, was wir sagen: Nicht weniger soll Audio Intelligence für die Apple Watch sein.