Salto rückwärts: Apple möchte KI-Modelle doch mit Nutzerdaten trainieren

Die Gier nach immer intimeren KI-Trainingsdaten macht auch vor Apple nicht halt: Um Siri AI weiterzuentwickeln und die hauseigenen Sprachmodelle zu trainieren, will der iPhone-Hersteller erstmals persönliche Nutzerdaten aus Siri-Gesprächen verwenden – darunter selbst Audiomitschnitte. Eine solche Verwendung der Nutzerdaten zum Trainieren von KI-Modellen hatte der Konzern bislang kategorisch ausgeschlossen – und sich damit klar gegen die Konkurrenz positioniert.

Apple kann „deine gesamten Interaktionen mit Siri und der Diktierfunktion speichern, einschließlich der Audiodaten und Transkripte deiner getippten und gesprochenen Siri-Anfragen sowie der Antworten von Siri“, heißt es in einer Datenschutzerklärung, die in der jüngsten Vorabversion von iOS 27 zu finden ist. Die Daten sollen nicht mit dem Apple-Account verknüpft sein, betont das Unternehmen. „Apple unternimmt Schritte, um sicherzustellen, dass persönliche Daten nicht von Apple gespeichert oder verwendet werden“. Ein Teil dieser Nutzerdaten könne von nicht näher erläutertem „Prüfpersonal überprüft werden“. Das Audiomaterial werde nur von Apple-Mitarbeitern abgehört, heißt es weiter.

Opt-in bei Siri-AI-Aktivierung

Apple setzt dabei auf ein Opt-in-Verfahren: Bei der Aktivierung von Siri AI bittet der Hersteller darum, bei der Verbesserung des Chatbots zu helfen, wie Entwickler mit Zugriff auf den Release Candidate von iOS 27 berichten. Das Update erscheint für die Allgemeinheit am kommenden Montag, den 14. September. Dem kann man entweder zustimmen oder auf einen farblich unscheinbaren „Jetzt nicht“-Button drücken. Komplett verneinen lässt sich der Dialog nicht. Nutzer können das nach der Aktivierung in „Einstellungen \> Analyse & Verbesserungen“ wieder abschalten.

Zuvor hatte der Konzern still seine Leitlinien zu „verantwortungsvoller KI“ überarbeitet. Der Satz „Ihre privaten persönlichen Daten und Interaktionen werden niemals zum Training unserer Foundation-Modelle verwendet“ endete bislang mit einem Punkt. Nun hat Apple diesen gestrichen und folgenden Passus ergänzt: „außer Sie entscheiden sich explizit dafür, bei deren Verbesserung zu helfen“.

Apple Watch liefert KI-Zusammenfassung von Gesprächen

Apple rückt damit nicht nur von seinem bisherigen Versprechen ab, Nutzerdaten niemals für das KI-Training zu verwenden, sondern untergräbt auch das Versprechen seiner „Private Cloud Compute“: Diese soll ebenso privat arbeiten wie lokale KI-Modelle, aber dabei die Leistung von Cloud-Frontier-Modellen bieten. Nutzer werden weder langfristig gespeichert noch für Dritte an irgendeinem Punkt zugänglich gemacht, wie Apple betont. Auf Private Cloud Compute greifen sowohl Siri AI zurück als auch viele Apple-Intelligence-Funktionen. Mit iOS 27 sind erstmals auch Google-Server Teil von Apples Private Cloud Compute.

Die Kehrtwende kommt zu einem denkbar ungünstigen Zeitpunkt: Neben dem iPhone Duo hat der Hersteller in dieser Woche auch zwei Apple-Watch-Modelle vorgestellt, die darauf ausgelegt sind, dauerhaft mitzuhören. Das soll dem Träger ermöglichen, jederzeit ein Gesprächstranskript der vorausgehenden 15 Sekunden zu erhalten – sowie eine Zusammenfassung sämtlicher Alltagsgespräche als „Siri Recap“. Letzteres greift nach Apples Beschreibung ebenfalls auf Private Cloud Compute zurück.

Vor mehreren Jahren erlebte Apple seinen bislang größten Datenschutzskandal, nachdem Mitarbeiter von Subunternehmen über ihren Arbeitsalltag berichtet hatten, der daraus bestand, Siri-Audiomitschnitte auszuwerten. In den teils wohl ungewollten Siri-Aufzeichnungen seien intime Details und persönliche Informationen zu hören gewesen, die Arbeit sei unter laxen Datenschutzvorgaben verrichtet worden. Apple stoppte die Audioauswertung der Siri-Mitschnitte daraufhin temporär und brachte dies dann mit einem Opt-in zurück.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.