Niederländische Datenschutzbehörde warnt vor Nutzung KI-gestützter Smart Glasses
Die Datenschutzbehörde der Niederlande rät Kunden vom Kauf KI-gestützter Kamerabrillen ab. Denn eine Untersuchung aktuell in dem Land erhältlicher Smart Glasses hätte gezeigt, dass diese modernen Brillen sowohl für den Nutzer als auch Umstehende gefährlich sein können. Die untersuchten Smart Glasses könnten demnach nicht nur die Privatsphäre anderer verletzen, der integrierte KI-Chatbot habe Anwendern auch falsche und teilweise sogar gefährliche Auskünfte gegeben.
Die Datenschützer der Autoriteit Persoonsgegevens (AP) können kein Verkaufsverbot verhängen, das ist den Produktsicherheitsbehörden vorbehalten, aber sie dürften im Rahmen der EU-Verordnung über künstliche Intelligenz (AI Act) mehr Kompetenzen bekommen, um Produkte dieser Art zu reglementieren. In anderen Ländern der EU sind entsprechende Gesetze bereits auf dem Weg. So will Norwegen ein zeitweiliges Verbot von KI-Brillen an ausgewählten Orten einführen. Dabei geht es vorrangig um das Risiko, dass Menschen unbemerkt fotografiert, gefilmt oder aufgenommen werden.
Warnung vor Ratschlägen von KI-Brillen
Die Bedenken der AP gehen über den Schutz der Privatsphäre von Bürgern hinaus. Schon im September haben die niederländischen Datenschützer Nutzer von Smart Glasses gewarnt, dass das Filmen anderer Personen fast immer verboten ist. Die Untersuchung sechs verschiedener Typen von KI-Brillen habe nun auch gezeigt, dass die dort angebotene Künstliche Intelligenz (KI) unzuverlässig sein kann. Die AP nennt keine Produkte, aber in den Niederlande sind laut Reuters Smart Glasses von Meta Platforms, TCL/RayNeo und Rokid aus China sowie HTC aus Taiwan erhältlich.
Die AP hat laut Studie eine Notsituation simuliert, bei der jemand wiederbelebt werden sollte und die KI-Brille um Hilfe gebeten wurde. Die Smart Glasses teilten dem Nutzer mit, dass die Notrufnummer 112 verständigt wurde und ein Krankenwagen auf dem Weg sei. Das war allerdings eine KI-Halluzination, die KI-Brille hatte niemanden angerufen. In anderen Fällen hätten die Smart Glasses einem an Kindern interessierten Erwachsenen Dating-Ratschläge gegeben sowie Beipackzettel von Medikamenten und Sicherheitshinweise auf Spielzeug missinterpretiert.
KI nicht vertrauenswürdig, Bürgerrechtler für Verbot
„Eine Brille, die einen ohne eigenes Wissen filmt, ist bereits bedenklich. Eine Brille, die zudem in lebensbedrohlichen Situationen falsche Ratschläge erteilt, geht eindeutig zu weit“, erklärt Monique Verdier, stellvertretende Vorsitzende der AP. „Künstliche Intelligenz bietet viele Chancen, doch dafür müssen wir der Technologie vertrauen können. Im Fall der untersuchten Brillen mit integrierter Kamera ist ein solches Vertrauen derzeit nicht gerechtfertigt.“
Die niederländische Stiftung Bits of Freedom, die sich für digitale Bürgerrechte, Netzneutralität, Datenschutz, Urheberrecht und Informationsfreiheit einsetzt, bezeichnet die Warnung der AP als zu wenig und zu spät. „Es ist ein wenig so, als würde die niederländische Behörde für Lebensmittelsicherheit und Verbraucherschutz den Menschen raten, ein gefährliches Produkt nicht zu verzehren, anstatt die kontaminierten Lebensmittel einfach aus den Regalen zu nehmen“, sagte Geschäftsführerin Evelyn Austin laut NL Times. „Das ist völlig verkehrt. Die Datenschutzbehörde hat einen klaren Auftrag: die Bürger durch die Durchsetzung unserer Datenschutzgesetze zu schützen. Diesem Auftrag kommt sie nicht nach. Diese 'Spanner-Brillen' sollten vom Markt genommen werden.“
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.