EU Kids Act: Kindersicherungen längst nicht nur für soziale Netzwerke

Bei einer Pressekonferenz stellten EU-Kommissionspräsidentin Ursula von der Leyen und ihre für Digitalpolitik zuständige Stellvertreterin Henna Virkkunen heute die genaueren Pläne für den sogenannten „Kids Act“ vor. Von der Leyen hatte diesen gestern im Europaparlament angekündigt. Das nun von der EU-Kommission offiziell angeschobene Gesetzesvorhaben soll Minderjährige im Netz besser schützen – von Snapchat, TikTok und Instagram über Videoplattformen und Onlinespiele bis hin zu KI-Chatbots, Betriebssystemen und Software-Stores.

Gestufter Ansatz; Australien kein Vorbild

„Kein Social Media unter 13, kein eigenes Konto unter 15“, sagte von der Leyen am Morgen. Der gestufte Ansatz solle sicherstellen, dass jeweils altersangemessene Maßnahmen ergriffen würden. Jahrelang hätten Plattformen ihre Verantwortung nicht wahrgenommen, kritisierte von der Leyen. Es sei eine „absolute Priorität“, so Henna Virkkunen. „Wir alle wissen, dass Social Media nur dafür da ist, Aufmerksamkeit zu ziehen und Kinder an den Bildschirmen festkleben zu lassen.“ Dies müsse aufhören.

Die Regelungen des Kids Act, den die EU-Kommission heute nun offiziell auf den Weg gebracht hat, unterscheiden dabei stark zwischen verschiedenen Angebotstypen. Keineswegs geht es dabei nur um Social-Media-Plattformen im engen Sinne, und je nach Angebotstyp haben die Anbieter unterschiedliche Vorgaben zu erfüllen. Man habe nicht dem „australischen Modell“ folgen wollen, das ein simples, aber ineffektives Verbot für Unter-16-Jährige bedeute. Für die großen Anbieter sei es kein Problem, technisch die Vorgaben zu erfüllen, wenn sie das wollten, meint ein hoher EU-Beamter am Donnerstag.

Grundidee: grundsätzlich geschützt

Grundsätzlich würde in Zukunft für alle unter den Kids Act fallende Anbieter gelten: Alles, was Kinder und Jugendliche gefährden könnte, soll unterbunden werden. Und zwar sowohl im Sinne der Selbstgefährdung als auch in der Gefährdung durch Dritte. Vor Suchtgefahren sollen etwa ein Autoplay-Verbot und ein Endless-Scrolling-Verbot schützen. Auch das Schüren von Verlustängsten beim Beenden eines Dienstes und ein Verbot von Belohnungssystemen für Interaktionen oder Live-Aktionen sollen das bekämpfen.

Die schärfsten Verpflichtungen betreffen soziale Netzwerke und solche, auf denen Nutzer selbst Videos teilen können. Sie sollen, so sieht es der Kommissionsvorschlag vor, nicht nur alle möglichen Features ausschalten. Dazu zählt etwa, dass Mikrofon und Kamera, Geolocation, Accountempfehlungen und Adressbuchsynchronisierung voreingestellt ausgeschaltet sein sollen. Dort, wo diese eingeschaltet werden, sollen sie unmittelbar nach dem Nutzungsende wieder abgeschaltet werden. Bis zum Alter von 13 Jahren soll grundsätzlich keinerlei Nutzung dieser Dienste mit eigenem Zugang möglich sein. Auf Videodienste sollen Kinder nur im Rahmen der Nutzung eines Kontos Sorgeberechtigter zugreifen können, auf soziale Netzwerke überhaupt nicht.

Mit 13 soll dann ein von Sorgeberechtigten kontrolliertes Konto möglich sein. Dafür müssen zum einen das Alter, zum anderen aber auch die Sorgeberechtigung nachgewiesen werden. Die Konten werden dabei von Erwachsenen verwaltet. Auf konkrete Inhalte können sie jedoch nicht zugreifen, so die Idee, um den Kindern auch Privatsphäre vor Eltern und anderen Sorgeberechtigten zu garantieren. Sie dürfen dann pro Anwendung maximal eine Stunde pro Tag als zulässige Nutzung für 13- bis 15-Jährige einstellen und die Anzahl der Kontakte beschränken können. Die Nutzung soll zudem nur außerhalb typischer Schlafkernzeiten und von Schulzeiten möglich sein. Diese Vorgabe ähnelt etwa den Maßnahmen, die im Meta-Vergleich in den USA festgelegt wurden. Ab 15 sollen die Jugendlichen dann allein ihre Konten nutzen dürfen, aber immer noch im geschützten Modus.

Kostenfallen, Grooming-Möglichkeiten, verantwortliche App-Stores

Doch auch andere Dienste sollen sich an weitere Vorgaben halten müssen. So sollen etwa Onlinespiele bei Minderjährigen ebenfalls keine Suchtreflexe mehr bedienen dürfen und in einfach verständlicher und transparenter Weise auf Kosten hinweisen müssen, die etwa beim Kauf mit virtuellen Währungen entstehen. Hier soll jeweils auch der umgerechnete Preis in echtem Geld angezeigt werden müssen.

Gefahren durch Dritte – wie etwa die Grooming genannte Kontaktanbahnung Erwachsener an Kinder und Jugendliche im Netz – sollen beispielsweise dadurch verringert werden, dass die Profile minderjähriger Nutzer grundsätzlich nicht öffentlich erreichbar sein sollen. Auch für ihre Inhalte soll das gelten.

Zudem kommt allen Onlineshops für Programme, wie etwa Apples App Store oder Googles Play Store, aber auch Steam, GOG oder die Stores von Spielekonsolen wie Sonys Playstation, Nintendos Switch 2 oder Microsofts Xbox, eine besondere Rolle zu: Sie sollen, so der Gesetzentwurf der Kommission, ein Alterseinstufungssystem besitzen und für jede angebotene Software eine altersangemessene Einstufung vornehmen. Jede dort verfügbare Software soll entsprechend eingestuft werden. Was nicht den Anforderungen an kindgerechte Vorgaben entspricht, soll gar nicht erst verfügbar gemacht werden.

Keine allgemeine Altersnachweispflicht, Rolle der EUDI – Wallet

Ein hoher EU-Beamter betonte, dass es beim Kids Act nicht darum gehe, von allen EU-Bürgern eine Alters- oder gar Identitätsprüfung zu verlangen. Für die meisten der nun verpflichteten Angebote müssten nur „Alterssignale“ vorliegen. Das könnte etwa auch eine jahrelange Nutzung einer Kreditkarte sein oder Vergleichbares. Die EU-Kommission unterscheidet deshalb zwischen einem Altersprüfungs- und einem Altersnachweissystem: Nur Onlinevideodienste mit Nutzer-Uploadfunktion und soziale Netzwerke sollen einen offiziellen Nachweis entsprechend der EU verlangen dürfen. Das schließt unter anderem reichweitenstarke Angebote der Erwachsenenunterhaltung mit ein, die oft Uploadfunktionen vorhalten, um im Zweifel nicht für Inhalte haften zu müssen, die Nutzer hochgeladen haben. Etwa 10 Mitgliedstaaten würden bereits über ein entsprechendes Altersnachweissystem verfügen, 10 weitere wären auf gutem Wege und bei 7 weiteren müsse noch etwas mehr Arbeit erfolgen.

Qua geltendem Recht müssten eigentlich alle Mitgliedstaaten ihren Bürgern bis Weihnachten 2026 eine digitale Ausweismöglichkeit entsprechend den Vorgaben der EUDI-Wallet zur Verfügung stellen. Der deutsche Digitalminister strebt für Anfang Januar 2027 das erste Release der deutschen Version an. Allerdings wird die zu diesem Zeitpunkt noch nicht den Anforderungen des Kids Act entsprechen, die EU-Vorgaben verlangen ausdrücklich einen Zero-Knowledge-Proof. Bei diesem wird nicht das konkrete Geburtsdatum übermittelt, sondern nur die Antwort, ob ein Kriterium erfüllt ist. Dazu wird die deutsche Wallet zum Start noch nicht in der Lage sein, doch bis dahin wird auch das neue EU-Onlinekinderschutzgesetz trotz aller Priorität bei Kommission, Mitgliedstaaten und Parlament noch nicht verabschiedet sein. Für den Übergang sind nur wenige Monate vorgesehen, doch das praktische Problem, dass die heute 13-Jährigen beim Inkrafttreten noch weniger als 15 Jahre alt wären, würde sich praktisch nicht stellen, heißt es aus der EU-Kommission: Bis das Gesetz verabschiedet wäre und dann die Regelungen greifen, würden diese absehbar bereits alt genug sein, um ein eigenes Konto zu haben.

KI mit Sonderstellung im Kids Act

Für die Nutzung von KI-Systemen gibt es im Kids Act hingegen keine Altersbeschränkung. KI-Dienste müssen jedoch dennoch ein Altersschätzungssystem nutzen, um einen altersangemessenen Umgang zu gewährleisten. Hier soll unter anderem eine Selbstverpflichtung der Branche entwickelt werden. Bei in regulierten Angeboten integrierten Chatbots sind diese grundsätzlich erst einmal abgeschaltet. Wenn diese angeschaltet werden sollen, gilt für sie wiederum das, was auch für andere Features unter dem Kids Act gelten soll.

Damit in all diesen Aspekten überhaupt Klarheit herrscht, was welche Anbieter leisten müssen, sollen die größten erst einmal selbst prüfen müssen. Bereits heute sind die besonders großen Plattformen unter dem Digital Services Act (DSA) dazu verpflichtet, Risikofolgenabschätzungen vorzunehmen. Künftig würde von diesen Anbietern mit mehr als 45 Millionen monatlichen Nutzern in der EU verlangt, bereits vorab detailliert darzulegen, wie sie Kinder und Jugendliche wirksam schützen würden. Dies soll von unabhängigen Auditoren geprüft und der EU-Kommission vorgelegt werden – die wiederum eingreifen darf, wenn ihr die Maßnahmen unzureichend vorkommen.

Kids Act dürfte einige Beratungszeit benötigen

Das neue Gesetzesvorhaben ist eng mit dem DSA einerseits und andererseits auch mit der KI-Verordnung verwoben. Es gehe darum, endlich Veränderungen in der Gesellschaft und bei den Unternehmen auszulösen, heißt es aus der EU-Kommission. „Der Kids Act ist kein Verbot von Social Media“, kommentierte ein hoher EU-Beamter. „In der Realität sieht man ja, dass die Plattformen bereits etwas tun. Nicht so schnell, wie wir das gerne hätten. Aber wir werden sie weiterhin ermuntern.“

Tatsächlich stellen sich auf dem Weg zur Umsetzung noch diverse Fragen – technische, rechtliche wie praktische. Eine schnelle Verabschiedung dürfte dem Vorhaben daher kaum beschieden sein, auch wenn der Kinderschutz im Internet derzeit in ganz Europa hoch auf der Agenda steht. Und die Erwachsenen? „Natürlich sind nicht nur Kinder gefährdet“, erklärte Kommissionspräsidentin Ursula von der Leyen am Morgen in Straßburg. Auch Erwachsene seien etwa von süchtigmachenden Designs betroffen. Der „Digital Fairness Act“, der im Herbst vorgestellt würde, solle auch hier Verbesserungen bringen.