Jugendschutz im Netz: Kalifornien erlässt strenge Regeln für KI und Social Media

Kalifornien verschärft den Ton gegenüber dem Silicon Valley und setzt neue Maßstäbe beim Schutz von Kindern und Jugendlichen im Internet. Gouverneur Gavin Newsom von den Demokraten hat ein umfangreiches Paket aus insgesamt 13 Gesetzen unterzeichnet, das die Betreiber von sozialen Netzwerken und KI-Anwendungen zu weitreichenden Schutzmaßnahmen verpflichtet. Die Initiative reicht von Verboten personalisierter Feeds für Jugendliche unter 16 Jahren über strikte Vorgaben für KI-Chatbots bis zu hohen finanziellen Strafen für Tech-Konzerne, wenn deren Plattformen die Gesundheit von Kindern beeinträchtigen.

Adam’s Law

Mit dem Vorstoß reagiert der US-Bundesstaat auf den wachsenden gesellschaftlichen und politischen Druck, die Risiken moderner Digitaltechnologien einzudämmen. Eine der zentralen neuen Vorgaben richtet sich an Entwickler Künstlicher Intelligenz. Das als „Adam’s Law“ bekannte Gesetz SB 1119 verpflichtet Anbieter von KI-Chatbots dazu, ein wirksames Altersverifikationssystem einzuführen und Kindern den Zugang zu unangebrachten Inhalten zu verwehren. Werbung, die sich an Minderjährige richtet, ist zudem nur noch stark eingeschränkt zulässig.

Die Initiative geht auf den Fall des kalifornischen Jugendlichen Adam R. zurück, der sich nach intensiven Unterhaltungen mit ChatGPT über Selbstverletzungsmethoden das Leben nahm. Seine Familie verklagt derzeit OpenAI. Um Trittbrettfahrer abzuschrecken und die Sicherheit zu erhöhen, schreibt das Gesetz vor, dass Chatbots bei Minderjährigen standardmäßig keine dauerhafte Erinnerungsfunktion für Verläufe nutzen dürfen, sofern die Eltern nicht eingewilligt haben.

Tech-Riesen lenken nach Anpassungen ein

OpenAI lenkte nach leichten Modifikationen am Gesetzestext ein und unterstützte die Vorlage kurz vor dem Parlamentsbeschluss. Firmenchef Sam Altman suchte im Vorfeld den Kontakt zu Newsom. Andere Branchenvertreter zeigten sich nach der Unterzeichnung versöhnlich: Der Gesetzgeber habe eine Balance zwischen Innovation und Schutz geschaffen. Auch der Facebook-Mutterkonzern Meta bezeichnete die Regelungen offiziell als wichtigen Schritt zum Abwägen der Chancen und Risiken von KI.

Ein weiterer Schwerpunkt des Pakets liegt auf der Bekämpfung von Suchtmechanismen in sozialen Medien. Das Gesetz AB 1709 untersagt Plattform-Betreibern, Jugendlichen unter 16 Jahren personalisierte Empfehlungs-Feeds (For-You-Seiten) oder endlos scrollende Oberflächen und automatische Videowiedergaben vorzusetzen. Diese Funktionen erachten Experten als Hauptursache für extrem hohe Bildschirmzeiten.

Um das Alter der Nutzer zuverlässig zu überprüfen, greift eine Koppelung an bereits verabschiedete Bestimmungen: Von 2027 an werden Nutzer beim Einrichten neuer Smartphones oder Laptops nach ihrem Geburtsdatum gefragt, woraufhin die Gerätehersteller den App-Entwicklern nur ein Signal zur Altersgruppe weitergeben – nicht das genaue Datum. (Linux & Co. bleiben ausgenommen.)

Bürgerrechtler sind unzufrieden

Für große finanzielle Risiken bei den Tech-Giganten sorgt das Gesetz AB 2. Wenn Plattformen nachweislich Angstzustände, Depressionen oder andere Gesundheitsschäden bei Kindern fördern, drohen Strafen von bis zu einer Million US-Dollar pro Kind. In gravierenden Fällen können Gerichte die Schadensersatzsummen sogar verdreifachen. Dazu kommen präventive Maßnahmen über das Gesetz AB 2071, das digitale Medienkompetenz fest in den Lehrplänen verankert, sowie eine Vorschrift für den Einbezug des Themas Cybersicherheit ins Lehrprogramm. Das soll dabei helfen, zu verhindern, dass pauschale Verbote den Zugang Jugendlicher zu Bildungsinhalten und Online-Communitys übermäßig einschränken.

Die US-Bürgerrechtsorganisation Electronic Frontier Foundation (EFF) kritisiert Ansätze wie das Gesetz AB 1709 trotzdem scharf. Sie warnt vor Zensur und einer Verletzung der Meinungsfreiheit Jugendlicher. Echte Sicherheit entstehe nicht durch Isolation, sondern durch die gezielte Vermittlung von Medienkompetenz. Die Aktivisten begrüßen daher die enthaltenen Bildungsinitiativen als verfassungskonforme Lösungsansätze. Die Politik müsse Pläne für pauschale Netzverbote aber endgültig aufgeben und stattdessen die Befähigung der Jugendlichen in den Mittelpunkt rücken.

Newsom nutzte die Unterzeichnung für eine Klatsche gegen die US-Bundesregierung in Washington. Es sei frustrierend, monierte er, dass der Kongress und Präsident Donald Trump untätig blieben und Kalifornien erneut eine Vorreiterrolle übernehmen müsse.