„Nudify“-Apps und „Bait-and-Switch“: Apple verschärft App-Store-Bedingungen

Apple überarbeitet seine App-Store-Regeln in zwei wichtigen Bereichen, die in den vergangenen Monaten immer wieder in den Schlagzeilen waren. Der Konzern stellt damit Dinge klar, die eigentlich schon immer galten. Allerdings schreibt er sie nun direkt in die Bedingungen – wohl auch, damit Entwickler nicht auf die Idee kommen, sie seien zulässig. Dabei geht es zum einen um Programme zur Erstellung sogenannter Nudify-Apps, mit denen aus vorhandenem Bildmaterial (oder mittels generativer KI) Nacktaufnahmen generiert werden können, zum anderen um Apps, die gezielt Dinge tun, die so nicht beworben werden – das sogenannte Bait-and-Switch.

Genauere Formulierung der Regeln

Laut den neu gefassten App Review Guidelines, wie Apple seine App-Store-Regeln für Entwickler nennt, gilt mit der Regel 1.2, dass Developer proaktiv verhindern müssen, dass in ihren Programmen KI-generierte Deepfakes sexuellen Inhalts möglich sind. Zudem müssen entsprechende Inhalte aus Plattform-Apps entfernt werden. Schon jetzt sind sexuelle Inhalte im App Store grundsätzlich verboten. Nun behält sich Apple vor, solche Programme zu entfernen, sollten Entwickler nach Kenntnisnahme nicht reagieren. Dabei scheint es Apple spezifisch um Vorfälle wie etwa mit der Grok-App von SpaceXAi zu gehen, die problematische Deepfakes ermöglicht hatte. SpaceXAI reagierte erst auf die Drohung von Apple, Grok zu entfernen.

„Die Anforderungen an die Inhaltsmoderation beziehen sich ausdrücklich auch auf nicht einvernehmlich erstellte intime Darstellungen – einschließlich solcher, die mithilfe von KI-Tools generiert wurden. [Sie zählen] als Inhalte, die Apps proaktiv verhindern und von ihren Plattformen entfernen müssen“, stellt Apple klar. Es drohe das Risiko, gegen den „Developer Code of Conduct“ zu verstoßen, mitsamt einer möglichen Entfernung oder gar Sperre des Accounts. Findet Apple Inhalte, die mit Menschenhandel oder Missbrauch von Kindern zusammenhängen, löscht der Konzern weiterhin sofort.

Betrügerische Apps mit versteckten Funktionen

Schließlich geht Apple in der neu gefassten Regeln 2.5.19 auf „Bait-and-Switch“-Apps ein. Diese misrepräsentieren das, was sie tatsächlich tun, gegenüber Nutzern oder auch Apple. Funktionen werden dann gegebenenfalls später freigeschaltet.

Apple behält sich vor, diese Programme sofort zu löschen und Entwickler aus dem Apple Developer Program auszuschließen. Apple nennt als Beispiele Apps, die „normal“ aussehen, dann aber besagte „Nudify“-Funktionen aktivieren.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (heise Preisvergleich) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.