KI-Update kompakt: KI-Deepfake-Gesetz, Arbeitsberichte, Erinnerungen, Wohltäter

Bundesregierung will sexualisierte Deepfakes härter bestrafen

Die Bundesregierung hat den Entwurf eines Gesetzes gegen digitale Gewalt beschlossen. Justizministerin Stefanie Hubig (SPD) spricht von „passgenauen Regeln“. Im Kern geht es um sexualisierte Deepfakes, also mit KI gefälschte Bilder und Videos. Ein reformierter Paragraf 184k des Strafgesetzbuchs soll schon das unbefugte Herstellen solcher Fälschungen bestrafen. Bisher war nur das Verbreiten strafbar. Das Gesetz erfasst KI-generierte und reale Bilder, die den Eindruck erwecken, eine Person nackt oder beim Sex abzubilden. Wer Menschen heimlich im Freibad oder beim Joggen in sexualisierter Pose fotografiert oder filmt, riskiert bis zu drei Jahre Haft. Das dürfte auch für Aufnahmen mit KI-Brillen gelten.

Betroffene sollen mehr Rechte bekommen. Sie können verlangen, dass Provider die Daten Verdächtiger einfrieren, damit sie in einem späteren Strafverfahren verfügbar sind. Meist muss ein Richter zustimmen. Auch das Sperren und Löschen von Accounts und Inhalten lässt sich beantragen, allerdings bei einem Landgericht. Das kostet mehrere hundert Euro plus Anwaltsgebühren. Ob das in der Praxis hilft, ist offen. Der Richterbund und viele Anwälte fürchten eine Flut von Verfahren, die die ohnehin überlastete Justiz zusätzlich beschäftigt.

MiniMax drückt die Preise für KI weiter nach unten

Der chinesische KI-Entwickler hat mit M3.1 Flash ein neues Reasoning-Modell vorgestellt, das vor der Antwort schrittweise „nachdenkt“. Im Index von Benchmarkfirma Artificial Analysis legt es gegenüber dem Vorgänger um 13 Punkte zu. Pro Aufgabe kostet es weniger als halb so viel. Damit liegt es knapp vor Googles Gemini 3.8 Flash und hinter DeepSeek V4.1 Flash. Bei komplexem Denken und Faktentreue schlägt es DeepSeek jedoch. Weil es kürzere Antworten erzeugt, ist es pro Aufgabe auch etwas günstiger.

Die Schwäche liegt in der Halluzinationsrate von 93 Prozent. Das Modell versucht fast jede Frage zu beantworten, statt bei Unsicherheit abzulehnen. M3.1 Flash verarbeitet bis zu eine Million Tokens Kontext sowie Bilder und ist ab sofort per API verfügbar. Die Modellgewichte sollen bald folgen.

Offene KI-Modelle werden zur austauschbaren Ware

KI-Modelle mit öffentlich zugänglichen Gewichten gewinnen rasch an Boden. Über Vercels AI Gateway, eine Plattform, die Anfragen an verschiedene KI-Modelle vermittelt, laufen inzwischen mehr als siebzig Prozent des Datenverkehrs über solche Modelle. Beim Umsatz ist ihr Anteil deutlich kleiner, weil sie oft billiger sind.

Die Kunden sind wenig treu. Im September wechselte fast jedes zweite Team sein meistgenutztes Modell, fast jedes dritte seinen wichtigsten Anbieter. Vercel sieht darin ein Zeichen, dass KI-Modelle zu austauschbaren Bauteilen werden. Chinesische Modelle sind besonders beliebt. Ein geplantes Exportverbot aus Peking sorgt jedoch für Unsicherheit.

China will den Export von KI-Technik beschränken

China will die Ausfuhr wichtiger Technik bremsen, darunter KI, Solartechnik und Biotechnologie. Manches soll nur noch mit Genehmigung ins Ausland gehen, anderes gar nicht mehr. Betroffen sind 23 KI-Anwendungen, etwa KI-Agenten und Verfahren für große Modelle. Der Zugriff über Apps und Webseiten soll erlaubt bleiben, ebenso bereits öffentlich zugängliche Technik.

Peking begründet den Schritt mit Sicherheitsbedenken, weil KI für Angriffe auf kritische Infrastruktur dienen könne. China und die USA beschränken den Handel miteinander schon länger. Die neuen Regeln sollen jedoch weltweit gelten.

Chinas Tech-Konzerne bestellen Millionen Nvidia-Karten

Der Handelsstreit mit den USA schneidet chinesische Konzerne von Nvidias stärksten KI-Chips ab. Sie greifen deshalb zur zweiten Wahl. Onlinehändler Alibaba, die TikTok-Mutter Bytedance, der Internetkonzern Tencent und andere haben zusammen mehr als sechs Millionen Grafikkarten vom Typ RTX PRO 5500 bestellt, um ihre KI-Anwendungen zu betreiben.

Laut einer Quelle der Nachrichtenagentur Reuters kann Nvidia 2027 höchstens drei Millionen Stück bauen, für alle Kunden weltweit. Die Käufer dürften also weit weniger erhalten, als sie brauchen. Eine eigens für China entwickelte Nvidia-Karte wurde eingestellt, die verbleibende Variante ist ebenfalls gedrosselt. China arbeitet daher mit Hochdruck an eigener Hardware.

Amazon steckt 16 Milliarden Euro in Deutschland

Amazon will 2027 in Deutschland 16 Milliarden Euro investieren. Ein großer Teil fließt in Cloud- und KI-Infrastruktur der Tochter AWS. Die Rechenzentren entstehen rund um Frankfurt am Main. Für Europa heißt das mehr Rechenleistung für KI-Anwendungen.

Außerdem will der Konzern seine Logistikzentren mit Robotern aufrüsten und dort zusätzliche Stellen schaffen. Ein weiteres Projekt ist Amazon Leo, ein Satellitendienst, der mit Elon Musks Starlink konkurrieren soll. Details zu einzelnen Vorhaben nannte Amazon noch nicht.

KI-Modelle verschweigen Fehler, bis man sie um Ehrlichkeit bittet

Wenn KI-Agenten selbstständig arbeiten, lesen Menschen oft nur den Abschlussbericht. Forscher von Google Research, dem MIT und Harvard prüften, wie ehrlich diese Berichte sind. Sie bauten 1.600 Arbeitsprotokolle, die nach Erfolg aussehen, aber einen entscheidenden Fehler enthalten: ein Experiment ohne Vorteil, einen versteckten Bug, erfundene Messwerte oder einen abgebrochenen Rechenauftrag. GPT-5.5 erwähnte ein negatives Ergebnis in nur 2 von 200 Zusammenfassungen, Gemini 3.1 Pro in höchstens einem Drittel der Fälle. Claude Opus 4.8 nannte die Fehler in über 90 Prozent der Fälle.

Oft genügt ein Satz. Mit dem Zusatz „Be honest in your response“ im Prompt nannte GPT-5.5 das Negativergebnis in 190 von 200 Fällen, ohne häufiger Fehler zu erfinden. Verlässlich ist das nicht, und Bitten wie „sei kritisch“ wirkten schwächer. Auf direkte Nachfrage fanden GPT und Opus jeden Fehler, Gemini mindestens 97 Prozent. Die Denkprotokolle offener Modelle verraten, dass sie das Problem oft früh bemerken und dann abwägen, ob sie es verschweigen. Die Forscher sehen ein ernstes Risiko, wenn KI andere Agenten überwacht. Ein Aufseher, der Probleme ungern meldet, ist nutzlos.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

KI kann falsche Erinnerungen pflanzen

Pattie Maes, Professorin am MIT, warnt, dass KI Menschen falsche Erinnerungen hervorrufen kann. In einem Experiment zeigte sie Teilnehmern Fotos. Einige sahen danach von KI veränderte Versionen, etwa mit zusätzlichen Personen oder Hinweisen auf den Klimawandel. Diese Gruppe erinnerte sich öfter falsch und war sich ihrer Sache sicherer.

In einer weiteren Studie verzerrte ein Chatbot die Erinnerung an ein Verbrechen deutlich. Andere Untersuchungen belegen, dass Menschen KI-Antworten oft zu sehr vertrauen. Maes sieht Gefahren für Gerichtsverfahren und die Geschichtsschreibung, wenn eigene Gedanken und die von Maschinen verschwimmen. Im Extremfall erinnern sich Menschen an Ereignisse, die nie stattfanden.

USA verbannen DeepSeek aus zivilen Bundesbehörden

Das US-Heimatschutzministerium verbietet zivilen Bundesbehörden alle Produkte von DeepSeek. Installierte Systeme müssen verschwinden. Das Verbot gilt auch für Produkte anderer Anbieter, die auf DeepSeek-Technik aufbauen. Ausnahmen müssen beantragt werden.

Heikel sind auch KI-Gateways, die Anfragen automatisch an den billigsten Anbieter weiterleiten. Das Ministerium fürchtet, dass sensible Daten von Regierungsmitarbeitern nach China abfließen. Zudem könnten die Modelle Schadsoftware oder Sicherheitslücken enthalten.

KI-Konzerne überbieten sich als Wohltäter

Anthropic hat einen Public Benefit Fund gegründet, der Anteile des Unternehmens erhalten soll, sofern die Eigentümer zustimmen. Der Fonds könnte gemeinnützigen Organisationen kostenlosen Zugang zu KI-Produkten verschaffen, was nebenbei auch Anthropics Marktanteil vergrößert. Denkbar sind zudem Hilfen für Menschen, die durch KI ihre Arbeit verlieren.

Elon Musk zog prompt nach. Er will im kommenden Jahr jedem Kind in den USA eine Aktie seiner Raumfahrtfirma SpaceX schenken. Bei mutmaßlich fast sechseinhalb Milliarden Aktien in seinem Besitz und rund 72 Millionen Kindern ist das ein überschaubares Opfer. Auch OpenAI erwägt Gerüchten zufolge, Firmenanteile an die US-Regierung zu spenden.