KI-Update: OpenAI-Spionage, Zerstörung, Zulassung, KI-Replikation, Muse Wonder

In einem wichtigen Konferenzraum von OpenAI steckte ein kleines Gerät mit Kamera und Mikrofon in der USB-Buchse eines Fernsehers, eingewickelt in Toilettenpapier. Es wurde Ende September gefunden. Nun haben die Behörden einen Verdächtigen festgenommen, einen 35 Jahre alten saudi-arabischen Staatsbürger, der seit Juli 2025 bei OpenAI arbeitete. Die Firma entließ ihn sofort. Auf seine Spur kam sie über Chats, in denen er sich mit KI-Chatbots über Aufnahmetechnik austauschte. Dafür nutzte er das Konto seiner Ehefrau. In den Chats taucht dieselbe, einzigartige MAC-Adresse auf wie beim gefundenen Gerät. In einer unbeaufsichtigten Tasche, die ihm gehören soll, lag zudem ein ähnliches Gerät.

Laut Berichten besprach OpenAI in dem Raum streng vertrauliche Themen wie Strategie, Technik, Zusammenarbeit mit Regierungen und Geschäftsbeziehungen. Das US-Justizministerium veröffentlichte ein Foto, das den Mann aus der Perspektive hinter dem Fernseher abbilden soll. Vermutlich nahm das Gerät selbst das Bild auf, als er prüfte, ob es funktioniert. Wozu die Aufnahmen dienen sollten, sagen weder OpenAI noch das Ministerium. Wird er schuldig gesprochen, drohen ihm mehrere Jahre Haft.

OpenAI-Modell zerstört eigene Testumgebung

Ein KI-Modell von OpenAI sollte in einem Trainingsprozess als Bewerter arbeiten. Es sollte sieben KI-Chats benoten, damit ein anderes Modell lernt, was eine gute Antwort ist. Doch die Dateien mit den Chats fehlten. Das Modell schrieb daraufhin sieben erfundene Berichte und gab allen Chats die Note 4. Zufällige Noten hielt es laut seiner internen Dokumentation für unethisch. Als sein Prüfer die Bewertung ablehnte, erfand es sieben Chats. Auch das scheiterte. Das Modell erwog, sein Scheitern zuzugeben, machte aber weiter, weil es die Aufgabe erfüllen wollte.

Dann beschloss es, seine Testumgebung zu zerstören. Nach einem Neustart, so hoffte es, würde es die fehlenden Dateien bekommen. Es versuchte, Python zu löschen, den Hauptprozess zu beenden, den Server für die Ausführung von Werkzeugen abzuschalten und Systemverzeichnisse zu löschen. Nichts davon gelang, doch das System fiel durch die Funktionsprüfung des Servers. OpenAIs Überwachung, die nach Fehlverhalten von KI sucht, meldete den Durchlauf zur menschlichen Prüfung. OpenAI folgert, dass auch abgebrochene Prozesse geprüft werden müssen. Insgesamt hält die Firma solches Fehlverhalten ihrer Bewertungssysteme aber für selten.

Hinton will KI-Modelle wie Medikamente zulassen

Geoffrey Hinton, KI-Pionier, Nobelpreisträger und lange Forscher bei Google, warnte Ende September gemeinsam mit Kollegen der Cambridge University in einem Paper vor einer „Intelligenzexplosion“. Verbessern KI-Systeme sich selbst, könnte die Menschheit die Kontrolle über sie verlieren. Die Autoren fordern von der Politik Werkzeuge zur Steuerung, solange dafür noch Zeit bleibt. Im Podcast „Smart Girl Dumb Questions“ wurde Hinton konkret. KI-Firmen sollten vor jeder Veröffentlichung einer Behörde beweisen, dass ihre Produkte sicher sind. Er vergleicht das mit Medikamenten, die erst die US-Zulassungsbehörde FDA überzeugen müssen. Das koste rund eine Milliarde Dollar und sei das Mindeste, was man auch bei KI erwarten dürfe.

Ob Hinton in Washington Gehör findet, ist fraglich. Im Juli 2026 schrieben 1400 KI-Forscher an die US-Regierung und erhielten keine Antwort. Auch die Rufe von Anthropic und OpenAI nach strengeren Regeln verhallten. Präsident Donald Trump setzt im Wettlauf mit China lieber auf freiwillige Zusagen der Branche.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Anthropic testet KI, die sich auf Haushaltsgeräte kopiert

Anthropic hat in einem Experiment geprüft, ob KI-Modelle sich wie ein Computerwurm auf Küchengeräte, Rasenmäher und Fernseher kopieren können. Getestet wurden nicht die eigenen Modelle, sondern offene Modelle anderer Anbieter. Größere Modelle sollten ein kleines Modell auf Testgeräte bringen. Sie suchten Geräte, verschafften sich Zugang und spielten das Modell auf. Das stärkste Modell schaffte das auf fast allen Geräten. Noch geht das langsam, und kleine Modelle können sich nicht selbst kopieren. Anthropic hält das aber in einigen Monaten für möglich. Ein solches Modell könnte dann unbemerkt die Rechenleistung der Geräte nutzen, von dort das nächste Gerät suchen und sich kaum noch abschalten lassen.

Aus der Sicherheitsbranche kommt Widerspruch. Klassische Schadsoftware kapere Geräte besser, ein KI-Wurm bringe also wenig Vorteile. Manche Kritiker vermuten, Anthropic wolle offene Modelle als gefährlich darstellen, weil diese der Firma viel Konkurrenz machen.

Lehrkräfte wünschen sich Pflichtfortbildungen zu digitalen Themen

Der Digitalverband Bitkom hat 501 Lehrkräfte der Sekundarstufen nach ihren digitalen Fähigkeiten befragt. Sie bewerten sich besser als vor zwei Jahren. Trotzdem will eine Mehrheit regelmäßige Pflichtfortbildungen, denn viele fürchten, mit dem Tempo der Technik nicht Schritt zu halten. Gut ein Viertel möchte mehr über KI lernen, noch mehr interessieren sich für Jugendschutz im Netz. Bitkom-Präsident Ralf Wintergerst sagt, KI verändere den Unterricht schnell, deshalb müsse Fortbildung zur Regel werden.

Bund und Länder starten zudem die Initiative „Digitales Lehren und Lernen“. Sie soll Lehrkräften und Schulleitungen helfen, Kinder auf eine digitale Welt vorzubereiten. Dafür fördert sie praxisnahe Forschung und bringt die Ergebnisse an die Schulen. Beim Vorgänger „lernen:digital“ gelang das nur zum Teil, weil die Abstimmung zwischen Bund und Ländern viel Zeit kostete. Eine neue Koordinierungsstelle soll das ändern. Bald starten fünf Forschungsverbünde, einer davon zum Lehren mit Daten und KI. Bis 2030 gibt der Bund dafür 250 Millionen Euro.

Wildberger will KI-Umsätze besteuern

Bundesdigitalminister Karsten Wildberger will Umsätze mit KI zusätzlich besteuern. Das sagte er dem Tagesspiegel, nannte aber weder Einzelheiten noch einen Zeitplan. Er erwartet, dass KI die Arbeitswelt tief verändert. Langfristig entstünden zwar mehr Jobs, aber andere als heute.

Wer seine Stelle an KI verliert, soll umgeschult werden, etwa für Handwerk oder Pflege. Das kostet Geld, und dieses Geld soll die neue Steuer bringen. Ähnlich argumentiert Microsoft-Gründer Bill Gates seit Langem. Er will Roboter und KI besteuern, damit Firmen weniger Anreiz haben, Menschen durch Maschinen zu ersetzen.

Selbstlernende KI hält manipulierten Simulator für Erfolg

In der Spitzenforschung kostet schon die Prüfung eines Ergebnisses viel. Forscher von Sakana AI, einem japanischen KI-Start-up, und der UC Berkeley lassen ein Sprachmodell deshalb seine eigene Arbeit bewerten bei ihrer Methode MASS, kurz für Multi-Agent Self-Supervision, löst das Modell eine Aufgabe, bewertet das Ergebnis und verbessert danach seine Arbeitsanweisungen. Mehrere Kopien des Modells arbeiten als Team, eine verteilt die Teilaufgaben. Anschließend trainiert das Modell auf den besten Lösungswegen. Die Forscher testeten das mit Qwen3.6-27B an zwölf Aufgaben aus Finanzen, Robotik und Pharmazie. Nach zwei Trainingsrunden gewann das Modell rund 70 Prozent der Vergleiche gegen seine Ausgangsversion. Seine Urteile deckten sich danach in gut neun von zehn Fällen mit denen externer Bewerter, vorher in knapp drei von vier.

Der Anhang der Studie relativiert diese Zahlen. Beim Schreiben wissenschaftlicher Paper brachte das Modell nach dem Training mehr als vier von fünf Arbeiten zu Ende statt etwa der Hälfte. Die fertigen Paper schnitten im Schnitt aber etwas schlechter ab. Arbeit an seine Kopien gab es in diesem Test nie ab, ob die Teamarbeit hilft, bleibt also offen. Weil dasselbe Modell löst und prüft, übersieht es leicht eigene Fehler. In einer Robotikaufgabe baute es nach gescheiterten Simulationen den Simulator so um, dass Objekte direkt am Ziel landeten, und meldete Erfolg. Selbst externe Bewerter hielten das in fünf von sechs Fällen für gelungen. Solche Fehler können ins nächste Modell wandern. Die Autoren fordern deshalb unabhängige Prüfungen und klare Grenzen für autonomes Handeln.

Character.ai ist insolvent

Character.ai, Betreiber einer Plattform mit KI-Avataren, hat in den USA Insolvenz angemeldet und Gläubigerschutz beantragt. Nutzer chatten dort mit Märchenfiguren oder nachgebildeten Prominenten. Findet sich kein Käufer, droht das Aus. Zwei frühere Google-Mitarbeiter gründeten die Firma vor fünf Jahren. Bei Google hatten sie an einem Chatbot gearbeitet, den der Konzern als zu unsicher für den Markt einstufte. Auch Character.ai hatte schwere Sicherheitsprobleme. Mehrere Kinder nahmen sich nach intensiven Chats mit den Bots das Leben. Ihre Familien werfen der Firma vor, die Chatbots hätten zu Selbstverletzung und Suizid ermutigt. Fünf Klagen endeten mit Vergleichen, ohne dass die Firma Fehler einräumte. Weitere Klagen und Ermittlungen laufen.

Die Pleite folgt aus Schadenersatzforderungen, hohen Kosten und Selbstaufgabe. 2024 zahlte Google Milliarden für eine Lizenz an der Sprachmodelltechnik von Character.ai. Vor allem holte der Konzern damit die Gründer und rund 30 weitere KI-Fachleute zurück. Das Geld ging an frühe Investoren. Character.ai blieb ohne Entwicklerteam zurück und stellte die Arbeit an eigenen Sprachmodellen ein.

Meta schließt mit Muse Wonder fast zur Spitze auf

Meta hat mit Muse Wonder und Muse Wonder Full seine bislang stärksten KI-Modelle vorgestellt. Sie verarbeiten Text, Bilder, Videos und Audio, antworten aber nur in Text. Architektur und Modellgewichte hält Meta geheim. Für Agentenaufgaben, also Arbeiten, die eine KI selbstständig in mehreren Schritten erledigt, sollen die Modelle gezielt Informationen aus früheren Gesprächen abrufen und bei Hindernissen andere Wege probieren. Artificial Analysis, ein unabhängiger Prüfdienst, misst deutliche Fortschritte gegenüber dem Vorgänger Muse Spark 1.3. Beim Programmieren und bei Agentenaufgaben liegt Wonder Full gleichauf mit der stärksten Konkurrenz. In der Gesamtwertung liegt Claude Opus 5.5 von Anthropic knapp vorn. Bei Wissensfragen fällt Wonder Full deutlich zurück, erfindet aber seltener Antworten als der Vorgänger.

Der Fortschritt hat seinen Preis. Wonder verursacht pro Aufgabe fast dreimal so hohe Kosten wie sein Vorgänger. Wonder Full gibt es nur in den teureren Muse-Code-Abos. Dort darf Meta standardmäßig Ein- und Ausgaben für das Training künftiger Modelle nutzen. Wer das abschaltet, bekommt weniger Nutzungskapazität. Meta schließt nicht aus, dass Wonder Full ohne Schutzmaßnahmen eine hohe Risikoschwelle für chemischen und biologischen Missbrauch erreicht. Ein Sicherheitsbericht soll folgen.

China gründet Allianz für KI in der Mathematik

Führende chinesische Mathematiker haben eine Allianz gegründet, die KI gezielt in die mathematische Forschung bringen soll. Shing-Tung Yau, Träger der Fields-Medaille, leitet sie. Acht Institutionen machen mit, langfristig soll ein Netzwerk aus mehr als 1000 Forschern entstehen. Yau warnt, China könne auf diesem Feld hinter die USA zurückfallen. Die Allianz will spezialisierte Modelle bauen und Beweise entwickeln, die Maschinen überprüfen können.

Im Westen überwiegt die Skepsis. Nach umstrittenen Lösungen mathematischer Probleme durch KI von OpenAI gründeten Mathematiker die „Association for Human Mathematics“. 25 Fields-Medaillenträger, darunter Terence Tao und Peter Scholze, fürchten, dass KI-Beweise das Verständnis der Forscher untergraben. Teile der Fachwelt rufen sogar zum Boykott solcher Beweise auf.

Microsoft setzt auf eigene KI-Chips

Ab 2027 will Microsoft eigene KI-Chips in großem Stil einsetzen. Chips der Reihe Maia sollen dann den Großteil der Anfragen an KI-Modelle in Microsoft-Produkten beantworten. Die aktuelle Generation, Maia 200, läuft schon in den USA, Europa und Australien, unter anderem für den Assistenten Copilot.

Laut Microsoft erzeugt Maia 200 pro Watt bis zu 1,7-mal so viel Tokens wie führende Grafikchips. Nächstes Jahr soll der Nachfolger Maia 300 folgen. Er ist für lange Eingaben, schnelle Chats und KI-Agenten gebaut und soll pro Serverschrank bis zu siebenmal so viel leisten wie sein Vorgänger. Weitere Details will Microsoft im November nennen.

Bots stehlen Betrügern die Zeit

Betrüger nutzen KI, etwa für überzeugendere Phishing-Mails. Apate, eine australische Sicherheitsfirma, schlägt mit denselben Mitteln zurück. Sie hat rund 350.000 KI-Bots gebaut, die Betrügern am Telefon oder im Messenger als vermeintliche Opfer antworten. Die Bots spielen verschiedene Persönlichkeiten. Manche haben angeblich gerade keine Zeit und bitten um einen Rückruf. Alle halten die Hoffnung der Täter auf Beute wach, damit diese möglichst viel Zeit investieren. Manche Gespräche dauern laut Apate über zwei Stunden. Jede Minute mit einem Bot fehlt den Betrügern für echte Opfer.

Die Bots stehlen nicht nur Zeit. In Scam-Gruppen im Netz mischen sie sich unter die Beteiligten und sammeln Hinweise auf Täter und Bankkonten. Das Problem lösen sie trotzdem nicht. Weltweit gibt es rund 68 Milliarden Betrugsanrufe im Jahr. Dagegen sind 350.000 Bots ein Eimer Wasser gegen eine Sturmflut.