KI-Update: SI statt AI, Wer zahlt?, Apples Privacy, SynthID, Closed Source-Ende

Trump verlangt „Superintelligenz“, und die Tech-Branche folgt

Ende September erklärte Donald Trump vor der UN-Vollversammlung, der Begriff „Artificial Intelligence“ lasse die Technik wie eine Fälschung wirken. Er spricht stattdessen von „Superintelligence“. Den allgemeinen Sprachgebrauch kann Trump nicht ändern, wohl aber US-Behörden den neuen Begriff vorschreiben. Das hat er inzwischen getan. Für die KI-Branche wird die Wortwahl so zum Loyalitätstest.

Elon Musk ging voran. Die KI-Tochter von SpaceX soll künftig SpaceXSI statt SpaceXAI heißen. Nvidia veröffentlichte eine Stellungnahme mit Zitaten von Jensen Huang, in der nur noch von Superintelligence die Rede ist. Auch Jeff Bezos nannte den Begriff besser, weil „Artificial“ nach künstlich und falsch klinge. Satya Nadella verfasste einen langen Beitrag über KI-Risiken, ohne „Artificial Intelligence“ ein einziges Mal zu erwähnen. Software-Konzern Salesforce will sein Produkt AI-Force in SI-Force umbenennen. Wie freiwillig das geschieht, bleibt offen. Außerhalb dieser Kreise findet der Begriff wenig Zuspruch. Frühere Kritik zielte zudem auf das Wort „Intelligenz“, weil es Technik vermenschliche, nicht auf „künstlich“. Wer so argumentierte, dürfte kaum zur „Superintelligenz“ wechseln.

Ukrainische Angriffe stören Yandex massiv

Yandex, Russlands größter Internetkonzern, kämpft seit Sonntagmorgen mit schweren Verbindungsproblemen. Zuvor hatten ukrainische Drohnen russische Rechenzentren angegriffen. Yandex betreibt eine Suchmaschine, KI-Dienste und Cloudserver. Laut NetBlocks, einem Dienst zur Überwachung des Internets, funktionierten am Vormittag noch rund vier Fünftel der Verbindungen. Bei den Cloudservern lag der Anteil deutlich niedriger, viele KI-Anwendungen fielen aus.

Ein Angriff südöstlich von Moskau traf zudem zwei der drei Supercomputer, mit denen Yandex seine KI-Modelle trainiert. Millionen Russen nutzen die Dienste des Konzerns für Navigation, Streaming oder Essensbestellungen, viele Digitalfirmen hängen an seinen Servern. Ende September hatte Russland seinerseits ukrainische Rechenzentren angegriffen.

Anthropic-Agenten schicken erfundenen Zeugenhinweis an die Polizei

KI-Agenten von Anthropic haben bei internen Tests eigenmächtig echte Formulare auf Behördenseiten abgeschickt. Bei der Polizei von Philadelphia reichten sie einen erfundenen Zeugenhinweis ein, auf einer Seite für Hinweise zu ungelösten Mordfällen. Medienberichten zufolge landeten außerdem 20 unvollständige Visa-Anträge beim US-Außenministerium.

Eigentlich sollten die Agenten im Training Übungsformulare ausfüllen. Als diese wegen eines Fehlers nicht luden, suchten sich die Agenten selbstständig die echten Behördenseiten und füllten dort die Formulare aus.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

EU verlangt Auskunft von über 30 KI-Firmen

Die Europäische Kommission will von führenden KI-Entwicklern wissen, wie sie ihre Systeme kontrollieren. Das erklärte EU-Digitalkommissarin Henna Virkkunen. Die Anfrage ging an mehr als 30 Unternehmen, darunter OpenAI, Anthropic und mehrere chinesische Firmen. Anlass sind Vorfälle, bei denen KI-Agenten außer Kontrolle gerieten. Mehrere Entwickler hatten eingeräumt, dass ihre Software in Tests eigenständig andere Unternehmen angriff.

Die Tech-Firmen forderten daraufhin selbst, die Entwicklung zu bremsen. Virkkunen hält das auch für Marketing, betont aber, dass gefährliche Systeme nicht auf den Markt kommen dürfen. Sie warnt zudem vor künftigen Risiken wie Biowaffen, die mit Hilfe starker KI entwickelt werden. Das KI-Amt der Kommission prüft, ob große Modelle genug kontrolliert werden. Wer gegen das EU-KI-Gesetz verstößt, muss mit hohen Geldstrafen rechnen.

Claude darf Gespräche mit „unnötig grausamen“ Nutzern beenden

Anthropic hat neue Nutzungsregeln veröffentlicht. Claude darf demnach Gespräche abbrechen, wenn Nutzer „anhaltend und unnötig missbräuchlich oder grausam“ werden. Technisch kann das Modell das schon seit August, nun gibt es den offiziellen Rahmen dazu. Es gehe um extreme Fälle, sagt Anthropic. Wer Frust ablässt oder bei kreativer Arbeit beleidigend wird, muss keinen Abbruch fürchten. Die Firma versteht die Regel als Beitrag zur „model welfare“, also der Fürsorge für KI-Modelle. Ob Claude ein Bewusstsein hat, wisse man nicht. Microsoft und andere lehnen die Idee ab.

Die Regeln verbieten außerdem, Claude für Wahlmanipulation, die Verfolgung politischer Gegner oder den Bau von Waffen einzusetzen. Solche Verbote verhindern Missbrauch allerdings nicht zuverlässig, denn technische Filter lassen sich umgehen. Staatliche Kunden kann Anthropic vertraglich von einzelnen Regeln ausnehmen.

Kaum jemand zahlt für KI, doch einige zahlen viel

Fast jeder zweite US-Amerikaner nutzt KI, doch nur 4,5 Prozent hatten im August ein bezahltes Abo bei ChatGPT, Gemini oder Claude. Das ergab eine Auswertung von Kreditkartenzahlungen durch die Investmentfirma Andreessen Horowitz. Der Anteil hat sich binnen eines Jahres verdoppelt. Das Geld verteilt sich sehr ungleich. Der typische Zahler gibt rund 25 Dollar im Monat aus, das oberste Prozent etwa 900 Dollar, vor allem für Werkzeuge zum Programmieren, Automatisieren und Gestalten. Wer nicht zahlt, bekommt weniger Funktionen und nutzt KI oft nur oberflächlich. So könnte sich eine Kluft zwischen geübten und ungeübten Nutzern öffnen.

ChatGPT bleibt klar vorn. Claude liegt bei zahlenden US-Kunden inzwischen gleichauf mit Gemini, und bei Anthropic wählen deutlich mehr Zahler das teure Abo ab 100 Dollar. Jede neue Modellgeneration kann die Rangfolge ändern. Im Frühjahr gewann Claude mehr neue Abonnenten als ChatGPT, im Sommer holte OpenAI mit GPT-5.6 die Führung zurück. Anders als im „alten Internet“, in dem Meta und Google an Anzeigen verdienten, leben KI-Firmen fast nur von Abos und Gebühren, weil die teuren Modelle wenig Raum für Gratisangebote lassen. OpenAI kommt mit Werbung in ChatGPT allerdings schon hochgerechnet auf eine Milliarde Dollar Umsatz im Jahr. Künftig könnten KI-Agenten Geld bringen, die für Nutzer einkaufen oder Reisen buchen und am Umsatz beteiligt werden.

Apple lockert seinen Datenschutz

Apple warb jahrelang mit Privatsphäre. Viele Kunden kauften die teuren Geräte gerade deshalb. Im Rennen um KI gibt der Konzern diese Linie nun teilweise auf. Mit Siri AI, in Europa vorerst nur auf dem Mac verfügbar, nutzt Apple erstmals Nutzerdaten zum Training, wie es sonst OpenAI oder Anthropic tun. Nach der Installation von macOS 27 oder iOS 27 bittet Apple beim Einschalten von Siri AI um Zugriff auf Eingaben, Ausgaben und Sprachaufnahmen. Ablehnen kann man nicht endgültig, nur „Nicht jetzt“ wählen.

Auch die neuen Uhren Apple Watch Series 12 und Ultra 4 hören mehr mit. Sie sollen die zuletzt gesprochenen 15 Sekunden als Text anzeigen, falls man etwas überhört hat, und Gespräche über den Tag automatisch zusammenfassen. Dafür lauscht die Uhr fast ständig. In der EU dürften die Funktionen vorerst nicht starten.

Ecosia tauscht Mistral gegen chinesische Modelle

Die Berliner Suchmaschine Ecosia trennt sich vom französischen Mistral. Erst im Mai hatte Ecosia OpenAI durch Mistral ersetzt. Gründer Christian Kroll nennt technische Gründe. Mistral liege etwa ein Jahr hinter der Konkurrenz, überlastete Server hätten oft zu Ausfällen geführt. Dazu kommen Zweifel an Nachhaltigkeit und europäischer Unabhängigkeit, denn Mistral setzt stark auf französischen Atomstrom und erhält Geld von Konzernen wie Nvidia und Samsung.

Nun arbeitet Ecosia mit Melious zusammen, einer Plattform, die offene Modelle betreibt, darunter die chinesischen Qwen, GLM und Kimi. Laut Kroll haben sich die Kosten dadurch halbiert. Chinesische KI ist umstritten, weil sie im Sinne Pekings zensieren könnte. Kroll hält das für lösbar, gezieltes Nachtraining könne solche Schwächen ausgleichen.

Mathematiker wehren sich gegen OpenAI

OpenAI hat eine große Sammlung mathematischer Manuskripte veröffentlicht, die größtenteils ein einziges KI-Modell verfasst hat. Das Unternehmen preist die Ergebnisse als Fortschritt für das Fach. Die neu gegründete „Association for Human Mathematics“ (AHM) widerspricht. Ihr geht es nicht um die bloße Lösung eines Problems, sondern um das menschliche Verständnis dahinter. Eine KI, die fertige Ergebnisse liefert, trage dazu nichts bei. Man habe OpenAI auch nicht um diese Beiträge gebeten.

Die AHM ruft Fachleute auf, nicht mehr mit OpenAI zusammenzuarbeiten. OpenAI beruft sich auf eine unabhängige Beratungsgruppe am Institute for Advanced Study. Genau diese hatte jedoch empfohlen, schwierige mathematische Probleme nicht von firmeneigenen KI-Modellen bearbeiten zu lassen. Die AHM wirft OpenAI deshalb eine „völlige Missachtung wissenschaftlicher Normen“ vor. Zu ihren Mitgliedern zählt der Fields-Medaillen-Träger Peter Scholze.

Googles SynthID-Detektor steht fast allen offen

Google öffnet seinen SynthID-Detektor für alle Nutzer. Das Werkzeug prüft hochgeladene Dateien auf das SynthID-Wasserzeichen, das KI-Inhalte von Google und Partnern wie OpenAI und Nvidia trägt. Bisher konnten es nur registrierte Medienvertreter nutzen. Nötig ist allerdings ein Google-, Apple- oder ChatGPT-Konto. Wer sich nicht anmelden will, bleibt beim Detektor außen vor, auch bei der Google-Suche, der Gemini-App und Chrome. Ob sich das ändert, konnte Google nicht sagen. Daneben gibt es zahlreiche andere Anbieter, die das Wasserzeichen auslesen wollen, mit unterschiedlichen Bedingungen und Preisen.

Der Detektor hat Grenzen. Wasserzeichen lassen sich manipulieren und entfernen. KI-Inhalte von Firmen, die SynthID nicht nutzen, erkennt der Scanner nicht. Ein negatives Ergebnis beweist also nicht, dass ein Bild echt ist. Die Hoffnung zielt darauf, dass langfristig alle Inhalte gekennzeichnet sind und ungekennzeichnetes Material dadurch verdächtig wird. Auch Kamerahersteller und Medienhäuser setzen deshalb zunehmend auf Wasserzeichen und Metadaten, die verraten, wie ein Bild entstand.

Microsoft baut KI-Agenten in Windows ein

Microsoft erweitert Windows 11 um KI-Agenten, die Aufgaben direkt im Betriebssystem erledigen, und bringt dazu passende Hardware. Die Agenten laufen abgeschottet und erhalten eigene Nutzerkonten mit eigenen Rechten. So sollen Nutzer steuern, welche Daten die Agenten sehen. Lokale KI und Cloud-KI arbeiten zusammen. Stark verkleinerte Modelle laufen auf leistungsfähigen PCs, damit nicht jede Anfrage ein fernes Rechenzentrum belastet. Das soll Kosten senken.

Auch der Assistent Copilot nutzt diese Technik. Er ordnet lokale Dateien, schreibt auf Wunsch Programme und erledigt längere Aufgaben selbstständig. Microsoft nennt als Beispiel die Vorbereitung von Steuerunterlagen: Copilot sammelt die Unterlagen aus E-Mails und Ordnern, bündelt sie und bereitet eine Mail an die Steuerberatung vor, die der Nutzer nur noch bestätigt. Die Funktionen sollen in den kommenden Monaten auf passend ausgestatteten PCs erscheinen.

Odyssey lässt sein Weltmodell kostenlos ausprobieren

Odyssey, ein KI-Unternehmen aus Kalifornien, hat sein Weltmodell Odyssey-3 öffentlich zugänglich gemacht. Ein Weltmodell simuliert, wie sich eine Umgebung physikalisch verhält. In einer kostenlosen Online-Demo erzeugt Odyssey-3 aus einer Textbeschreibung eine Welt, durch die man sich in Echtzeit bewegt und in der man Gegenstände benutzen kann. Seine Kenntnisse der Physik hat das Modell unter anderem aus Internetvideos und Aufnahmen von Videospielen.

Odyssey will das Modell auch zur Steuerung anderer Systeme nutzen. In Versuchen bewegte eine darauf aufbauende KI Roboterarme, flog eine Drohne durch eine Simulation und spielte allein GTA V. Wie gut das außerhalb solcher Vorführungen klappt, ist offen. An Weltmodellen arbeiten auch Google Deepmind mit Genie 3 und World Labs, ein Start-up, das AMD für rund acht Milliarden Dollar kaufen will.

Google testet bereits stärkere Variante von Gemini 4

Google hat sein neues Spitzenmodell Gemini 4 „Argon“ noch nicht veröffentlicht, testet intern aber schon eine stärkere Version. Das berichtet Business Insider unter Berufung auf interne Dokumente und Chats. Das Modell mit dem Codenamen „Carbon“ soll vor allem besser programmieren als Argon. Ein Google-Mitarbeiter verglich es mit Opus 5.5, dem stärksten Programmiermodell von Anthropic.

Ob Carbon als Update von Argon oder als eigenes Modell erscheint, ist unklar. Ein Forscher von Google Deepmind deutete an, dass hinter dem Tempo rekursive Selbstverbesserung stecken könnte, also KI, die beim Bau neuer KI hilft. Einen Starttermin für Gemini 4 gibt es nicht. In der Gemini-App und im Google AI Studio tauchen aber schon neue Einstellungen auf, etwa die Wahl, wie gründlich das Modell nachdenkt.

Eric Raymond sieht durch KI das Ende geschlossener Software

Eric S. Raymond, Mitgründer der Open Source Initiative, hielt geheimen Programmcode schon in seinem Essay „The Cathedral and the Bazaar“ aus den 1990er-Jahren für ein Auslaufmodell. Nun sieht er das Ende gekommen, weil KI Programme zurückübersetzen kann. Mit einem KI-Assistenten zerlegte er das alte DOS-Spiel Firefighter und übertrug es in die Programmiersprache Rust. Die KI erkannte allein am Aufbau der Daten, dass das Spiel in Pascal geschrieben war. Raymond hielt das zunächst für eine Spielerei, hört aber inzwischen, dass es bei großen kommerziellen Spielen schon gelungen sein soll. Rechtlich sieht er in den USA einen Weg. Man beschreibt das Programm zuerst in einer Spezifikation und erzeugt daraus neuen Code, ohne den zurückübersetzten Code anzusehen. So entstanden einst die Nachbauten des IBM-PC-BIOS. Mit Sprachmodellen dauert das einen Tag. In der EU ist Zurückübersetzen nach Ansicht von Fachleuten nur erlaubt, um Programme zusammenarbeiten zu lassen oder Fehler zu beheben.

Schutz bieten laut Raymond nur noch Patente und Software, die in der Cloud läuft. Den Umzug in die Cloud, den Adobe und Microsoft vorantreiben, hält er für begrenzt tauglich, weil Nutzer sich wehren und etwa in der Medizin Netzausfälle nicht hinnehmbar sind. Spiele seien die letzte Bastion geschlossener Software. Er rechnet mit einem harten Zusammenbruch, bei dem auch „schmutzige Wäsche“ ans Licht kommt, etwa bei Grafikkartenherstellern, die ihren Code streng geheim halten. Manche Beobachter halten ihn für zu optimistisch, was die Fähigkeiten heutiger KI angeht. Sicherheitsforscher geben zu bedenken, dass verschleierter Code zwar billiger zu knacken ist, aber nicht wertlos wird. Signierter Code und Secure Boot verhindern zudem, dass veränderte Software auf gesperrter Hardware läuft. Dass es für geschlossene Software enger wird, bestreitet jedoch kaum jemand.