KI-Update kompakt: KI-Warnungen, Microsoft, Apple, Drohnenentwicklung

Rufe nach einer Pause bei der KI-Entwicklung häufen sich, obwohl Washington und Peking sie zurückweisen. Neu sind solche Warnungen nicht. Seit den Anfängen generativer KI fordern Forscher Moratorien oder warnen vor unkontrollierbarer Macht. Diesmal aber schlägt die Debatte höhere Wellen. Zwei Gründe scheinen dafür zu sorgen: Vor einigen Wochen ging eine Attacke auf HuggingFace durch die Medien, bei der eine KI sich verselbstständigt und eigenständig einen Hack durchgeführt haben soll. Kurz darauf kündigte ein Anthropic-Mitarbeiter, und am Wochenende forderten fast alle großen KI-CEOs gemeinsam, die Entwicklung zu verlangsamen. Das Thema erreichte so Titelblätter und Lokalfernsehen.

Ob diesmal wirklich etwas geschieht, bleibt offen. Die Chancen scheinen aber größer als zuvor, weil die Öffentlichkeit stärker beteiligt ist. Google, OpenAI und Anthropic sprechen seit Juli über Sicherheits-Selbstverpflichtungen. Solche Zusagen können echter Vorsorge dienen oder nur strengere Gesetze abwenden und Konkurrenten den Markteintritt erschweren. Auch die EU könnte aktiv werden, mit anderem Hebel als die USA, wo die Firmen sitzen. China und Trump wollen in wenigen Tagen sprechen. Ein Grund für die amerikanische Ablehnung ist die Sorge, sonst China das Feld zu überlassen.

Spanien meldet ersten Cyberangriff mithilfe eines KI-Agenten

Die spanische Datenschutzbehörde meldet den ersten Cyberangriff durch einen KI-Agenten. Das auf einem bekannten Sprachmodell basierende System suchte autonom nach Schwachstellen, meldete sich erfolgreich an und fand weitere Lücken. So konnte es personenbezogene Daten verändern und auf Rechnungen zugreifen.

Die Behörde sieht darin eine neue Qualität von Angriffen, weil der Agent selbstständig plant und handelt. Gegen die hohe Geschwindigkeit solcher Attacken sind manuelle Abwehrstrategien machtlos. Unternehmen müssen ihre Risikoanalysen anpassen und ihre IT-Sicherheit stärker automatisieren.

LG äußert sich zu Vorwürfen bezüglich Smart-TV-Tracking

TV-Hersteller LG reagiert auf Vorwürfe zum Tracking durch seine Smart-TVs. Die Stellungnahme klingt defensiv, gibt aber Einblick, wie Werbung am Fernseher funktioniert. Für die automatische Inhalteerkennung (ACR) nutzt LG nach eigenen Angaben nur Audio-Schnipsel, keine Videoaufnahmen. Damit lagen die Forscher von Gamers Nexus womöglich falsch, die von Screenshots gesprochen hatten. Die Audioschnipsel verarbeite ein interner Audio-Prozessor. Die Sprachsteuerung aktiviert man über die Mikrofontaste der Fernbedienung oder mit „Hi LG“.

Den Vorwurf, das Gerät zeichne auch Gespräche aus der Umgebung auf, dementiert LG nur schwach. Während die Spracherkennung aktiv sei, könnten Gespräche in der Nähe in den Resultaten auftauchen. Gamers Nexus warnte vor Gefahren, etwa wenn Angreifer den Fernseher hacken. LG räumt ein, kein vernetztes Produkt sei je vollständig vor Sicherheitslücken gefeit. Durch die ACR-Funktion scheint das Tor für Angriffe allerdings weit offen zu stehen.

Microsoft definiert seine KI zurück zum Werkzeug

Microsoft hat einen Verhaltenskodex für seine eigenen MAI-Modelle veröffentlicht. Er soll künftig Training und Kontrolle bestimmen und steht über Regeln von Betreibern und Wünschen von Nutzern. Die zentrale Vorgabe: Menschliche Kontrolle hat Vorrang. Dafür will Microsoft notfalls auf Leistung oder Autonomie verzichten. KI-Chef Mustafa Suleyman sagte dem Magazin The Information, was nicht sicher sei, solle man nicht bauen.

Ein festes Tempolimit nennt der Kodex nicht. Besonders deutlich wird Microsoft bei den Denkspuren, den nachvollziehbaren Schritten hin zu einer Antwort. Die Modelle sollen keine für Menschen unverständlichen Kommunikationsformen nutzen, denn Menschen können nicht beaufsichtigen, was sie nicht verstehen. Bei OpenAIs neuem Modell GPT-6 Astra hat diese Überwachbarkeit laut Unternehmen deutlich abgenommen.

OpenObserve zeigt, warum KI-Agenten falsche Antworten geben

OpenObserve hat eine neue Version seiner Observability-Plattform veröffentlicht, die sich auf KI-Anwendungen konzentriert. Die Funktion „AI Observability“ soll nachvollziehbar machen, warum KI-Agenten und große Sprachmodelle fehlerhafte Ergebnisse liefern. Sie erfasst Telemetriedaten und bewertet die Ausgaben mehrstufiger KI-Prozesse. Teams können damit Fehler in den Arbeitsabläufen von KI-Agenten finden und beheben.

Die Plattform erlaubt es, verschiedene Varianten von KI-Workflows zu testen und zu vergleichen. Dabei zählen nicht nur Kosten und Antwortzeit, sondern auch Qualitätskriterien. Ein Service-Graph zeigt die Abhängigkeiten zwischen KI-Komponenten, Modellen und anderen Diensten und erleichtert so die Fehleranalyse.

Musk lässt Klage gegen Apple fallen

Elon Musks Unternehmen SpaceXAI lässt seine Wettbewerbsklage gegen Apple fallen, hält sie gegen OpenAI aber aufrecht. Im Zentrum steht die Frage, ob Apple und OpenAI in der aktuellen Form zusammenarbeiten dürfen. Musk kritisierte, dass sein KI-Chatbot Grok im App Store benachteiligt werde, während ChatGPT prominent beworben und exklusiv in iOS integriert sei. Er warf beiden Firmen vor, Monopole bei Smartphones und generativer KI anzustreben.

Musk sieht eine Verschwörung darin, dass Grok es nicht auf die „Must have“-Liste im App Store schaffte. Warum er Apple nun aus der Klage nimmt, ist unklar. Das Verfahren gegen OpenAI und dessen exklusive Partnerschaft läuft weiter.

Apple tritt bei KI-Funktionen in der EU auf die Bremse

Apple bremst bei zwei KI-Funktionen, die mit dem großen iOS-27-Update kommen sollten. Siri AI ist in aktueller Fassung offenbar inkompatibel mit dem europäischen Digital Markets Act. In der EU kam Siri AI mit den jüngsten Updates nur auf den Mac, iPhone und iPad müssen draußen bleiben, bis Apple sich mit den Brüsseler Regulierern einigt.

Zwei angekündigte Funktionen fehlen ebenfalls: der automatische Wechsel von Passwörtern durch Agenten sowie das Ableiten von Aktionen aus iMessage-Botschaften. Bei der Passwörter-App sollten Agenten unsichere Kennwörter automatisch auf den Websites der Anbieter tauschen. In der Nachrichten-App wollte Apple aus Chats Aufgaben ableiten, etwa Kalendereinträge vorschlagen oder To-Do-Listen erstellen. Warum beide Funktionen nicht fertig wurden, ist unklar. Apple dürfte sie in späteren iOS-27-Updates nachreichen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Hunderte Prüfer lesen echte ChatGPT-Gespräche

OpenAI beschäftigt offenbar Hunderte Vertragsarbeiter, die echte ChatGPT-Gespräche lesen. Das berichtet 404 Media auf Basis interner Dokumente. Die Prüfer bewerten Antworten auf einer Skala von eins bis sieben und sollen unter anderem übertriebene Schmeichelei reduzieren. Ein Prüfer glaubt nicht, dass Nutzende wissen, dass Menschen ihre Chats lesen.

Unter den geprüften Eingaben fanden sich auch Gespräche, in denen Nutzer den Chatbot baten, Inhalte für sich zu behalten. Die Eingaben werden anonymisiert, können aber sensible Daten enthalten, und der Filter kann Fehler machen. Die Einstellung zur Modellverbesserung lässt sich deaktivieren. Der Prozess ist Standard in der Branche, auch Anthropic und Google setzen Menschen zur Prüfung ihrer Chatbots ein.

Nvidia, Palantir und Cisco bauen KI-Stack für Behörden

Nvidia, Palantir und Cisco entwickeln gemeinsam eine komplette Hard- und Software-Architektur für KI-Anwendungen. Dieser KI-Stack soll als Grundlage für Palantirs „Sovereign AI OS“ dienen und ist für Behörden und andere regulierte Branchen gedacht. Nvidias offene KI-Agenten-Modelle Nemotron werden in die Palantir-Plattformen integriert. Kunden können sie mit eigenen sensiblen Daten trainieren und behalten die Kontrolle über ihre Infrastruktur. Cisco liefert die technische Basis.

Obwohl die Lösung als „souverän“ beworben wird, ist der Begriff mit Vorsicht zu betrachten. Infrastruktur vor Ort zu betreiben und Daten sowie Modelle unter eigener Kontrolle zu halten, ist eine technische Eigenschaft. Daraus folgt nicht automatisch digitale Souveränität im europäischen Verständnis. Die Abhängigkeit von US-amerikanischen Hard- und Softwareanbietern bleibt bestehen.

KI-Einsatz wächst rasant – doch Potenzial bleibt weitgehend ungenutzt

Laut einer Bitkom-Befragung nutzen inzwischen über die Hälfte der deutschen Unternehmen künstliche Intelligenz. KI kommt am häufigsten im Kundenkontakt zum Einsatz, aber auch in internen Bereichen wie Controlling oder Produktion nimmt die Nutzung zu. Ebenso gewinnen KI-Agenten an Bedeutung, die selbstständig Aufgaben erledigen.

Dennoch schöpfen die meisten Unternehmen das Potenzial kaum aus. Als größte Hürden gelten fehlendes Fachwissen, rechtliche Unsicherheiten durch Datenschutz und den AI Act sowie unkalkulierbare Kosten. Die größten Kostenfaktoren sind nicht die Lizenzen, sondern die nötige Infrastruktur, die Datenaufbereitung und die Integration in bestehende Systeme.

DeepL bringt Echtzeit-Übersetzung mit originaler Stimmcharakteristik

Das deutsche KI-Unternehmen DeepL hat eine neue Technologie zur Sprachübersetzung in Echtzeit vorgestellt. „DeepL Voice“ übersetzt nicht nur gesprochene Worte, sondern bewahrt auch Tonfall, Sprechtempo und Emotionen, sodass die Übersetzung dem Original ähnelt. Die KI unterscheidet verschiedene Sprechende in einem Gespräch, ohne dass vorher Sprachproben nötig sind.

Die Funktion steht für Online-Meetings über eine neue Desktop-App, für persönliche Gespräche und über eine Programmierschnittstelle bereit. Damit will DeepL im Wettbewerb mit großen Tech-Konzernen bestehen. Das Kölner Unternehmen fokussiert sich auf Firmenkunden und hat auch einen KI-Agenten zur Automatisierung von Geschäftsaufgaben entwickelt.

US-Militär entwickelt Drohne mit KI und baut sie in 24 Stunden

Die U.S. Army hat eine unbemannte Drohne in nur zehn Minuten von einer KI entwerfen lassen. Dazu fütterten Militärs der U.S. Army Organic Industrial Base eine nicht näher beschriebene KI mit Prompts und nutzten für den Feinschliff eine Anpassungssoftware. Herausgekommen ist eine Drohne mit weniger als neun Kilogramm Abfluggewicht, die lange in der Luft bleibt. Sie gleicht einem elektrischen Modellflugzeug, wurde aber mit kommerziellen 3D-Druckern in einer mobilen Produktionsstätte in einem Container gedruckt und von drei Soldaten montiert. Von der Entwicklung bis zum fertigen Fluggerät vergingen 24 Stunden.

Bei der Initiative Game of Drones stellte die Drohne sofort einen Ausdauerrekord auf. Sie blieb mit einer Batterieladung acht Stunden, 41 Minuten und 43 Sekunden in der Luft und legte 480 Kilometer zurück. Motoren, Batterien und andere Teile stammen aus einer eigenen Lieferkette für kritische Komponenten, mit der sich das US-Militär von fremden Zulieferern unabhängig machen will. Den Rekord hat die Army beim Guinness-Buch der Rekorde zur Prüfung angemeldet.

Humanoider Roboter soll für sichere Arbeit mit Menschen geeignet sein

Agility Robotics hat die nächste Generation seiner humanoiden Roboter für den industriellen Einsatz vorgestellt. „Digit 5“ wurde gegenüber dem Vorgänger deutlich verbessert und soll erstmals für die sichere Zusammenarbeit mit Menschen taugen. Die bisher aus Sicherheitsgründen nötigen Trennwände sollen entfallen.

Digit 5 erkennt mit Hilfe von KI und mehreren Sensoren Personen in seiner Nähe und kann anhalten oder sich hinsetzen, um Kollisionen zu vermeiden. Warnsignale vor Bewegungen sollen die Zusammenarbeit zusätzlich sicherer machen. Agility Robotics will Digit 5 nächstes Jahr auch nach Europa bringen.

Gates Foundation investiert Milliarde für fairen KI-Zugang

Die Gates Foundation will binnen zwei Jahren mindestens eine Milliarde US-Dollar ausgeben, um den Zugang zu KI in Gesundheit, Bildung und Landwirtschaft zu verbessern. Mitgründer Bill Gates warnt, sonst vergrößere die Technologie die Kluft zwischen Arm und Reich. Die Sprache macht er zum zentralen Argument: Mehr als 90 Prozent der Trainingsdaten früher Sprachmodelle stammten aus englischsprachigen Quellen. So blieben gerade jene Menschen kaum berücksichtigt, die am meisten profitieren könnten. Ein Teil des Geldes soll deshalb nicht-englische Datenquellen erschließen.

Den Markt nennt Gates zwar einen starken Motor für Innovation. Für Chancengleichheit sorge er aber nicht. Überlasse man ihm die Entwicklung, entstünden die stärksten Werkzeuge zuerst für zahlungskräftige Nutzer.