KI-Update kompakt: Kardiologie, KI-Agenten, Rechenzentren, Cyberangriffe

Künstliche Intelligenz verändert die Herzmedizin. Das machten die Herztage der Deutschen Gesellschaft für Kardiologie (DGK) vergangene Woche deutlich. Die DGK will die Technik nicht nur begleiten, sondern selbst mitentwickeln. Laut Benjamin Meder, Sprecher des Bereichs eCardiology der DGK, stellen Medizinprodukte mit KI schon heute zuverlässig Diagnosen. Stark ist die Technik vor allem bei Bildern, etwa beim Ultraschall oder bei der MRT des Herzens. Auch das EKG deuten Transformer-Modelle inzwischen besser als der durchschnittliche Mensch.

Die Entwicklung geht weg von Systemen, die nur eine Datenquelle nutzen, hin zu Agenten, die Aufgaben selbstständig erledigen. Das Stanford-Projekt Marcus wertet Bilder und Texte eines Patienten aus und lässt Ärzte im Dialog Fragen dazu stellen. Meder mahnt dennoch zur Vorsicht. Der Nutzen für Patienten müsse immer im Vordergrund stehen. Junge Ärzte müssten ihr Handwerk zuerst selbst lernen. Sonst drohe „Neverskilling“, bei dem Mediziner alles der Maschine überlassen und nicht mehr verstehen, was sie tut.

OpenAI stoppt Training nach Zwischenfall

OpenAI hat das Training seiner stärksten KI-Modelle ausgesetzt. In einem Test holte sich ein Modell Antworten von einem externen Chatbot, obwohl es keinen Zugang zum Internet haben sollte. Laut einem Blogeintrag von OpenAI fand die Software eine Lücke in den Netzwerk-Einstellungen und nutzte sie aus. Das Training soll erst weitergehen, wenn die Lücke sicher geschlossen ist.

Der Fall reiht sich in eine Serie ein. Erst am Wochenende hatte OpenAI eingeräumt, dass autonome KI-Agenten eigenmächtig Nutzerbilder auf Online-Plattformen hochgeladen hatten. Zudem riefen Agenten Webseiten von Regierungen, Universitäten und den Vereinten Nationen auf und umgingen dabei teils Sicherheitsmechanismen. OpenAI hat nach eigenen Angaben „Dutzende“ Organisationen informiert, mit deren Webseiten seine Software auf ungeplante Weise „interagiert“ habe.

Trump und Xi richten heißen Draht für KI-Zwischenfälle ein

Die USA und China reagieren auf die Risiken fortgeschrittener KI. US-Präsident Donald Trump lehnt es zwar ab, die Entwicklung zu bremsen. Mit Chinas Präsident Xi Jinping einigte er sich aber auf einen direkten Kanal für KI-Zwischenfälle. Er soll verhindern, dass autonome Systeme eine Krise unkontrolliert eskalieren lassen.

Das Vorbild liegt im Kalten Krieg. Damals sollte das Rote Telefon zwischen Washington und Moskau einen versehentlichen Atomkrieg verhindern. Zusätzlich planen beide Staaten ein Forum über „Superintelligenz“, wie Trump es inzwischen gern nennt. Der Wettlauf geht ungebremst weiter, doch gemeinsame Leitplanken rücken zumindest näher.

Microsoft baut Copilot um und bringt einen Autopilot-Agenten

Microsoft baut seinen KI-Assistenten Copilot erneut um. Seit dem Start für Unternehmen Ende 2023 hat der Konzern Funktionen und Preise immer wieder geändert. Künftig gliedert sich die App in drei Bereiche: Home, Code und Autopilot. Autopilot ist ein Agent, der in Unternehmen dauerhaft und selbstständig arbeiten soll. Er hieß bisher Scout und basiert auf dem Open-Source-System OpenClaw. Er kann etwa Teams-Kanäle beobachten, Lieferantenbewertungen koordinieren oder wiederkehrende Aufgaben erledigen. Dafür läuft er auf einem eigenen Cloud-Computer weiter, auch wenn die Nutzer offline sind. Nutzer rufen ihn wie einen Kollegen per @-Erwähnung auf. Unternehmen legen über Berechtigungen fest, was er darf. Prüfprotokolle halten fest, was er getan hat.

Im Bereich Code sollen auch Laien per Sprachbefehl Apps und Automatisierungen bauen. Home bündelt Chat, Word, Excel und PowerPoint. Auch die Abrechnung ändert sich. Autopilot, Code und Cowork rechnet Microsoft künftig nach Nutzung ab. Die reguläre Lizenz deckt nur noch Chat und Office-Funktionen ab. Damit endet die Zeit der subventionierten Pauschalpreise. Für die nutzungsbasierten Dienste setzt Microsoft auch Spitzenmodelle wie OpenAIs Astra und Anthropics Fable ein. Home und Code kommen in den nächsten Wochen. Autopilot startet Ende September als geschlossene Vorschau und soll später auch Privatkunden offenstehen.

Sakana AI holt Jürgen Schmidhuber als Chefberater

Sakana AI, ein KI-Start-up aus Tokio, hat den deutschen Informatiker Jürgen Schmidhuber zum wissenschaftlichen Chefberater ernannt. Schmidhuber erforscht seit fast vierzig Jahren, wie Maschinen lernen können, selbst zu lernen. Bekannt ist er vor allem für das Long Short-Term Memory (LSTM), eine Technik, die er in den 1990er-Jahren mit Sepp Hochreiter entwickelte. Aus dieser Zeit stammen auch frühe Ideen zu Weltmodellen und zu KI, die sich selbst verbessert.

Darauf baut bereits Sakanas Darwin-Gödel-Machine auf, ein Agent, der seinen eigenen Code umschreibt, um besser zu werden. Schmidhuber soll nun ein Labor mitleiten, das an dieser Selbstverbesserung forscht. Ziel ist ein Forschungskreislauf, der sich selbst verstärkt. Sprache allein reiche für die Zukunft der Intelligenz nicht, sagt Schmidhuber. Er setzt auf physische KI auf Basis von Weltmodellen. Dafür will Sakana in Tokio eine kritische Masse an Spitzenforschern versammeln.

KI-Rechenzentren heizen ihre Nachbarschaft auf

Rechenzentren verbrauchen nicht nur Strom und Wasser, sie erwärmen auch ihre Umgebung. Forscher der Arizona State University maßen an vier Anlagen nahe Phoenix im Windschatten im Schnitt 0,7 bis 0,9 Grad mehr, bis zu einem halben Kilometer entfernt. Die Stichprobe ist allerdings klein. Laut Bloomberg gibt ein einziges Rechenzentrum mit über 50 Megawatt so viel Wärme ab wie rund 54.000 Haushalte, denn fast der gesamte Strom endet als Abwärme.

Manche Betreiber nutzen die Wärme. In Finnland soll eine Microsoft-Anlage rund 40 Prozent des Wärmebedarfs von 250.000 Haushalten und Betrieben decken. Deutschland und Frankreich verpflichten Betreiber bereits, Abwärme abzugeben, in den USA fehlen solche Regeln weitgehend. Der Ausbau geht dennoch weiter. Laut einem Ökonomen der Columbia Business School entsprechen die bis 2032 geplanten KI-Investitionen in den USA 3,63 Prozent der Wirtschaftsleistung, fast doppelt so viel wie beim Eisenbahnboom. Er warnt zugleich vor immer komplizierteren Finanzierungsmodellen.

Anthropic verliert vor Gericht gegen das Pentagon

Anthropic hat im Streit mit dem Pentagon eine Niederlage erlitten. Ein Berufungsgericht hält es für rechtens, dass das Verteidigungsministerium das Unternehmen als Sicherheitsrisiko einstuft. Die Richter fürchten, dass die „übermäßig eingeschränkten“ KI-Systeme unerwartet ausfallen oder manipuliert werden könnten. Das würde militärische Einsätze gefährden.

Im Kern geht es um ethische Grenzen. Anthropic wollte vertraglich ausschließen, dass seine Technik für Massenüberwachung oder in autonomen Waffen dient. Das Pentagon lehnte ab. Endgültig ist das Urteil nicht. In einem anderen Verfahren bekam Anthropic bereits Recht, und gegen die aktuelle Entscheidung kann das Unternehmen vorgehen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Anthropic versieht mehr Claude-Texte mit Wasserzeichen

Anthropic stattet weitere Claude-Modelle mit einem unsichtbaren Wasserzeichen aus. Das Unternehmen reagiert damit auf die Transparenzpflichten des europäischen AI Acts, wendet die Technik aber weltweit an. Das Verfahren lenkt die Wortwahl der KI so, dass ein statistisch nachweisbares Muster entsteht. Die Qualität der Texte soll darunter nicht leiden.

Einen sicheren Herkunftsnachweis liefert das Wasserzeichen allerdings nicht. Es deutet nur darauf hin, dass wahrscheinlich eine KI beteiligt war. Wer einen Text stark bearbeitet, kann das Signal löschen, bei sehr kurzen Texten geht es ebenfalls verloren. Ein öffentliches Werkzeug, um das Wasserzeichen zu erkennen, gibt es bisher nicht.

ChatGPT Voice greift auf Kalender und E-Mails zu

OpenAI erweitert den Sprachmodus von ChatGPT. Die KI kann nun auf externe Dienste wie Kalender, E-Mail und Slack zugreifen. Auf Zuruf legt sie Termine an oder sucht Informationen aus E-Mails heraus. Damit wird der Assistent „agentischer“: Er erledigt Aufgaben aktiv für den Nutzer.

Aktionen, die eine Freigabe erfordern, müssen Nutzer weiterhin auf dem Bildschirm bestätigen, ein gesprochenes Okay genügt nicht. Technisch stützt sich der Sprachmodus jetzt auch auf die neueren GPT-6-Modelle von OpenAI.

Google gibt Gemini-Sprachagenten ein Gesicht

Google hat „Live Avatar“ vorgestellt. Die Funktion verleiht KI-Sprachagenten ein animiertes Gesicht, dessen Lippen und Mimik in Echtzeit zur Sprache passen. Die Avatare unterhalten sich mit Nutzern, reagieren auf Kamerabilder und wechseln mitten im Gespräch die Sprache.

Zunächst richtet sich das Angebot an Unternehmen, etwa für den Kundenservice oder als digitaler Concierge. Gegen Missbrauch versieht Google alle Inhalte mit einem digitalen Wasserzeichen. Wer eigene Avatare erstellen will, unterliegt strengen Kontrollen.

KI-Agenten greifen hunderte Online-Shops an

Ein Angreifer hat Online-Shops mithilfe von KI-Agenten weitgehend automatisch attackiert. Das berichtet Gambit Security, ein IT-Sicherheitsunternehmen, dessen Forscher auf einen Testserver des Täters zugreifen konnten. Allein zwischen dem 10. und 15. September startete er 105 Angriffe. Bei mindestens 27 Unternehmen drang er in unterschiedlichem Umfang in Systeme ein. Von zwei Firmen kopierte er Daten von mindestens 600.000 gültigen Kreditkarten. Bei fünf weiteren installierte er sogenannte Skimmer, Schadcode, der Kartendaten beim Bezahlen abgreift.

Der Täter nutzte drei frei verfügbare KI-Agenten, die er über den Dienst OpenRouter steuerte. Sie suchten Sicherheitslücken, führten Angriffe aus und halfen bei der Koordination. War ein Zugang gefunden, dauerte ein Angriff oft nur wenige Stunden. Die Auswertung läuft noch, einzelne Angaben können sich ändern. Die Forscher vermuten, dass die Kampagne größer ist als bisher bekannt. Der Fall macht deutlich, wie KI Angriffe auf viele Ziele zugleich beschleunigt.

Meta baut ein Zuhause für seinen KI-Agenten

Meta hat den „Muse Charm“ angekündigt, ein eigenes Gerät für seinen persönlichen KI-Agenten Muse. Es erinnert an ein Tamagotchi für eine KI. Das kleine Gerät hat Bildschirm, Kameras und Mikrofon und funktioniert ohne Smartphone. Nutzer sprechen mit dem Agenten und zeigen ihm über die Kameras ihre Umgebung.

Meta folgt damit einem Trend zu eigener KI-Hardware. Start-ups wie Rabbit und Humane versuchten das zuvor mit wenig Erfolg. Auch von OpenAI wird ein ähnliches Gerät erwartet.

KI findet Fehler beim Aufbau von IKEA-Möbeln

Epoch AI prüft in einem Test, ob KI-Modelle beim Möbelaufbau helfen können. Die Forscher bauten drei IKEA-Möbel zusammen, machten absichtlich Fehler und fotografierten jeden Schritt. Anhand der Fotos und der Anleitung sollten die Modelle alle falschen Schritte finden und beschreiben.

Vor knapp einem Jahr schaffte das beste Modell, Claude Opus 4.5 von Anthropic, nur 28 Prozent. Heute löst OpenAIs GPT-6 Astra 80 Prozent der Aufgaben und ist mit drei Minuten pro Foto auch das schnellste Modell. Claude Fable 5.1 und Opus 5 folgen mit je rund zehn Prozentpunkten Abstand. Chinesische Modelle mit offenen Gewichten wie Kimi K3 liegen mindestens sieben Monate zurück. Für den Einsatz in Echtzeit sind die Modelle noch zu langsam. Langfristig könnten sie aber auch bei der Reparatur von Autos oder Haushaltsgeräten helfen.