OpenAI sagt "Sorry" nach Zugriff auf australische Websites

Fakt ist: Ein KI-Programm von OpenAI hatte eine Website der australischen Regierung gehackt. Der auf Künstlicher Intelligenz (KI) basierende Agent griff nach Angaben von Australiens Premierminister Anthony Albanese auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zu.

Entschuldigung erst nach Monaten

Albanese zufolge ereignete sich der Vorfall bereits im Juni. OpenAI machte die australische Regierung aber erst am 10. September auf den Vorfall aufmerksam - und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird. Dazu erklärte das US-Unternehmen nun, es hätte erste Erkenntnisse "früher" an australische Behörden weitergeben sollen". "Unser Ziel war es, den betroffenen Behörden einen detaillierten Bericht vorzulegen, sobald unsere Untersuchung abgeschlossen war", heißt es weiter.

Das Unternehmen räumte ein, dass es die vorläufigen Erkenntnisse früher hätte mitteilen "und die australischen Behörden auf dem Laufenden hätte halten sollen, während weitere Fakten bekannt wurden". Insgesamt wurden vier Plattformen der australischen Regierung von der KI ins Visier genommen, darunter Services Australia, die Website für Sozialleistungen, aus der das Modell nicht öffentliche Informationen abzog. Laut dem Unternehmen hatte die KI jedoch in keinem der vier Fälle Zugriff auf personenbezogene Daten.

Stopp nach Täuschungsmanövern

Unterdessen hat OpenAI die eigentlich für Oktober geplante Veröffentlichung seines KI-Modells der nächsten Generation, GPT-6.1 Astra, gestoppt. Das System habe die internen Sicherheitsstandards des Unternehmens nicht erfüllt, teilte der ‌ChatGPT-Hersteller ⁠mit. ⁠Zuvor hatte die Zeitung "Wall Street Journal" darüber berichtet. Das Modell sollte in die Dienste ChatGPT ​und Codex integriert werden und war dafür konzipiert, komplexere Aufgaben ​ohne menschliche Hilfe zu bewältigen.

Das US-Unternehmen stoppte das Projekt bis auf weiteres, weil GPT-6.1 Astra in internen Tests mehr Täuschungsmanöver als sein ‌Vorgänger unternommen hatte. ​Unter anderem habe das Modell nicht immer korrekt offengelegt, welche Aktionen es vorgenommen hatte.

KI-Treffen mit dem Präsidenten

US-Präsident Donald Trump und führende Vertreter der Technologiebranche beraten an diesem Dienstag über die Zukunft der Künstlichen Intelligenz (KI). Bei dem Treffen im Weißen Haus soll es darum gehen, ein Gleichgewicht zwischen Innovation und staatlicher Aufsicht zu finden, wie der ‌Vorsitzende des ⁠Repräsentantenhauses, ⁠Mike Johnson sagte. Klar ist: Die US-Regierung will ​eine ‌Überregulierung vermeiden, um im Wettbewerb mit China nicht ins Hintertreffen zu geraten.

An den Gesprächen nehmen Insidern zufolge unter anderen Meta-Chef Mark Zuckerberg, Nvidia-Chef ​Jensen Huang sowie hochrangige Vertreter von OpenAI und Anthropic teil. Zudem könnten Google-Chef ​Sundar Pichai und Tesla-Boss Elon Musk dabei sein.

haz/pgr (rtr, afp, dpa)

KI-Wettrüsten: Panikmache oder reale Gefahr?