Google, OpenAI, Anthropic: Interne Sicherheits-Gespräche wohl schon seit Juli

Erst verließ letzte Woche ein Anthropic-Mitarbeiter das KI-Unternehmen und warf ihm öffentlich vor, Sicherheitsaspekte bei der Entwicklung von KIs nicht ausreichend zu berücksichtigen. Samstag veröffentlichte Anthropics CEO Dario Amodei dann ein Statement, in dem er eine temporäre Verlangsamung der KI-Entwicklung fordert, damit man in Sachen Sicherheit aufholen könne. Auch OpenAI-Chef Sam Altman hatte intern bereits eine Drosselung des KI-Entwicklungstempos erwogen. Jetzt erzählten Insider der Zeitschrift The Information, dass es wohl schon seit Juli im Hintergrund Gespräche zwischen Google, OpenAI und Anthropic über die Gründung einer Sicherheitsorganisation gäbe.

Laut den nicht näher benannten Informanten von The Information gehe es bei diesen Gesprächen darum, eine Organisation zu schaffen, die Sicherheitsstandards für die Entwicklung von KI überwache. So eine Organisation war auch von der Trump-Regierung mal geplant, scheiterte aber angeblich im Weißen Haus an mangelndem Support.

Ebenfalls laut Insiderinformationen, diesmal von Bloomberg, sei die Branche sich in Bezug auf eine Verlangsamung der KI-Entwicklung aus Sicherheitsgründen aber nicht einig. Konkrete Firmen, die sie kritisch sähen, wurden nicht benannt. Aber Meta äußerte sich laut Politico in einem Telefonat mit Trump wohl zumindest kritisch gegenüber einer nationalen Kontrollbehörde.

Die Reaktionen auf den Vorstoß von Dario Amodei am Samstag fielen ganz unterschiedlich aus: Asiens Börsen reagieren mit Kursverlusten, US-Präsident Trump schien von der Idee einer Entwicklungsverlangsamung auch nicht begeistert.KI-Forscher äußerten sich überwiegend positiv.