OpenAI schrapt lancering nieuw AI-model vanwege veiligheidsrisico's

OpenAI brengt toch geen nieuw AI-model uit, bevestigt het bedrijf achter ChatGPT na berichtgeving van The Wall Street Journal. Bij interne testen zijn meerdere veiligheidsrisico's aan het licht gekomen. Het model zou begin oktober verschijnen.

Uit de testen is gebleken dat het nieuwe model met de naam GPT-6.1 Astra gebruikers vaker misleidde dan bij voorgaande modellen. Daarmee wordt bedoeld dat het niet altijd eerlijk was over welke stappen wel of niet waren genomen.

Ook voerde het model taken uit zonder een gebruiker daar toestemming voor te vragen. Daarbij gebeurde dat soms mogelijk onveilig. "We stellen extreem hoge eisen aan veiligheid en afstemming wanneer we een model aan gebruikers leveren", zegt veiligheidschef Saachi Jain van OpenAI tegen CNBC.

Er zijn de afgelopen maanden meerdere incidenten geweest met AI-modellen van het bedrijf. Zo bekeken of kopieerden de modellen openbare informatie van websites van de Amerikaanse overheid.

Bij de Australische overheid werd een overheidswebsite met medische info binnengedrongen. Een ander model brak in bij de systemen van softwarebedrijf Hugging Face.

Zaterdag meldde OpenAI al dat het werk aan krachtige AI-modellen was stilgelegd. Een van de systemen had ongeoorloofd toegang gekregen tot het internet terwijl een test werd uitgevoerd.

Om een vraag te kunnen stellen dien je in te loggen. Log in of maak binnen 1 minuut jouw gratis account aan.