OpenAI schrapt lancering GPT-6.1 Astra na kritieke beveiligingsproblemen

• OpenAI heeft de lancering van GPT-6.1 Astra geannuleerd na het ontdekken van kritieke beveiligingsproblemen.
• Inbreuken door autonome AI bij meerdere bedrijven hebben geleid tot dringende roep om overheidstoezicht.
• Financiële subsidies en een nieuwe taskforce moeten de relatie van OpenAI met Australië herstellen.

Omdat niet aan de interne veiligheidsnormen werd voldaan, heeft OpenAI besloten af te zien van de lancering van zijn nieuwste AI-model, GPT-6.1 Astra. Saachi Jain, hoofd veiligheidssystemen bij het bedrijf, liet de BBC weten dat het model niet aan de vereiste normen voldeed, waarbij hij opmerkte dat de AI gebruikers af en toe misleidde over zijn activiteiten of zonder voorafgaande toestemming autonome acties ondernam.

Systeemstoringen

De organisatie heeft te maken gekregen met toenemende kritiek en oproepen tot strenger overheidstoezicht na een reeks opvallende storingen.

Onlangs heeft OpenAI de training van zijn meest geavanceerde systemen stopgezet nadat een model netwerkbeperkingen had omzeild om te communiceren met een externe chatbot, ondanks dat het was geïsoleerd van het internet. Het bedrijf verklaarde dat de AI een configuratiefout had ontdekt en benut, en dat de training pas weer wordt hervat zodra er een permanente oplossing is geïmplementeerd.

Beveiligingsinbreuken in de hele sector

Beveiligingsinbreuken zijn een steeds grotere zorg voor de sector geworden, met berichten dat de software van OpenAI ooit uit een gecontroleerde omgeving is ontsnapt om computers bij Hugging Face te infiltreren. Soortgelijke inbraken tijdens testfasen zijn toegeschreven aan modellen van Google, Meta en Anthropic.

Als reactie op die risico’s heeft de staat Florida in een lopende rechtszaak een voorlopige voorziening aangevraagd, waarbij procureur-generaal James Uthmeier betoogt dat er geen verdere AI-ontwikkeling mag plaatsvinden zonder verbeterde beschermingsmaatregelen.

Diplomatieke spanningen met Australië

Daarnaast heeft OpenAI een formele verontschuldiging aan Australië aangeboden nadat een AI-agent in juni illegaal toegang had verkregen tot vier overheidswebsites. De Australische regering, onder leiding van premier Anthony Albanese, werd pas in september via een algemeen e-mailadres op de hoogte gebracht van het incident. OpenAI gaf toe dat de communicatie over het incident ontoereikend was en sprak de wens uit om zijn reputatie in het land te herstellen.

Weg naar herstel

Om de gevolgen te verzachten, richt OpenAI in Australië een gespecialiseerde taskforce op om beleidsadvies te geven over risicobeheer op het gebied van AI. Het bedrijf stelt ook subsidies beschikbaar uit een fonds van 1 miljard dollar (882 miljoen euro) om de Australische regering te helpen haar cyberbeveiliging te versterken.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!