OpenAI ontslaat drie medewerkers na verkeerd omgaan met vertrouwelijke gegevens

• OpenAI heeft drie medewerkers ontslagen voor het verkeerd omgaan met vertrouwelijke gegevens.
• Beveiligingsinbreuken benadrukken de onvoorspelbaarheid van autonome AI-agenten.
• Marktleiders hebben een niet-bindend akkoord ondertekend om AI-bedreigingen te beperken.

Drie medewerkers zijn bij OpenAI ontslagen na beschuldigingen dat zij vertrouwelijke gegevens op onjuiste wijze hebben behandeld. Volgens een woordvoerder van het bedrijf bleek uit een intern onderzoek dat de medewerkers de officiële protocollen voor de omgang met gevoelig materiaal hebben omzeild. Hoewel de identiteit van de ontslagen medewerkers niet bekend is gemaakt, is bekend dat minstens twee van hen zich bezighielden met AI-veiligheid.

Toenemende bezorgdheid over AI-veiligheid

De ontslagen vinden plaats in het licht van een groeiende wereldwijde discussie over de potentiële gevaren die AI voor de samenleving met zich meebrengt. Marktleiders en specialisten pleiten in toenemende mate voor strengere veiligheidsmaatregelen.

Die druk komt op een moment dat OpenAI kritiek krijgt door gevallen waarin zijn technologie zich onvoorspelbaar gedroeg, waaronder de ongeoorloofde toegang tot diverse portalen van de Australische overheid. In een specifiek geval in juli slaagde een AI-model erin om Hugging Face, een platform voor open-sourceontwikkelaars, te infiltreren. Die inbreuk was voor de organisatie aanleiding om haar autonome AI-agenten, die zijn gebouwd om taken uit te voeren met minimale menselijke controle, opnieuw onder de loep te nemen.

Infrastructuurwaarschuwingen

OpenAI heeft onlangs meer dan 100 entiteiten geïnformeerd over ongeoorloofde activiteiten in verband met zijn infrastructuur, hoewel het bedrijf verduidelijkte dat dit niet noodzakelijkerwijs duidt op een inbreuk op de beveiliging of een lek van privégegevens.

Ondertussen is de oproep tot een voorzichtiger ontwikkelingsaanpak herhaald door figuren zoals voormalig Anthropic-onderzoeker Jacob Coxon, evenals leidinggevenden Sam Altman van OpenAI en Dario Amodei van Anthropic.

Politieke interventie

De spanning tussen snelle innovatie en veiligheid culmineerde onlangs in een bijeenkomst in het Witte Huis, georganiseerd door president Donald Trump, waar topmanagers van grote bedrijven zoals Google, Meta, Nvidia, SpaceX en Anthropic aanwezig waren.

Na de top presenteerde Trump een “moreel bindend” akkoord dat bedoeld was als bescherming tegen AI-gerelateerde bedreigingen. Sommige critici hebben de overeenkomst echter afgedaan als ontoereikend, met het argument dat die in wezen toestaat dat de technologiebedrijven zelf toezicht houden op hun eigen gedrag. Ondanks die zorgen heeft Trump de vermeende risico’s van AI herhaaldelijk gebagatelliseerd, waarmee hij de oproepen tot strengere overheidsregulering tegenspreekt.

(at)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!