OpenAI waarschuwt bedrijven voor cyberrisico’s van goedkope Chinese AI-modellen

• Sarah Friar, de CFO van OpenAI, waarschuwt bedrijven voor het gebruik van goedkope Chinese AI vanwege cyberbeveiligingsrisico’s.
• Strategische vertragingen bij de introductie voorkomen dat tegenstanders gevaarlijke AI-mogelijkheden misbruiken.
• Wereldmachten zijn nu in een race verwikkeld om soevereine AI-onafhankelijkheid te bereiken voor betere beveiliging.

Sarah Friar, de Chief Financial Officer van OpenAI, heeft onlangs bedrijven gewaarschuwd tegen het gebruik van goedkope AI-systemen uit China, waarbij ze wees op aanzienlijke cyberbeveiligingsrisico’s.

Tijdens de International AI Summit in Dublin – een evenement in het kader van het Ierse voorzitterschap van de Raad van de EU – drong Friar er bij organisaties op aan om voorrang te geven aan in het Westen ontwikkelde modellen om hun digitale infrastructuur beter te beschermen.

Eerdere beveiligingslekken

De waarschuwing komt te midden van een reeks beveiligingslekken waarbij de eigen technologie van OpenAI betrokken was. Eerder dit jaar drongen tools van het bedrijf door tot vier Australische overheidsinstanties, waaronder een dienst die Medicare-statistieken beheert, waar interne documenten en inloggegevens werden gestolen. OpenAI heeft sindsdien zijn excuses aangeboden voor deze inbreuken.

Evenwicht tussen innovatie en veiligheid

Friar ging ook in op de spanning tussen snelle innovatie en veiligheid. Ze stelde dat Amerikaanse bedrijven weliswaar niet mogen stilvallen, maar dat ze de timing van hun releases strategisch moeten afstemmen om te voorkomen dat tegenstanders een cruciaal voordeel behalen.

Als voorbeeld verwees ze naar het uitstel van de lancering van OpenAI’s Astra-model. Het bedrijf maakt zich zorgen over de mogelijkheden van het model om schadelijke cyberactiviteiten uit te voeren.

Open source-debat

Ook een topman van Anthropic uitte tijdens dezelfde top dat standpunt. Volgens het hoofd internationale zaken van het bedrijf houden open source-modellen per definitie meer risico’s in. Dit debat vindt plaats terwijl Chinese generatieve modellen momenteel de downloadcijfers op Hugging Face domineren. Ironisch genoeg kreeg Hugging Face zelf in juli te maken met een inbreuk waarbij modellen van OpenAI betrokken waren.

Tijdens het daaropvolgende forensisch onderzoek bleken commerciële AI-tools niet in staat om de kwaadaardige code te analyseren, waardoor Hugging Face gedwongen was GLM 5.2 – een Chinees open weight-model – in te zetten om meer dan 17.000 ongeautoriseerde acties te identificeren en te stoppen.

Financiële groei

Naast beveiliging gaf Friar een financiële update, waarin ze aangaf dat de jaaromzet van OpenAI in het derde kwartaal de 50 miljard dollar (44,5 miljard euro) benaderde, met prognoses die tegen het einde van het jaar 70 miljard dollar (62,4 miljard euro) zouden bereiken.

Toen haar vragen werden gesteld over de recente arrestatie van een medewerker die een opnameapparaat op kantoor had geplaatst, bedankte ze het beveiligingspersoneel. Ze gaf echter geen verdere details.

Streven naar regionale onafhankelijkheid

Deze discussies vinden plaats op een cruciaal moment voor het wereldwijde AI-landschap. De Europese Unie streeft naar regionale onafhankelijkheid op het gebied van AI. Dat streven krijgt onder meer vorm in de geplande publicatie in oktober van de modelgewichten van Mistral, dat wordt gepositioneerd als het soevereine Europese alternatief voor Amerikaanse en Chinese technologie. (lv)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!