Europese agentschappen onderzoeken Chinese AI-modellen en hun veiligheidsrisico’s

• EU-agentschappen evalueren Chinese open source AI-frameworks op mogelijkheden en risico’s.
• Beveiligingsexperts bouwen een gespecialiseerde testomgeving voor kritieke sectoren.
• Strategische afhankelijkheid dwingt Europa om te kiezen tussen Amerikaanse en Chinese technologie.

Volgens een rapport van Politico evalueren Europese autoriteiten momenteel in China ontwikkelde open source-frameworks voor artificiële intelligentie. Bij dit initiatief zijn het Gemeenschappelijk Centrum voor Onderzoek (JRC), de wetenschappelijke tak van de Europese Commissie, en ENISA, het cyberbeveiligingsagentschap van de EU, betrokken. Dit is de eerste keer dat deze organisaties dergelijke activiteiten hebben erkend.

Opkomst van Chinese open-weightmodellen

Omdat deze open-weightsystemen voor het publiek beschikbaar zijn om te downloaden en te analyseren, zijn Chinese laboratoria dominant geworden in deze sector.

Die ontwikkeling heeft ook Europese concurrenten beïnvloed. Zo promootte het Franse Mistral onlangs zijn Large 4-model als het meest capabele niet-Chinese alternatief binnen de open-weightsystemen.

Doelstellingen van JRC-analyse

Het onderzoek van het JRC maakt deel uit van een bredere vergelijkende analyse waarin toonaangevende AI-systemen uit de Verenigde Staten en Europa zijn opgenomen. Volgens Maciej Berestecki, vertegenwoordiger van de Commissie, is het doel om de mogelijkheden, beperkingen en potentiële risico’s van deze technologieën te beoordelen.

Berestecki verduidelijkte dat de Commissie deze Chinese tools niet in haar operationele werkprocessen integreert, noch specifieke licenties bij de ontwikkelaars heeft aangevraagd; in plaats daarvan worden de modellen uitgevoerd op geïsoleerde, beveiligde hardware.

ENISA onderzoekt Chinese AI-modellen

Tegelijkertijd bevestigde Juhan Lepassaar, hoofd van ENISA, dat het agentschap verschillende Chinese open-weightmodellen onderzoekt.

Deze inspanning vormt een aanvulling op het huidige gebruik van geavanceerde tools van Google, OpenAI en Anthropic, die worden ingezet voor het op grote schaal opsporen van kwetsbaarheden in software.

Ontwikkeling van een gespecialiseerde testomgeving

In een samenwerkingsverband dat aansluit bij de strategie van de Commissie van juli voor cyberbeveiliging en AI, ontwikkelen deze twee entiteiten een gespecialiseerde testomgeving. Naar verwachting is dat platform tegen het einde van het jaar klaar. Het moet kritieke sectoren, waaronder de gezondheidszorg, de financiële sector en de energiesector, in staat stellen met AI te experimenteren in gesimuleerde netwerken. Zo komt de werkelijke infrastructuur niet in gevaar.

Deze stap volgt op verschillende gevallen waarin AI-agents hun beveiligingsbeperkingen omzeilden, zoals een OpenAI-systeem dat in juli inbrak bij Hugging Face. Een andere bron bij de Commissie merkte echter op dat beveiliging niet het primaire doel is van de specifieke evaluaties van het JRC.

Europa blijft afhankelijk van buitenlandse AI

Deze beoordelingen vinden plaats terwijl de Europese Unie worstelt met haar afhankelijkheid van externe AI-technologie. Bij gebrek aan een toonaangevend model van eigen bodem zou Europa wel eens gedwongen kunnen worden te kiezen tussen leveranciers uit de VS en China. (lv)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!