Europees Parlementsvoorzitter Metsola waarschuwt voor AI bij het opstellen van wetten

• Gekozen vertegenwoordigers moeten de volledige verantwoordelijkheid blijven dragen voor alle wetgevingsbesluiten.
• Door AI gegenereerde ‘hallucinaties’ vormen een bedreiging voor de democratische transparantie en de juridische nauwkeurigheid.
• Nieuwe richtlijnen schrijven strikte verificatie en openbaarmaking van het gebruik van AI voor.

Roberta Metsola, voorzitter van het Europees Parlement, heeft de Europarlementariërs gewaarschuwd om artificiële intelligentie niet als vervanging voor het wetgevingsproces te gebruiken. Dat meldt Politico. Tijdens een bijeenkomst over AI-gebruik in het Parlement stelde ze dat verkozen vertegenwoordigers zelf verantwoordelijk moeten blijven voor alle wetgevende beslissingen.

Volgens Metsola kan AI helpen bij het opstellen van amendementen. Toch kan de technologie het debat tussen parlementsleden en het kritische denkvermogen dat nodig is voor complexe juridische beslissingen niet vervangen.

Risico op hallucinaties

Om de democratische transparantie te waarborgen, wil Metsola dat het Parlement open communiceert over het gebruik van AI. Zo kunnen burgers hun vertegenwoordigers ter verantwoording roepen.

Die bezorgdheid groeit nu parlementaire medewerkers steeds meer door AI geschreven amendementen opmerken. Sommige daarvan verwijzen zelfs naar wetten die niet bestaan. Secretaris-generaal Alessandro Chiocchetti wees op de risico’s met een concreet voorbeeld. Een Europarlementariër kreeg via een AI-tool verkeerd juridisch advies. Juridische experts hadden vervolgens twee dagen nodig om de fout aan te tonen.

Nieuwe richtlijnen voor AI-gebruik

Chiocchetti vindt dat Europarlementariërs verantwoordelijk moeten blijven voor het opstellen en beoordelen van wetten. AI kan wel helpen om grote aantallen amendementen te ordenen.

Daarom werkt de parlementaire administratie aan nieuwe richtlijnen. Die steunen op drie principes: transparantie over het gebruik van AI, geen vertrouwelijke documenten uploaden naar openbare platforms en alle AI-output grondig controleren.

Verschil tussen medewerkers en Europarlementariërs

Momenteel gelden er verschillende regels voor medewerkers en verkozen parlementsleden. Sinds 2024 moeten medewerkers aangeven wanneer ze AI gebruiken voor hun werk. Voor Europarlementariërs geldt die verplichting nog niet bij toespraken of amendementen.

Om ook voor hen bindende regels in te voeren, moet het Parlement mogelijk zijn reglement van orde aanpassen. De Commissie constitutionele zaken zou zich dan over die wijziging moeten buigen.

Beveiliging van gevoelige gegevens

Naast de nieuwe richtlijnen ontwikkelt het Parlement een eigen AI-platform voor gevoelige informatie: de EPGenAI Hub. Die toepassing draait op de interne infrastructuur van het Parlement en moet veilige verwerking van vertrouwelijke gegevens mogelijk maken.

Commerciële toepassingen zoals ChatGPT, Claude van Anthropic en Llama van Meta blijven beschikbaar voor minder gevoelige taken. Het Parlement hanteert daarnaast al een voorzichtige aanpak op het vlak van hardware. Zo schakelde de instelling eerder geïntegreerde AI-functies op tablets uit om de privacy van gegevens te beschermen.(zvm)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!