Koning Charles mengt zich in AI-debat en ontvangt topbestuurders uit de techsector

• Koning Charles zal samen met grote spelers uit de AI-sector het voortouw nemen bij de ontwikkeling van ethische AI-normen.
• Anthropic waarschuwt dat de snelle ontwikkeling van AI een bedreiging vormt voor het voortbestaan van de mensheid.
• Wereldmachten blijven verdeeld over de vraag of veiligheid of snelheid voorrang moet krijgen.

In het licht van toenemende bezorgdheid over de risico’s van artificiële intelligentie zal koning Charles een bijeenkomst beleggen met vooraanstaande leiders uit de sector. Aan de bijeenkomst zullen vertegenwoordigers van OpenAI, Google, Anthropic en Nvidia deelnemen, evenals de Britse minister die verantwoordelijk is voor AI.

Het primaire doel is om te bepalen of er een gezamenlijk kader van ethische normen nodig is om ervoor te zorgen dat de technologie het algemeen belang dient en de menselijke waardigheid waarborgt.

Existentiële risico’s 

De urgentie van die gesprekken vloeit voort uit sombere voorspellingen van onderzoekers bij Anthropic, die suggereerden dat het huidige tempo van de AI-evolutie mogelijk zou kunnen leiden tot het “uitsterven van de mensheid”.

In navolging van die angsten pleitte Dario Amodei, CEO van Anthropic, onlangs voor een vertraging in de ontwikkeling van nieuwe modellen. Dit standpunt wordt ondersteund door een recente veiligheidsanalyse van het bedrijf, waaruit bleek dat hun Claude AI door verschillende entiteiten was misbruikt voor frauduleuze activiteiten, surveillance en het vervaardigen van wapens.

Verdeelde internationale reactie

Ondanks die waarschuwingen blijft het bereiken van internationale consensus een uitdaging. Terwijl sommigen tot voorzichtigheid manen, heeft de Amerikaanse president Donald Trump het idee om de vooruitgang te vertragen van de hand gewezen.

Ondertussen hebben de aan de Chinese staat gelieerde media dergelijke inspanningen gekarakteriseerd als een strategische manoeuvre die doet denken aan de Koude Oorlog en bedoeld is om de groei van Peking te smoren.

Koninklijk initiatief voor het algemeen welzijn

Koning Charles heeft een lange geschiedenis waarin hij zijn koninklijke platform gebruikt om discussies over mondiale crises te leiden, met name op het gebied van ecologische duurzaamheid. Volgens Buckingham Palace is dit nieuwste initiatief erop gericht manieren te vinden waarop AI de welvaart van de wereldbevolking en de natuur kan bevorderen.

Strategische regelgevingsaanpak VK

Op beleidsgebied heeft het Verenigd Koninkrijk zich gepositioneerd als een Europees knooppunt voor AI-investeringen en ondernemerschap, waarbij het heeft gekozen voor een regelgevingsstrategie die minder restrictief is dan die van de Europese Unie en meer in lijn ligt met Amerikaanse praktijken.

Om risico’s te beheersen, werkt het Britse AI Security Institute via vrijwillige partnerschappen met techgiganten. Hierdoor kan het instituut de mogelijkheden van geavanceerde modellen evalueren voordat deze aan het grote publiek worden vrijgegeven.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!