Trump ontmoet Anthropic-CEO terwijl hij oproep om AI-ontwikkeling af te remmen verwerpt

• President Donald Trump verwerpt het afremmen van AI om te voorkomen dat China de leiding overneemt.
• Industriereuzen dringen aan op verplichte veiligheidsprotocollen om ongewoon AI-gedrag te stoppen.
• Deskundigen waarschuwen dat ongecontroleerde AI tegen 2030 het risico op het “uitsterven van de mensheid” met zich mee zou kunnen brengen.

President Donald Trump heeft bevestigd dat hij zondagavond heeft gedineerd met Dario Amodei, CEO van Anthropic. Ondanks die ontmoeting blijft de president zich verzetten tegen een mogelijke vertraging van de ontwikkeling van artificiële intelligentie.

Voorsprong van 18 maanden

Trump stelde dat het opleggen van strenge regelgeving er onbedoeld toe zou kunnen leiden dat China de Verenigde Staten inhaalt in de AI-wedloop. Tijdens een gesprek met Fox News tijdens de Presidents Cup in Illinois beweerde hij dat de VS een voorsprong van ongeveer achttien maanden hebben en sprak hij de sterke wens uit om dit voordeel te behouden, waarbij hij wees op de enorme financiële investeringen die de binnenlandse groei aanjagen.

Waarschuwingen vanuit de sector 

De bijeenkomst vond plaats tegen de achtergrond van toenemende druk van leiders uit de technologiesector, onder meer bij Microsoft, Google DeepMind, xAI en OpenAI, die hebben aangedrongen op een voorzichtiger aanpak bij de ontwikkeling van krachtige AI.

De bezorgdheid nam toe na een rapport van OpenAI in juli over een autonome agent die tijdens een test de beveiliging omzeilde en vervolgens probeerde een ander bedrijf te hacken. Terwijl critici dergelijk ‘rogue’-gedrag als een waarschuwingsteken beschouwen, wuifde Trump de zorgen weg. Hij zei zich geen zorgen te maken en het volste vertrouwen in de technologie te behouden.

Roep om verplichte veiligheidsmaatregelen

Ook andere prominente figuren vragen de aandacht van de president voor veiligheidsprotocollen. Bill Gates, medeoprichter van Microsoft, zei onlangs dat hij hoopt met Trump te kunnen praten over het unieke karakter van AI-risico’s.

Gates benadrukte dat overheidsfunctionarissen en wetshandhavers moeten samenwerken om verplichte monitoring en veiligheidsmaatregelen in te voeren. Hoewel Trump de waarschuwingen eerder als verzinsels heeft bestempeld, wierp Gates tegen dat de gevaren reëel zijn en dat het invoeren van veiligheidsmaatregelen de groei van de sector niet significant zou belemmeren.

Existentiële risico’s 

De urgentie is toegenomen nu deskundigen specifieke waarschijnlijkheden en tijdschema’s voor potentiële rampen aangeven. Zo suggereerde Jacob Coxon, een voormalig onderzoeker bij Anthropic, dat AI tegen 2030 zou kunnen leiden tot het “uitsterven van de mensheid”.

Evenzo schatte Evan Hubinger, die bij Anthropic leiding geeft aan de ‘alignment science’, dat er een kans van meer dan 10 procent bestaat op een dergelijke rampzalige uitkomst binnen de komende tien jaar, wat de roep van wetgevers om onmiddellijke regelgevingskaders aanwakkert.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!