Bedrijven schetsen doemscenario's over ontwikkeling AI: 'Stop er dan mee'

Bedrijven die de AI-race jarenlang aanvoerden, waarschuwen nu dat het tempo omlaag moet. Volgens OpenAI en Anthropic is het nodig om krachtige AI-modellen veilig te houden. Maar er zit volgens deskundigen ook een bedrijfsstrategie achter.

"We moeten het tempo verlagen waarop we AI-modellen verbeteren", schreef Dario Amodei afgelopen weekend op zijn website. Hij is de directeur van Anthropic, een van de grootste AI-bedrijven ter wereld.

Andere leiders binnen het AI-domein sloten zich snel bij dat standpunt aan. Sam Altman (OpenAI), Elon Musk (X) en Satya Nadella (Microsoft) vinden het allemaal beter als de ontwikkeling van AI wat minder snel gaat.

De afgelopen jaren buitelden AI-bedrijven over elkaar heen om betere versies van AI-modellen op de markt te brengen. Het grote doel lijkt inmiddels dichtbij: het bouwen van superintelligentie, een vorm van AI die slimmer is dan de mens.

De komst van superintelligentie brengt ook risico's met zich mee, schreef OpenAI-hoofdonderzoeker Jakub Pachocki. "We moeten ervoor zorgen dat mensen de controle over de toekomst houden. En dat we niet achterblijven door ongecontroleerde vooruitgang, veroorzaakt door een soort vreemde intelligentie die ons eigen denkvermogen overtreft."

Sommigen gaan nog een stap verder. AI-onderzoeker Jacob Coxon nam vorige week ontslag bij Anthropic. Volgens hem wil het bedrijf vooral zo snel mogelijk het krachtigste AI-model te bouwen. "Ze spelen met onze levens", schreef hij op X. "De mensen die AI bouwen geloven dat de technologie ons nog voor het einde van dit decennium kan vermoorden."

Doemscenario's als marketing

Peter van der Putten, AI-onderzoeker aan de Universiteit Leiden, noemt dit soort doemscenario's ook een vorm van marketing. "Achter dit soort uitspraken zit de boodschap 'kijk eens hoe ongelooflijk krachtig onze technologie is'."

Volgens Van der Putten proberen bedrijven met dit soort uitspraken de aandacht af te leiden. Door de nadruk te leggen op enorme risico's in de toekomst, krijgen concrete problemen die nu spelen minder aandacht.

Computerwetenschapper Felienne Hermans (VU Amsterdam) gelooft niet dat de AI-directeuren echt zo bezorgd zijn. "Als de technologie echt zo gevaarlijk is, stop er dan zelf mee. In plaats daarvan leggen ze de verantwoordelijkheid buiten zichzelf."

Hermans vindt de bedrijven opportunistisch, omdat ze steeds zeggen wat hun het beste uitkomt. Toch vindt ze het goed dat de bedrijven oproepen tot regulering. "Als deze discussie tot goede regels leidt, is dat positief."

Regulering werkt niet altijd

Anthropic-directeur Amodei doet in zijn essay enkele voorstellen om AI veiliger te maken. Er moeten bijvoorbeeld onafhankelijke toezichthouders komen om systemen te onderzoeken.

Dat is een stap in de goede richting, zegt AI-onderzoeker Roel Dobbe (TU Delft). Maar het is niet genoeg om echt grip op de situatie te krijgen. "Het is naïef om te denken dat bedrijven bereid zijn om grondig onderzoek te laten doen naar systemen die ze zelf hebben gebouwd", zegt hij.

En dat is juist nodig, bijvoorbeeld na een incident. "Dan moet je tot de bodem uitzoeken wat er is gebeurd. Net zoals je dat doet nadat een vliegtuig is neergestort."

Dobbe noemt het een beproefde strategie die vaker in Silicon Valley klinkt. "Bedrijven uiten hun zorgen en pleiten voor regulering. Vervolgens is het altijd maar de vraag of er echt effectieve regelgeving voor terugkomt."

Nieuwe regels kunnen de grootste AI-bedrijven zelfs versterken, zegt Dobbe. "Bijvoorbeeld als blijkt dat zij de enige zijn die aan nieuwe eisen kunnen voldoen."

Trump en China willen door

Daarnaast zijn de regeringen van de Verenigde Staten en China nog niet happig om de ontwikkeling van AI in een rustiger vaarwater te brengen. De Amerikaanse president Donald Trump ziet daar niets in. "We lopen voor op China op het gebied van AI", zei hij. "Wie AI wint, wint het spel."

Ook China wil de ontwikkeling niet afremmen. Een woordvoerder van het ministerie van Buitenlandse Zaken zegt tegen de BBC dat verhalen over doemscenario’s nieuwe wereldwijde afspraken over AI-regelgeving juist bemoeilijken.

"Alle partijen moeten samenwerken om AI op een open en inclusieve manier verder te ontwikkelen", zegt hij. "Zodat iedereen ervan kan profiteren en de ontwikkeling ten goede komt aan de samenleving."

Stap in de goede richting

De Amerikaanse AI-bedrijven zitten volgens Dobbe in een zelfgecreëerde race, waar ze moeilijk uitkomen. "Ze kunnen verantwoordelijkheid nemen, maar intern is daar vaak te weinig ruimte voor. Door de concurrentie is het moeilijk om de juiste keuzes te maken."

Toch zien de experts wel een lichtpuntje. Dat de directeuren van AI-bedrijven het met elkaar eens zijn, is volgens hen een goed begin om AI veiliger te maken. "Er zijn regels nodig", zegt Van der Putten, die het vergelijkt met markten zoals de luchtvaart, de farmaceutische industrie en de voedselindustrie. "Daar hebben we ook oplossingen voor problemen gevonden."

"We moeten niet blijven hangen in dystopische of utopische verhalen, maar ons op praktische maatregelen richten", vervolgt hij. "Die concrete toezeggingen zie ik nu. Bovendien verplicht de Europese AI Act bedrijven daar nu al voor een deel toe."

Rutger schrijft over de impact van technologie. Hij focust op AI, digitale onafhankelijkheid en sociale media. Wekelijks verschijnt zijn blog Schermtijd. Tips of vragen? Mail naar rutger@nu.nl