Ook CEO AI-bedrijf Anthropic wil dat ontwikkeling AI-modellen wordt vertraagd

Dario Amodei, CEO van AI-bedrijf Anthropic, heeft AI-bedrijven opgeroepen om de snelheid waarmee ze hun modellen ontwikkelen bewust te matigen. Eerder deze week riep ook OpenAI-topman Sam Altman op tot een vertraging.

Amodei maakt zich zorgen over dat kunstmatige intelligentie zich sinds deze zomer "drastisch sneller ontwikkelt". "Net als veel technologieën ervoor, brengt AI risico's met zich mee", schrijft Amodei in een essay.

"Omdat het zo'n krachtige technologie is, zijn deze risico's ernstig. Het gaat onder meer om het risico van verlies van controle over AI-systemen, misbruik van AI voor cyberaanvallen en bioterrorisme, en ernstige economische ontwrichting." Daarom stelt Amodei dat we de ontwikkeling moeten vertragen.

Volgens Amodei moet AI veiliger worden gemaakt. Hij pleit ervoor dat ontwikkelaars meer investeren in het testen van modellen, het beter begrijpen van hoe ze beslissingen nemen en ervoor zorgen dat AI-systemen zich blijven gedragen volgens menselijke intenties en veiligheidsregels.

Daarnaast wil de Anthropic-topman dat onafhankelijke experts meekijken bij de ontwikkeling van de krachtigste AI-modellen. Ook roept hij op tot gezamenlijke veiligheidsnormen voor AI-bedrijven en internationale afspraken om de ontwikkeling van de geavanceerdste systemen gecontroleerd te laten verlopen.

Ook OpenAI-topman Sam Altman riep deze week op tot het vertragen van de ontwikkeling van geavanceerde kunstmatige intelligentie. Daarover lees je meer in onderstaand artikel.

Om een vraag te kunnen stellen dien je in te loggen. Log in of maak binnen 1 minuut jouw gratis account aan.