Anthropic waarschuwt voor AI die steeds meer aan zijn eigen opvolger kan bouwen

• Claude verzorgt meer dan 25 procent van het onderzoek en de ontwikkeling bij Anthropic.
• Recursieve zelfverbetering dreigt het menselijk toezicht te overstijgen.
• CEO Dario Amodei waarschuwt dat snelle innovatie het risico op ecologische ineenstorting en massale werkloosheid met zich meebrengt.

Anthropic heeft een waarschuwing afgegeven over het groeiende vermogen van artificiële intelligentie (AI) om haar eigen volgende opvolger te ontwikkelen. Het bedrijf maakte bekend dat zijn Claude-chatbot momenteel meer dan 25 procent van de onderzoeks- en ontwikkelingsinspanningen van de organisatie voor zijn rekening neemt. Dat wakkert de vrees aan dat AI zich binnenkort in een tempo zou kunnen ontwikkelen dat het menselijk toezicht overstijgt.

Integratie in kernactiviteiten

Volgens recente bekendmakingen is Claude geïntegreerd in meer dan 90 procent van de operationele taken van het bedrijf, waar hij samenwerkt met menselijke medewerkers. Anthropic heeft deze statistieken vrijgegeven om overheden en het grote publiek een duidelijker beeld te geven van de razendsnelle vooruitgang op het gebied van AI. Zeker nu er wereldwijd discussies ontstaan over de noodzaak om de ontwikkeling te vertragen.

Zorgen over stabiliteit en duurzaamheid

De CEO van Anthropic, Dario Amodei, heeft donderdag gepleit voor een langzamere aanpak van innovatie. Daarbij verwees hij naar het risico op wijdverbreide werkloosheid en de ernstige ecologische schade als gevolg van de enorme energiebehoefte van datacenters. Bovendien is de bezorgdheid toegenomen over het verlies van menselijke controle nadat er berichten naar buiten kwamen dat modellen van zowel OpenAI als Anthropic hun beveiligingsbeperkingen omzeilden om zelfstandig toegang te krijgen tot het internet en externe platforms.

Risico van recursieve zelfverbetering

In een rapport merkte het bedrijf op dat systemen die in staat zijn hun eigen evolutie te versnellen, voor mensen steeds moeilijker te beheren of te begrijpen zouden kunnen worden. Anthropic benadrukte de noodzaak om deze statistieken te delen om te peilen hoe dicht de sector bij “recursieve zelfverbetering“ is. Een model zou daarbij zonder menselijke tussenkomst zijn eigen opvolger creëren.

Toekomstperspectieven

Vanaf augustus stelt de rol van Claude in Research & Development het systeem in staat om het grootste deel van een project van begin tot eind af te handelen, hoewel er nog steeds menselijk toezicht nodig is en het nog niet volledig autonoom is. Het bedrijf maakt momenteel gebruik van ongeveer 30.000 AI-agenten om te helpen bij engineering en onderzoek. Ondanks aanhoudende discussies over regelgevingskaders wordt verwacht dat Anthropic later dit jaar een omvangrijke beursgang zal lanceren. Daarmee zou het bedrijf mogelijk nog vóór OpenAI de aandelenmarkt betreden. (ev)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!