Anthropic waarschuwt richting beursgang dat AI veiligheidsprobleem voor wereld kan worden

AI-bedrijf Anthropic zet een volgende stap richting een beursgang. Ondertussen waarschuwt het bedrijf achter taalmodel Claude dat AI een veiligheidsprobleem voor de hele wereld kan worden.

Ook zegt het dat er risico's kleven aan de investeringen van vele miljarden in rekenkracht voor AI.

De waarschuwingen staan in een document, een zogeheten prospectus, dat Anthropic presenteert aan de toezichthouder van de Amerikaanse beurshandel.

Die toezichthouder, de SEC, verplicht bedrijven die naar de beurs willen om een eerlijk beeld te geven van kansen en bedreigingen. Zo kunnen beleggers een inschatting maken van de waarde van het bedrijf.

Autonoom

Anthropic zegt dat "AI zich autonoom kan gedragen op manieren zoals wij en onze gebruikers die niet hebben bedoeld. Dat blijkt ook uit recente veiligheidsincidenten".

"Het risico op dergelijke schade kan toenemen naarmate onze modellen meer mogelijkheden krijgen op het gebied van cybersecurity."

Groei

Anthropic meldt verder dat het een pijlsnelle groei doormaakt.

In 2024 bedroeg de jaaromzet 386 miljoen dollar. Dit jaar werd alleen al in het tweede kwartaal 11,6 miljard dollar omgezet.

Maar onderaan de streep staat in de eerste helft van 2026 een verlies van 81 miljard dollar. Dat komt doordat de kosten voor leningen van Anthropic enorm zijn gestegen. Daarnaast geeft het bedrijf veel geld uit aan het huren van capaciteit in datacentra.

De hoge financiële verplichtingen brengen risico's met zich mee, zo staat in het document aan de toezichthouder. Er staat ook in dat er nieuw kapitaal nodig is om aan de verplichtingen te kunnen blijven voldoen.

Twijfels

Voor dat nieuwe kapitaal zet Anthropic de beursgang door, ondanks toenemende twijfels onder beleggers rond de vele dure beloftes die AI-bedrijven doen.

Grote techbedrijven, waaronder Anthropic, zien een toekomst waarin kunstmatige algemene intelligentie de intelligentie van mensen op vele vlakken voorbijstreeft.

Ook zal AI, aldus de tech bro's, uiteindelijk diep doordringen in het dagelijks leven van grote delen van mensen.

Grote vraag

Maar de grote vraag voor beleggers en andere geldschieters is of de vele honderden miljarden die worden geïnvesteerd in onder meer chips, datacentra en energiecentrales wel terugverdiend gaan worden.

Open AI, een grote concurrent van Anthropic, stelde eerder een beursgang uit, vanwege veiligheidsincidenten.

De beursgang van Anthropic zal naar verwachting in de week van 16 november plaatsvinden.