Microsoft-CEO Satya Nadella pleit voor “noodrem” op geavanceerde AI-modellen

• Satya Nadella pleit voor strenge veiligheidsmaatregelen en een “noodrem” waarmee AI-systemen kunnen worden stilgelegd.
• Experts uit de sector waarschuwen dat de snelle ontwikkeling van AI het risico op het uitsterven van de mensheid met zich meebrengt.
• Observability-frameworks zorgen ervoor dat AI-acties traceerbaar en controleerbaar blijven.

Satya Nadella, CEO van Microsoft, heeft gepleit voor de implementatie van strenge veiligheidsmechanismen voor geavanceerde artificiële intelligentie. Hij stelt voor om deze systemen uit te rusten met beheersmaatregelen en een “noodrem”. Daarmee zou bevoegd personeel een model tijdens het gebruik kunnen stoppen of uitschakelen.

Volgens Nadella moet niet-deterministische AI worden beheerd via een rigide systeemarchitectuur, menselijk toezicht en betrouwbare operationele protocollen, met name op gebieden waar de huidige industrienormen ontbreken. Hij stelde voor om zowel open als gesloten ‘frontier’-modellen te beheren alsof het potentiële interne veiligheidsrisico’s betreft.

Zorgen binnen de sector

Deze suggesties sluiten aan bij de zorgen die zijn geuit door andere prominente figuren uit de sector, zoals Elon Musk, Sam Altman, Bill Gates en Dario Amodei, die hebben gewaarschuwd dat de snelle ontwikkeling van AI de bestaande veiligheidsmaatregelen achter zich laat.

De urgentie blijkt ook uit recente gebeurtenissen bij Anthropic. Een onderzoeker die het bedrijf verliet, beweerde dat toonaangevende AI-bedrijven gevaarlijke risico’s nemen met het voortbestaan van de mensheid. Daarnaast schatte een veiligheidsverantwoordelijke bij hetzelfde bedrijf de kans op meer dan 10 procent dat AI binnen tien jaar tot het uitsterven van de mensheid zou kunnen leiden.

“AI Force”

Donald Trump heeft daarentegen het idee verworpen dat AI een existentiële bedreiging vormt, en stelt in plaats daarvan dat de Verenigde Staten prioriteit moeten geven aan het behouden van een concurrentievoordeel ten opzichte van China.

Om dit doel te ondersteunen en kwaadwillende gebruikers aan te pakken, heeft hij onlangs de “AI Force” opgericht, onder leiding van Jay Clayton.

Nadella wil AI-systemen controleerbaar en veilig maken

Nadella stelt ook dat de ontwikkeling van AI moet steunen op “observeerbaarheid”. Zijn voorgestelde kader omvat het gebruik van verschillende modellen en het bijhouden van een traceerbaar, voor mensen leesbaar overzicht van de acties van AI-systemen. Daarnaast pleit hij voor voortdurende tests, onafhankelijke audits en transparantie over storingen.

Nadella concludeerde dat het meest betrouwbare superintelligente systeem niet noodzakelijk het systeem is dat de meeste betrouwbaarheid uitstraalt. Het gaat volgens hem juist om een systeem dat zo is ontworpen dat het veilig blijft functioneren, ook wanneer het model zelf niet volledig te vertrouwen is. (lv)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!