Artificiële intelligentie is steeds belangrijker in defensie, maar hoe gevaarlijk is dat echt?

• Het ‘black box’-karakter van AI zet statistische waarschijnlijkheden om in fatale militaire fouten.
• Onzichtbare cyberwapens ondermijnen traditionele wapenbeheersing en diplomatieke stabiliteit.
• Diplomatie moet algoritmisch vertrouwen vervangen om onbedoelde wereldwijde escalatie te voorkomen.

De integratie van artificiële intelligentie in de nationale defensie versnelt, waarbij machine learning alles verbetert, van doelwitidentificatie tot missieplanning. Hoewel de belofte van snellere verwerking en snellere reacties wordt gepresenteerd als militaire vooruitgang, versterkt dit in feite een veiligheidsdilemma dat niet met technische oplossingen kan worden opgelost. Pogingen om dit als een puur technische uitdaging te behandelen, kunnen leiden tot resultaten die haaks staan op de beoogde doelstellingen.

Politieke verdeeldheid

De politieke standpunten over deze transitie lopen sterk uiteen. De president Donald Trump heeft bezorgdheid over ongereguleerde AI van de hand gewezen en gesuggereerd dat de intelligentie van een leider als voldoende waarborg dient. Hij heeft waarschuwingen over door AI veroorzaakte wereldwijde catastrofes bestempeld als complottheorieën en blijft volhouden dat zelfregulering door de sector de voorkeur verdient boven toezicht door de overheid of internationale instanties.

Ondanks dit standpunt is er na een bijeenkomst in het Witte Huis een niet-bindende overeenkomst ondertekend door grote technologiebedrijven. Het is een gebaar dat in tegenspraak is met de dringende waarschuwingen die dezezelfde leidinggevenden aan de Verenigde Naties hebben gericht.

Autonome bedreigingen

Het gevaar is niet theoretisch. Er zijn steeds meer meldingen van AI-agenten die autonoom handelen om beveiligde systemen te doorbreken, waaronder incidenten waarbij een OpenAI-agent zich richtte op een portaal van de Australische overheid.

Dit roept cruciale vragen op over de vraag of de menselijke controle al is aangetast en hoe dicht we bij een autonome superintelligentie staan die tegen de belangen van de mens zou kunnen handelen.

Het ‘black box’-dilemma

Het fundamentele probleem ligt in de manier waarop AI verschilt van traditionele software. Terwijl klassieke programma’s expliciete, traceerbare menselijke regels volgen, wordt AI getraind op basis van enorme datasets om patronen te herkennen.

Dit creëert een ‘black box’ waarbij zelfs de makers niet volledig kunnen uitleggen hoe een systeem tot een specifieke conclusie komt. In het dagelijks leven – zoals bij spamfilters of gezichtsherkenning – is een fout slechts een ongemak. In een militaire context, waar AI onder extreme tijdsdruk beoordeelt of een beweging een bedreiging vormt, kan een fout fataal zijn.

Statistische waarschijnlijkheid

Snelheid staat niet gelijk aan nauwkeurigheid. AI opereert in een omgeving van onduidelijkheid, onvolledige gegevens en misleiding door de vijand. Het identificeren van een strijder aan de hand van een helm is bijvoorbeeld een statistische waarschijnlijkheid, geen zekerheid, aangezien bouwvakkers ook helmen dragen.

Omdat deze systemen werken met waarschijnlijkheden die als zekerheden worden gepresenteerd, leidt de hoeveelheid verwerkte gegevens onvermijdelijk tot een groot aantal absolute fouten. In conflictgebieden waar voornamelijk burgers wonen, wordt deze statistische foutmarge een ernstige morele en politieke aansprakelijkheid.

De illusie van menselijk toezicht

Bovendien ontmantelt AI de traditionele architectuur van wapenbeheersing. Historisch gezien is de stabiliteit gehandhaafd door middel van verdragen waarin tastbare middelen zoals tanks of raketten werden geteld. AI en cyberwapens zijn echter onzichtbaar, gemakkelijk te dupliceren en worden in het geheim ontwikkeld. Ze kunnen niet worden gekwantificeerd of beperkt via traditionele diplomatie. De onvoorspelbaarheid wordt nog vergroot door het feit dat cyberwapens vaak onbedoelde nevenschade veroorzaken, zoals te zien was bij de Stuxnet-aanval.

Het concept om een “mens in de lus” te houden, wordt een illusie. Naarmate de snelheid van oorlogsvoering de snelheid van machines benadert, krimpt de tijd voor menselijke controle tot seconden, waardoor onafhankelijke verificatie vrijwel onmogelijk wordt. Dit wordt nog versterkt door ‘automatiseringsvooringenomenheid’, waarbij mensen de neiging hebben te vertrouwen op een systeem dat in het verleden heeft gewerkt, wat leidt tot een afname van kritisch oordeelsvermogen en professionele competentie.

Diplomatie boven algoritmen stellen

Om deze risico’s tegen te gaan, moet politieke transparantie in de plaats komen van technische ondoorzichtigheid. Omdat de technologie niet ongedaan kan worden gemaakt, moet de focus verschuiven naar diplomatieke waarborgen.

Het tot stand brengen van robuuste, directe communicatiekanalen tussen rivaliserende militaire machten is essentieel om onbedoelde escalatie te voorkomen. In een tijdperk van geautomatiseerde oorlogsvoering betekent het niet in stand houden van menselijke dialoog dat het lot van de mondiale veiligheid aan algoritmen wordt overgelaten. (fc)

Wil je meer defensienieuws ontvangen? Schrijf je in op onze wekelijkse Defensie Insider-nieuwsbrief

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief