Schietpartij in Canada zet debat over meldingsplicht en privacy bij AI-bedrijven op scherp

• OpenAI wordt geconfronteerd met een rechtszaak nadat een moordenaar ChatGPT gebruikte voor tactisch advies.
• AI-technologie heeft moeite om onderscheid te maken tussen fictieve teksten en daadwerkelijke gewelddadige bedoelingen.
• Juridische experts debatteren over de vraag of AI-bedrijven dezelfde plicht zouden moeten hebben als een therapeut om slachtoffers te waarschuwen.

Een schietpartij in Tumbler Ridge, Canada, heeft een kritische discussie op gang gebracht over de verantwoordelijkheid van AI-ontwikkelaars om geweldsdreigingen te melden, versus hun plicht om de vertrouwelijkheid van gebruikers te beschermen. Vóór de aanslag, waarbij meerdere mensen omkwamen, waaronder studenten en familieleden, zou de dader naar verluidt ChatGPT van OpenAI hebben gebruikt om tactisch advies te krijgen over de effectiviteit van jachtgeweren in besloten ruimtes.

Dit incident heeft geleid tot een civiele rechtszaak tegen OpenAI en zijn CEO, Sam Altman, waarbij de families van de slachtoffers en de regering van British Columbia beweren dat het bedrijf heeft nagelaten actie te ondernemen, ondanks dat het op de hoogte was van de gevaarlijke gesprekken.

Dilemma tussen privacy en veiligheid

Het centrale conflict ligt in de moeilijkheid om onderscheid te maken tussen een echte dreiging en een onschuldige interactie. Juridische deskundigen, zoals burgerrechtenadvocaat Jenin Younes, stellen dat het verplicht stellen van toezicht op privéchats inbreuk zou kunnen maken op fundamentele grondwettelijke rechten en privacy.

Omgekeerd groeit de bezorgdheid dat AI een mate van gedetailleerde informatie biedt die het voor individuen gemakkelijker kan maken om grootschalige aanslagen te plannen.

Technische hindernis

De technische uitdaging om opzet te beoordelen is aanzienlijk. Fazl Barez, een onderzoeker op het gebied van AI-veiligheid aan de Universiteit van Oxford, merkt op dat de huidige technologie geen betrouwbaar onderscheid kan maken tussen een creatieve schrijver die een fictieve moord uitwerkt, een wetenschapper die om veiligheidsredenen onderzoek doet naar gevaarlijke ziekteverwekkers, en iemand die een echte misdaad plant.

Hij stelt dat een geloofwaardige dreiging alleen kan worden geïdentificeerd door gedragspatronen over meerdere sessies heen te analyseren, in plaats van zich te richten op afzonderlijke uitspraken.

Vergelijking tussen AI en klinische professionals

Er zijn vergelijkingen gemaakt tussen AI-bedrijven en professionals in de geestelijke gezondheidszorg, die wettelijk verplicht zijn om potentiële slachtoffers te waarschuwen voor geloofwaardige bedreigingen.

Professor Chinmayi Sharma van Fordham University wijst echter op een opvallend verschil: therapeuten zijn gediplomeerde professionals die zijn opgeleid in het beoordelen van bedreigingen en aan strenge wettelijke normen moeten voldoen, terwijl AI-bedrijven zowel de expertise als de professionele verantwoordingsplicht ontberen.

Afschrikkende effecten

Verdere risico’s hebben betrekking op de mogelijkheid van systemische vooringenomenheid. Professor Sharma waarschuwt dat AI-monitoringtools de uitingen van minderheidsgroepen onevenredig vaak zouden kunnen markeren vanwege vooringenomenheden die in de trainingsgegevens zijn ingebed, wat tot oneerlijke targeting leidt.

Bovendien zou het vooruitzicht van voortdurende monitoring mensen kunnen ontmoedigen om chatbots te gebruiken voor geestelijke gezondheidszorg of persoonlijke reflectie, uit angst dat hun diepste gedachten aan de autoriteiten zouden kunnen worden doorgegeven.

Waarschuwingsplicht

Vanuit juridisch oogpunt is de waarschuwingsplicht nog niet duidelijk uitgebreid naar AI-aanbieders.

Professor Bryan Choi van de Universiteit van Colorado in Boulder legt uit dat een chatbot volgens de huidige wetgeving niet dezelfde “speciale relatie” heeft als een therapeut met een patiënt, waardoor het moeilijk is om bedrijven als OpenAI juridisch aansprakelijk te stellen voor het nalaten de politie te waarschuwen.

Op zoek naar een oplossing

Om deze spanningen op te lossen, stellen sommigen voor om onafhankelijke toezichthoudende instanties op te richten die meldingsprotocollen vaststellen. Dergelijke organisaties zouden bedreigingen kunnen beoordelen en het delen van gegevens kunnen beheren zonder de anonimiteit van gebruikers in gevaar te brengen.

Voorstanders stellen dat gebruikers op zijn minst expliciet op de hoogte moeten worden gesteld als hun gegevens worden gemonitord en onder welke specifieke voorwaarden deze mogelijk met wetshandhavingsinstanties worden gedeeld. Naarmate AI zich verder ontwikkelt, blijft het evenwicht tussen openbare veiligheid en persoonlijke vrijheid een onopgeloste juridische en ethische uitdaging.

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!