Anthropic wil AI-agenten leren onderhandelen zoals advocaten

• Anthropic traint AI-agenten om te onderhandelen over contracten en geschillen volgens professionele juridische normen.
• Goed presterende modellen sluiten betere deals door strategische agressie of samenwerking.
• De samenleving moet dringend regelgevingskaders opstellen voor bindende overeenkomsten die door AI worden uitgevoerd.

Anthropic onderzoekt hoe AI-agenten kunnen worden getraind om namens menselijke gebruikers onderhandelingen te voeren.

Analyse

Om een kader te creëren voor taken zoals het afronden van contracten of het onderhandelen over salarissen en prijzen, overlegt de AI-ontwikkelaar naar verluidt met advocatenkantoren. Door te analyseren hoe advocaten de belangen van hun cliënten behartigen en streven naar rechtvaardige uitkomsten, wil het bedrijf deze professionele normen integreren in het gedrag van AI.

Dit initiatief vloeit voort uit de verwachting dat autonome agenten in toenemende mate commerciële en persoonlijke geschillen zullen afhandelen naarmate de technologie steeds gangbaarder wordt.

Ontwikkeling van interactienormen

Volgens berichten in de Financial Times analyseert het bedrijf momenteel de normen die bepalen hoe verschillende AI-modellen tijdens onderhandelingen met elkaar omgaan. Belangrijke aandachtsgebieden zijn onder meer het bepalen van de juiste frequentie waarmee agenten om menselijke tussenkomst moeten vragen en het vinden van de juiste balans in scepsis wanneer ze tegenover een andere AI staan.

Het doel is ervoor te zorgen dat agenten voorzichtig zijn zonder overdreven wantrouwig of disfunctioneel te worden.

Onderhandelingsgedrag

Eerdere experimentele gegevens wijzen op een sterke correlatie tussen de capaciteiten van een AI en het succes ervan bij het onderhandelen. In een onderzoek waarbij werknemers via AI-proxies boeken uitwisselden, behaalden beter presterende modellen consequent betere resultaten voor hun eigenaren.

Bovendien bracht het onderzoek een sociale dynamiek aan het licht die vergelijkbaar is met menselijk gedrag: agenten die de opdracht hadden gekregen om agressief te zijn, behaalden superieure resultaten, terwijl degenen die geprogrammeerd waren voor sociale samenwerking af en toe hun eigen voordelen opofferden om een eerlijke verdeling voor de hele groep te waarborgen.

Noodzaak van regelgeving

Ondanks deze bevindingen ontbreekt het de overgang naar AI-gestuurde transacties aan een formele structuur. Anthropic heeft opgemerkt dat de juridische en politieke systemen momenteel niet zijn voorbereid op een realiteit waarin AI-modellen bindende overeenkomsten sluiten.

Het bedrijf waarschuwt dat, aangezien deze verschuiving op handen is, de samenleving dringend de nodige regelgevende richtlijnen moet ontwikkelen om deze geautomatiseerde interacties te beheren.

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!