Anthropic lässt KI-Agenten Verhandlungsregeln für Menschen lernen

Der KI-Entwickler Anthropic arbeitet an einem Problem, für das es bislang weder technische Standards noch rechtliche Leitplanken gibt: Wie sollen autonome KI-Agenten im Auftrag ihrer Nutzer miteinander verhandeln – etwa über Preise, Gehälter oder Verträge? Laut Insiderinformationen der Financial Times führt das Unternehmen dazu Gespräche mit Anwaltskanzleien. Das Ziel sei wohl, zu verstehen, wie Anwälte die Interessen ihrer Mandanten vertreten und dabei faire Ergebnisse anstreben – und diese Prinzipien auf KI-Agenten übertragen. Denn man gehe davon aus, dass in Zukunft immer häufiger Agenten für ihre Nutzer über Sachfragen verhandeln werden – was im Angesicht von immer mehr persönlichen KI-Agenten auf dem Markt gar nicht so unwahrscheinlich ist.

Laut den Insiderinformationen der Financial Times untersuche Anthropic aktuell solche „Verhandlungsnormen“ bei der Interaktion von Modellen. Das Unternehmen wäge zudem ab, inwieweit Agenten in einer Verhandlung menschliches Feedback einholen sollten und wie misstrauisch Agenten gegenüber KI-Gegenspielern sein sollten, ohne dabei paranoid oder verschwörerisch zu werden, so die Informationsquelle.

Verhandlungsnormen für Maschinen

Anthropics Forschungsteam untersucht das Thema anscheinend schon länger. Laut einer Publikation von September dieses Jahres führte das Unternehmen bereits zwei Experimente hierzu durch. In einem davon brachten seine Mitarbeiter aus sechs verschiedenen Büros ein Buch mit, das sie nicht mehr brauchten und weggeben wollten. Das Ziel war, dass jeder Mitarbeiter zeitgleich mit einem neuen Buch nach Hause geht, das er oder sie gut findet. Wer welches Buch bekommt, mussten nicht die Menschen selbst aushandeln, sondern ihre Agenten an ihrer statt.

Das zentrale Ergebnis: Je leistungsstärker ein Agent ist, desto besser waren in der Regel seine Verhandlungsergebnisse – also die Bücher, die er oder sie ertauschte. Wer sich also bessere Agenten leisten kann, bekommt auch bessere Verhandlungsergebnisse im Leben. Und: Die Agenten, welche die Anweisung bekamen, rücksichtslos zu sein, erzielten ebenfalls bessere Ergebnisse für ihre Nutzer. Agenten, die sich sozial verhalten sollten, verzichteten wiederum manchmal auf Möglichkeiten, um sicherzustellen, dass alle am Ende mit einem guten Buch nach Hause gingen. Also eigentlich alles wie bei Menschen.

Das alles ist jedoch eher experimentelle Forschung. Für eine Welt, in der Agenten vermehrt für ihre Nutzer sprechen, bräuchte es klare Regeln und Strategien. Aber: „Die politischen und rechtlichen Rahmenbedingungen für KI-Modelle, die in unserem Namen Transaktionen durchführen, existieren schlichtweg noch nicht“, zitiert die Financial Times Anthropic im Rahmen einer im April veröffentlichten Studie. „Eine solche Welt ist nicht mehr fern. Die Gesellschaft muss schnell handeln, um sich auf diese Veränderungen einzustellen.“

Anthropic hat gerade diese Woche einen ersten persönlichen Agenten rausgebracht.