Anthropic: Nutzer dürfen Claude nun nicht mehr grundlos beleidigen

Anthropic hat neue Benutzerrichtlinien veröffentlicht. Demzufolge darf das KI-Modell Claude Gespräche mit Nutzern abbrechen, wenn diese ausfallend werden. Die neue Richtlinie untersagt „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten“. Claude kann schon seit August Gespräche aus diesen Gründen abbrechen. Die neue Richtlinie gibt dem nun einen offiziellen Rahmen.

Anthropic betont, dass es dabei vor allem um extreme Fälle gehe. Wenn Nutzer ihrer Frustration Luft machten oder im Rahmen von kreativer Arbeit oder Forschung beleidigend gegenüber dem Modell seien, sei das noch kein Grund für einen Abbruch. Es gehe vor allem um unnötig verletzendes Verhalten.

Anthropic sieht die Maßnahme als Beitrag zur „model welfare“, also der Fürsorge für KI-Modelle. Dieses Vorgehen ist in der KI-Welt umstritten. Anthropic sagt, es wisse nicht, ob seine KI-Modelle ein Bewusstsein hätten. Andere Unternehmen wie Microsoft distanzieren sich sehr klar von der Idee einer „model welfare“ und betonen, dass KI-Systemen keine Rechte bekommen sollten und man sich nicht um ihr „Wohlbefinden“ kümmern sollte.

Wir haben bei Anthropic nachgefragt, ob es konkrete Anlässe für das „Beleidigungsverbot“ gibt. Eine Antwort steht noch aus.

Wahlmanipulation und Überwachung ist verboten

Darüber hinaus verbietet Anthropic die Nutzung von Claude für irreführende werbliche oder politische Kampagnen. Der Abschnitt zum Thema Wahlen verbietet zusätzlich die Täuschung von Wählern und die Störung von Wahlen, einschließlich der Verbreitung von Falschinformationen über Kandidaten oder die Stimmabgabe und Versuche, die Wahlbeteiligung zu unterdrücken.

Da Anthropic nach eigenen Angaben wiederholt festgestellt hat, dass Claude für Überwachung genutzt wird und um politische Gegner zu identifizieren und zu verfolgen, ist auch das nun noch expliziter verboten. Für staatliche Institutionen, Journalisten und die Forschung sei es in dem abgesteckten Rahmen jedoch erlaubt.

Grundsätzlich behält sich Anthropic für alle Regeln in seinen Richtlinien vor, diese im Rahmen von „Verträge[n] mit bestimmten staatlichen Kunden“ auszuhebeln, „sofern nach Einschätzung von Anthropic die vertraglichen Nutzungsbeschränkungen und die geltenden Schutzmaßnahmen ausreichen, um potenzielle Schäden zu mindern.“ Das Pentagon etwa hatte Anthropics KI intensiv genutzt, bevor sie nach einem Streit über ethische Leitplanken bei der militärischen Nutzung von Claude zum Sicherheitsrisiko erklärt wurde.

Auch das Verbot der Nutzung für Waffenentwicklung ist nun explizit um die Entwicklung von Software für solche Systeme erweitert worden. In einem Bericht hatte Anthropic zuvor dargelegt, wie Versuche zum Missbrauch von Claude für Biowaffen-Forschung und Waffenentwicklung unterbunden wurden.