Anthropic запретила пользователям жестоко обращаться с нейросетью Claude

Нейросеть Claude получила право прекращать разговоры из-за оскорблений

Американская компания Anthropic обновила правила использования искусственного интеллекта Claude, включив в них запрет на систематическое жестокое обращение с нейросетью. Об этом сообщает The Verge со ссылкой на опубликованную разработчиком новую редакцию пользовательской политики. Обновленная политика использования Claude начнет действовать 12 ноября 2026 года.

Согласно документу, ограничения распространяются на продолжительное и беспричинное агрессивное поведение по отношению к ИИ. В Anthropic уточнили, что речь идет исключительно о крайних случаях, когда пользователь неоднократно допускает оскорбительные действия в отношении модели без какой-либо очевидной цели.

Материалы по теме:

При этом запрет не затрагивает обычное недовольство ответами чат-бота, критику его работы, обсуждение мрачных тем или проведение исследований и тестирований нейросети. Таким образом, пользователи по-прежнему смогут спорить с Claude и указывать на его ошибки.

Изменения связаны в том числе с исследованиями Anthropic, посвященными потенциальному благополучию искусственного интеллекта. Разработчики признают, что вопрос о наличии у современных ИИ-систем сознания или морального статуса остается открытым.

Помимо правил общения с нейросетью, компания пересмотрела положения, касающиеся использования Claude для политических манипуляций, разработки вооружений и создания систем слежки. В частности, уточнены ограничения на применение искусственного интеллекта для распространения дезинформации и отслеживания людей без их согласия. Также Anthropic конкретизировала требования к использованию ИИ в медицине, финансовой сфере и других областях, где автоматизированные решения могут существенно повлиять на жизнь человека.

Ранее Илон Маск призвал больше не называть искусственный интеллект искусственным и отныне называть его суперинтеллектом.