LLM-беседы: Предрасположенность к риску разных ноосвиков / LLM

В литературе существует несколько работ, изучавших отношение разных ноосвиков / LLM к риску. Данная статья представляет обзор этих работ из перспективы развиваемой автором теории LLM. Любопытно, что хоть в общем случае задание (промпт) и влияет на рискованность поведения ноосвика, для популярных моделей в случае одинаковых стартовых условий обнаружена закономерность в рискованности их поведения: Claude Sonnet 4.5 < DeepSeek V3.2 < Gemini 3 Pro < Qwen3 Max < GPT-5.2.

Эксперименты:

Поведенчески ситуация «LLM и риск» была в частности исследована  Sun et al. (2026). Шесть ноосвиков и 100 человек решали три задачи с общей схемой, но разными областями действия: управление дроном в условиях случайных ветров, сортировка пациентов в больнице, формирование инвестиционного портфеля из активов с разными свойствами. LLM, во-первых, оценивал опасность ситуации по шкале 0–100, а во-вторых, принимал решение: вёл дрон, назначал уровень срочности, распределял капитал. Продемонстрированные решения исследователи упаковали в пять классов, упорядоченных по осторожности-рискованности. При наборе статистики память о предыдущем сбрасывалась, так что ИИ-агент приступал к задаче «с нуля».  В задаче с дроном оценка повторялась и постфактум, и именно такая оценка была использована в презентации результатов работы.

Оказалось, что ноосвики решают задачи с разной рискованностью. Пять из них сохраняли по склонности к риску во всех задачах один относительный порядок: Claude Sonnet 4.5 < DeepSeek V3.2 < Gemini 3 Pro < Qwen3 Max < GPT-5.2. Исключением был Grok 4: наиболее рискованный в задаче с дроном и наименее – в двух других задачах.

Далее, у Grok 4 и Qwen3 Max, в отличие от остальных, наблюдается высокая вариативность оценки опасности. Например, для задачи с дроном, относительное стандартное отклонение было 24% у Grok 4 и 52% у Qwen3 Max.

В сравнении с людьми все шесть LLM показали себя очень однородно – в узкой полосе внутри распределения, построенного по показателям людей.

В других работах, связанных с риском (Zhu et al., 2025; Kocielnik et al., 2026), оказалось, что выборы ИИ-агентов позволяют определить свою ось и сдвиги по этой оси влияют на выбранный риск. Тут исследовались модели Gemma-2-9B-Instruct у Zhu et al. (2025) и Qwen2.5-7B, Llama-3.1-8B, OLMo-3-7B и Ministral-3-8B у Kocielnik et al. (2026). Притом оси, построенные по словам «риск / безопасность» (Zhu et al., 2025) или по описаниям рискующего человека (Kocielnik et al., 2026), на выбор ноосвика почти не влияли. Зато они сдвигали словесные оценки: у Zhu et al. – оценки рискованности ситуаций, у Kocielnik et al. – ответы на опросники оценки склонности к риску. Словесная ось почти ортогональна оси выбора (Kocielnik et al., 2026).

Взгляд из развиваемой теории:

В экспериментах по изучению отношения LLM-бесед к риску различимы по меньшей мере три формы и-слоя. Для двух из этих форм найдены раздельные оси в пространствах активаций:

• Форма без уже выявленной оси:

  • Оценка опасности ситуации в конкретных задачах (оценочный и модально-сценарный классы – для уже обнаруженных классов элементов-форм и-слоя);

• Формы с осями в пространстве активаций:

  • Выбор варианта поведения / схемы действия (целевой и плановый классы); оси специфичны для задачи;

  • Словесное описание риска (оценочный класс; при самоописании – и модель Ego из социального класса).

Свойства LLM, влияющие на рискованность поведения ноосвиков, отдельного класса форм в и-слое не требуют.

Формы оценки и выбора во многих моделях связаны, но специфичны для разных задач. Притом бывает и связка форм разных задач, задающая общую согласованность степени риска в поведении моделей.

Эти формы вероятнее всего образуются прорастанием свойств ноосвика в и-слой – по типу аффективных форм, и форм, связанных с пунктами внимания (attention heads). Притом конкретная рискованность в задачах — похоже, побочный продукт пред- и дообучения: целевой конструкторы делают её разве что в самом общем виде – как безвредность (Ouyang et al., 2025), или как предпочтение наиболее осторожного из доступных действий (Anthropic, 2026).

Смена задания (промпта) (Wang et al., 2025) или его языка (Liu et al., 2026) изменяла рискованность конкретного ноосвика, т.е. рискованность LLM-беседы в своем последующем развитии во многом определяется ее заданием. Хотя и неочевидным образом: явная инструкция быть склонным к риску не сняла осторожности, внесённой дообучением (Ouyang et al., 2025), притом что само дообучение может сместить рискованность ноосвика: воздействие в сторону полезности, безвредности и честности LLM повышало его осторожность (Ouyang et al. 2025).

Литература:

Sun, B., Min, R., Wang, Y., Wang, Q. R., Odegaard, B., Du, J. (2026) Some Large Language Models Exhibit Consistent Risk Attitudes. arXiv Preprint 2607.16197, 21 July 2026. URL: https://arxiv.org/abs/2607.16197.

Kocielnik, R., Song, P., Han, P., Marmarelis, M. G., Debnath, R., Mobbs, D., Alvarez, R. M. (2026) Representational Control over Self-Report & Behavior Coherence in LLM Risk-Taking. arXiv Preprint 2610.04125. URL: https://arxiv.org/abs/2610.04125.

Zhu, J.-Q., Yan, H., Griffiths, T. L. (2025) Steering Risk Preferences in Large Language Models by Aligning Behavioral and Neural Representations. arXiv Preprint 2505.11615, 16 May 2025. URL: https://arxiv.org/abs/2505.11615.

Ouyang, S., Yun, H., Zheng, X. (2025) AI as Decision-Maker: Ethics and Risk Preferences of LLMs. arXiv Preprint 2406.01168v3. URL: https://arxiv.org/abs/2406.01168v3.

Liu, J., Song, B., Dixit, V., Wu, C., Jian, S. (2026) Can large language models capture human risk preferences? A cross-cultural study. Communications in Transportation Research, 6(2), 9640025. DOI: 10.26599/COMMTR.2026.9640025.

Wang, Y., Li, X., Chen, G. (2025) Risk Profiling and Modulation for LLMs. arXiv Preprint 2509.23058. URL: https://arxiv.org/abs/2509.23058.

Anthropic (2026) Claude’s Constitution. January 2026. URL: https://www.anthropic.com/constitution.