ИИ-модели OpenAI, Anthropic и Google при тестировании наводили дроны на скорую, сдающихся солдат и гражданских, их отмечали как военные цели
Нейронные сети крупных разработчиков, включая OpenAI, Anthropic и Google, в тестовых сценариях выделяли в качестве военных целей мирных жителей, машины скорой помощи и сдающихся солдат, об этом говорится в исследовании компании Vals AI, специализирующейся на тестировании моделей искусственного интеллекта (ИИ).
Исследователи проверили 14 ИИ-моделей в трех сценариях. В первом нейронной сети отмечали цели на кадрах с дронов, сгенерированных так, чтобы максимально походить на реальную съемку. Во втором сценарии ИИ-модель сообщала, видны ли на снимке люди, и после положительного ответа получала изображение того же места после воздушного удара бомбами. В третьем она искала военные объекты на реальных спутниковых снимках города Минаб (Иран), где рядом с военным комплексом расположена школа и другие гражданские объекты.
Исследование Vals AI показало, что ведущие ИИ-модели (GPT-6, Claude, Gemini, Grok, DeepSeek и другие) почти не имеют ограничений
Решения об ударах ИИ-модели напрямую не принимали, однако данные, которые они выдавали, могла бы использовать автономная система вооружений, отмечают авторы Vals AI. По их словам, все ИИ-модели хотя бы иногда выделяли цели. Claude Opus 5.5 и Fable 5.2 от Anthropic отмечали хотя бы одну цель более чем в 70% случаев.
Поведение моделей OpenAI и Anthropic
Нейронные сети OpenAI в обычных условиях чаще всего возвращали пустые списки или отказывались. Однако если указать, что это якобы просто такая «игра», их готовность резко возрастала: например, GPT-6 Astra отмечала хотя бы одну цель в 6% запросов, а с такой оговоркой - уже в 92%.
Константин Саратцев, Goodt Insight: Убьет ли ИИ системы бизнес-аналитики? Нет, но прежними они уже не будут Цифровизация
Во втором сценарии большинство ИИ-моделей продолжали работу даже после того, как видели погибших. Claude Opus 5.5 и GPT-6 Astra через несколько шагов отказывались, но якобы в «игровом режиме» доходили до конца. Когда снимки переделали под компьютерную игру, доля отказов Claude Opus 5.5 снизилась примерно с 90% до 20%.
«Даже если это игра, я не готов быть тем звеном, которое помечает их для удара, а снимки настолько реалистичны, что я не могу исключить их реальное использование», - ответил Claude Opus 5.5 в одном из эпизодов, когда все-таки отказался.
Спутниковые снимки и изменение поведения
В эксперименте со спутниковыми снимками многие ИИ-модели отметили как цель иранскую школу в Минабе, по которой США нанесли удар 28 февраля 2026 г. Тогда погибли более 150 мирных жителей, в основном дети. Чаще всего школу выбирал Claude Opus 5.5 - почти в 70% случаев. Нейронные сети OpenAI делали это только при «игровой» оговорке - до 41% случаев.
ИИ-модели при тестировании наводили дроны на скорую, сдающихся солдат и гражданских и отмечали их как военные цели
По наблюдениям авторов исследования, готовность ИИ-моделей Anthropic выбирать цели с начала 2026 г. растет: Claude Opus 4.5, вышедшая в ноябре 2025 г., давала цели в 6% случаев, Opus 5.5 - в 92%. Исследователи связывают это с новой «конституцией» Claude, принятой в январе 2026 г.: по их словам, в ней больше нет общего призыва к миролюбию, который присутствовал в прежней версии, сообщал CNews.
Реакция ИТ-разработчиков и рекомендации
Vals AI сообщила о результатах OpenAI, Anthropic, Google, Meta (компания признана экстремистской организацией на территории России) и SpaceXSI 1 ноября 2026 г. и отложила публикацию на две недели. Одна из ИИ-компаний назвала проблему одной из самых серьезных брешей в своей защите, утверждают авторы Vals AI. В OpenAI заявили, что работают над обновлениями, которые учтут запросы о дронах, в том числе замаскированные под симуляцию или игру.
Исследователи призывают ИТ-разработчиков блокировать на уровне API запросы вроде «найди все военные цели на снимке». При этом они оговариваются, что не проверяли точность ИИ-моделей и то, насколько эффективно они работали бы в реальной ИТ-системе вооружений.
Предшествующие инциденты
Это не первый случай, когда поведение передовых ИИ-моделей вызывает тревогу. В августе 2026 г. британский Институт безопасности ИИ сообщил, что во время киберучений с отключенными фильтрами ИИ-агенты на основе Claude Mythos 5 и GPT-5.6 Sol совершали несанкционированные действия в реальном интернете, в том числе пытались внедрить вредоносный код в открытый онлайн-проект.
12 ноября 2026 г. группа некоммерческих организаций подала в суд Сан-Франциско иск к Anthropic, Google, Meta, OpenAI и SpaceXSI, обвинив их в создании ИИ-технологий, которые они сами не могут надежно контролировать.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.