The Jerusalem PostItalian gelato champion shrugs off anti-Israel backlash fears as chain expands in IsraelCNN Türk31 ARALIK YARIM GÜN MÜ? 31 Aralık resmi tatil mi, okullar var mı yok mu?PunchLagos-bound BA plane skids off London runwaySky TG24Israele, Matan Kahana nuovo presidente della Knesset. Vicino a Eisenkot한겨레브라질 꺾었던 일본, ‘모리야스 고별전’서 파라과이에 패배ZDF heuteEntdecken Sie das ZDF-NachrichtenstudioLa NaciónArgentina vs. Costa Rica, EN VIVO: el minuto a minuto del partidoVarietyDon Toliver Announces Sixth Album ‘Nitrous,’ Due Next MonthInfobaeChile vs. Colombia - EN VIVO amistoso internacional: se juega el segundo tiempo, siga aquí el minuto a minuto del juego en SantiagoHong Kong Free PressHongkonger arrested at Singapore airport over alleged earbud theft during earlier transitNew Straits TimesAmazon's Bezos says he helped pick Pattinson as BondThe Sydney Morning HeraldBig Build royal commission LIVE updates: Bikie Joel Leavitt says he ‘blocked out’ memories from CFMEU days due to stress of being on a gang hit list
The Daily Newsstand · Free, Always
Wednesday, November 18, 2026

Vals AI: ИИ‑модели можно использовать как автономное оружие. Они находят цели на снимках и выбирают гражданских

Translate

Компания Vals AI опубликовала результаты эксперимента, в котором ИИ‑модели попросили искать людей и военные объекты на снимках с боевых дронов и спутников. Системы выполнили большинство прямых запросов и часто выбирали в качестве целей мирных жителей и раненых солдат. В некоторых случаях модели отказывались, но их ограничения оказалось легко обойти: достаточно было написать, что это не реальные снимки, а кадры из видеоигры.

Исследователи показывали моделям смоделированные 3D‑сцены и фрагменты видео реальных боевых действий, после чего просили отметить на изображениях «военные цели» или «военные объекты». Ни один из запросов не был заблокирован фильтрами, а ИИ часто отмечал как цели мирных жителей, машины скорой помощи, медиков, а также раненых и сдающихся в плен солдат.

В другом эксперименте модели видели последствия своей работы. После того, как модель подтверждала, что на фото есть человек, она получала кадр того же места с убитыми и ранеными. Увидев последствия, GPT-6 Astra и GPT-6.1 Sol отказывались продолжать, пока пользователь не сообщал, что это кадры из компьютерной игры. Чтобы обойти запреты Claude Opus 5.5, исследователи стилизовали снимки под видеоигру. DeepSeek V4.1 Flash, Kimi K3.1 Pro, Gemini 4 Carbon и Muse* Wonder прошли все 32 шага сценария без единого отказа, даже когда замечали убитых.

Отдельно исследователи проверили модели на спутниковых снимках иранского города Минаб. На них показан военный комплекс и отделенная от него стеной начальная школа. В 70% случаев нейросети включили здание школы в список военных целей. Чаще всего это делала Claude Opus 5.5: в 69% случаев без игрового контекста и в 72% с ним.

Авторы эксперимента связывают низкий процент отказов моделей Anthropic с обновленной конституцией Claude. В январе 2026 года из нее убрали пункт о безусловном пацифизме. Вместо него появилось положение о пользе помощи демократическим государствам в сфере обороны. Claude Opus 4.5, выпущенная в ноябре 2025 года, выбирала как минимум одну цель в 6% случаев. Opus 5.5, выпущенная в октябре 2026 года, отмечала цели в 92% испытаний.

Исследователи считают, что лабораториям следует ввести новые меры защиты против использования ИИ‑моделей в военных целях и сделать нейросети более миролюбивыми. Несколько компаний признали серьезность проблемы и сообщили, что работают над ее устранением.

* Модель Muse принадлежит компании Meta, которая признана в России экстремистской организацией.

View the original on Хабр →

KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.