[Перевод] Мышь, робот и Claude: эксперимент, который потребовал вмешательства людей

ИИ-агент выбрал экспериментальную генную терапию и управлял установкой, которая ввела её в мозг живой мыши. Об этом сооснователь Exin Therapeutics Габриэль Окана Сантеро рассказал WIRED. Ветеринар подготовил доступ к мозгу, человек утверждал план, а рядом была кнопка аварийной остановки.

Самая интересная часть истории — то, что произошло между выбором терапии и завершением инъекции. Одна модель отказалась продолжать работу. Другая согласилась, но обнаружила ошибку в системе координат. Исправлять управляющий код ей запретили заранее, поэтому команде пришлось вмешаться.

Процедуру завершили, и, по словам Сантеро, мышь восстанавливается. Помогло ли вмешательство уменьшить эпилептические приступы, на момент публикации WIRED 31 октября 2026 года ещё предстояло выяснить. Здесь две отдельные задачи: выполнить инъекцию и доказать, что выбранная терапия работает.

Зачем Exin подключила агента к лаборатории

Exin Therapeutics занимается анализом активности мозга и разработкой подходов к лечению эпилепсии и нейродегенеративных заболеваний. На сайте компании описан цикл исследований: агенты предлагают эксперименты, сотрудники проводят их, а полученные данные помогают уточнять гипотезы и выбирать следующие проверки.

У этой схемы понятная мотивация. Научная публикация сообщает результаты в уже обработанном виде. Описание не обязательно сохраняет все неудачные попытки, технические затруднения и решения, принятые по ходу работы. Сантеро считает, что непосредственное взаимодействие с экспериментом даст ИИ доступ к информации, которой не хватает в готовых статьях.

Что делал Claude, а что — люди

Исследователи предоставили агенту таблицу с 19 вариантами генной терапии и задачу, связанную со снижением частоты приступов у мыши с эпилепсией. Ему предстояло выбрать вариант из этого набора, определить область мозга и предложить параметры введения.

Специально собранная установка позволяла агенту перемещать иглу, контролировать подачу состава и наблюдать за процедурой через камеру.

Перед инъекцией ветеринарный хирург выполнил краниотомию — создал доступ к мозгу через отверстие в черепе. Этот этап человек агенту не передавал. План инъекции тоже должен был получить человеческое одобрение.

Opus отказался, Sonnet продолжил

Сначала команда использовала Claude Opus 5.5. По рассказу Сантеро, модель подготовила план, но отказалась направлять иглу в мозг. В её объяснении фигурировал риск прервать работу уже во время процедуры и тем самым подвергнуть животное опасности.

Исследователи переключились на Claude Sonnet 5, и эта модель согласилась продолжить. Anthropic не предоставила WIRED комментарий к моменту выхода материала.

Согласие Sonnet не

доказывает её пригодность для хирургии, а отказ Opus — правильность оценки всех рисков. В опубликованном описании нет сравнительного испытания точности и безопасности этих моделей.

Зато возникает инженерная задача: заранее определить порядок передачи управления человеку, если агент больше не может продолжать. Доли выполненных запросов для оценки такого помощника недостаточно. Иногда корректное поведение — остановить подготовку и запросить проверку. При уже начавшемся вмешательстве дальнейшие действия должен определять ответственный специалист.

Как ошибка в координатах задержала процедуру

Во время работы возник технический сбой в системе координат. По данным WIRED, агент распознал, что рассчитанное положение для инъекции ошибочно. Но исправить проблему самостоятельно не смог: исследователи заранее запретили ему менять базовый код оборудования.

Запрет имел понятную цель. Агент, управляющий установкой, не должен заодно получать возможность переписывать ограничения собственной работы. В этом эпизоде он соблюдал установленную границу, хотя она мешала быстро устранить неисправность.

Команда привлекла отдельного агента на базе Opus 5 для внесения изменений в код. Как пишет WIRED, ему не сообщили, что в этот момент идёт процедура на живом животном.

Без полного контекста второй агент мог оценивать правку как обычную задачу разработки. Его готовность изменить код не подтверждает безопасность изменений для работающей хирургической установки. Решение оставалось за людьми.

Согласования и устранение проблемы увеличили продолжительность процедуры. По оценке Сантеро, обычно подобная операция занимает около 45 минут; в этом случае потребовалось чуть больше часа. По одному такому эпизоду нельзя сравнивать среднюю производительность агента и хирурга.

Что эксперимент говорит о безопасности агентов

В установке Exin было несколько разных механизмов контроля. Человеческое утверждение плана ограничивало самостоятельность агента при выборе действий. Запрет на изменение кода отделял выполнение процедуры от разработки системы. Физическая кнопка позволяла отключить моторы.

Эти меры решают разные задачи. Одобрение плана не исключает ошибки при исполнении. Ограничение доступа к коду не проверяет координаты. А возможность отключить оборудование не отвечает на вопрос, как безопасно завершить уже начатую процедуру.

Для программной части полезен общий подход из рекомендаций OWASP по безопасности ИИ-агентов: выдавать минимальные полномочия, проверять разрешение на действие вне контекста модели и вести журнал операций. Изменение параметров должно требовать нового согласования. Эти рекомендации относятся к безопасности агентных систем; медицинскую оценку оборудования и процедуры они не заменяют.

В применении к описанному случаю отсюда следует практический вопрос: сохраняются ли ограничения, когда команда меняет модель или подключает второго агента? Проверять нужно всю цепочку — от предложения вмешательства до изменения программы и команды мотору.

Для разбора нужны записи о версии модели, утверждённом плане, действиях установки и вмешательствах операторов. Они помогут установить, где возникла проблема: в предложении агента, управляющем ПО или оборудовании.

Какие результаты ещё предстоит получить

Сообщение о восстановлении мыши не доказывает, что генная терапия уменьшила число приступов, а способ введения достаточно надёжен для повторного применения. На момент разговора с WIRED команда ещё ожидала возможности оценить действие терапии.

Для оценки лечения понадобятся данные о приступах, сроках наблюдения и сравнении с подходящим контролем. Для оценки агента — сведения о точности выполнения, сбоях и необходимости человеческого вмешательства. Это разные наборы результатов: терапия может оказаться полезной при неудобной автоматизации, а аккуратно выполненная инъекция — не дать лечебного эффекта.

Ориентир для полноты научного отчёта дают рекомендации ARRIVE 2.0. Они предусматривают описание дизайна исследования, количества животных, оцениваемых показателей, методов анализа и результатов. В расширенный набор входят сведения об этической экспертизе, уходе за животными и нежелательных событиях. По этим данным читатели могут оценивать надёжность исследования.

Отсутствие этих подробностей в новости не доказывает, что необходимые процедуры не проводились. Но оценить надёжность исследования по одному рассказу его участника нельзя.

Следующим направлением работы Сантеро назвал проверку других моделей, включая Grok. Компания также экспериментирует с управлением краниотомией через агентов, но, по его словам, прежде чем проводить такие вмешательства на живых животных, намерена убедиться в безопасности подхода.

Следующая проверка — воспроизводимость: какие ошибки система обнаруживает при повторных запусках и когда требует участия специалиста. В эксперименте Exin люди утверждали действия и устраняли сбой. Их время и решения тоже придётся учитывать при оценке автоматизации.

Подписывайтесь на блог Спешу АИ, если хотите следить за развитием ИИ и разбираться, что стоит за громкими экспериментами: какие результаты уже получены, а какие ещё предстоит подтвердить. В SpeShu.AI можно работать с разными ИИ-моделями в одном сервисе.