[Перевод] Разговор с животными — следующая этическая проблема использования ИИ

Разговор с животными — следующая этическая проблема использования ИИ

Простой

9 мин

452

Перевод

ИИ может радикально изменить наше понимание других видов. Но он также рискует дать людям мощные новые способы манипулировать животными, эксплуатировать их и причинять им вред

Биолог Витторио Бальоне всю свою карьеру одержим птицей, которая вовсе не хочет видеть его рядом. «Вы им не нравитесь, — говорит он о чёрной вороне, осторожной птице, которую считают одной из самых умных в Западной Европе. — Им не нравится ваше общество».

Тем не менее последние 30 лет Бальоне продолжает их преследовать. Будучи молодым исследователем, он изучал, как чёрные вороны выращивают птенцов и патрулируют свою территорию в поисках угроз. А в 2018 году он начал пытаться понять, что именно они говорят, прикрепив к хвостовым перьям 43 птиц крошечные микрофоны. Но когда Бальоне и Даниэла Канестрари, его жена и партнёр по исследованиям, открыли аудиофайлы, они обнаружили тысячи часов звуков, которые было трудно классифицировать: голоса самих ворон, писк птенцов, выпрашивающих еду, и даже крик их гнездового паразита — большой пёстрой кукушки. Проанализировать такой гигантский массив данных казалось почти невозможным. Тогда они обратились за помощью к искусственному интеллекту.

Это решение забросило двух биологов в футуристический мир. Они воспользовались моделью машинного обучения, разработанной Earth Species Project — организацией, называющей себя «новым рубежом межвидового взаимопонимания». Модель могла различать звуки, издаваемые птицей с микрофоном, другими воронами рядом и совершенно посторонними источниками. Больше всего Бальоне понравился тихий короткий звук, который вороны издавали, когда на их гнездо нападал канюк. После него неизменно прилетали другие птицы, чтобы защищать гнездо, поэтому Бальоне интерпретировал сигнал примерно как: «Эй! На помощь!» Сегодня у Бальоне и Канестрари есть огромный каталог из 150 000 записей, один из крупнейших существующих массивов данных о птицах.

На фоне стремительного развития ИИ, обещающего преобразить самые разные отрасли, от здравоохранения до образования, и перевернуть рынок труда, исследователи видят потенциал столь же радикального изменения отношений человечества с животными. Эта технология может полностью изменить наше понимание других видов и одновременно подвергнуть их беспрецедентному риску.

Технологии против животных

Люди пытаются общаться с животными уже тысячи лет. Исследователи предполагают, что найденные в Израиле костяные флейты возрастом около 12 000 лет, вероятно, использовались для взаимодействия с соколами. В более недавнее время зоопсихолог Айрин Пепперберг вела 30-летний эксперимент с африканским серым попугаем Алексом, умершим в 2007 году. Британский антрополог Джейн Гудолл прославилась в том числе благодаря утверждениям о том, что умеет разговаривать с шимпанзе.

Нынешнее поколение специалистов по общению с животными считает, что одновременный прогресс в области ИИ и биологгеров — небольших электронных устройств, которые можно прикреплять к животным и записывать издаваемые ими звуки, — ускоряет наше понимание животных так, как раньше было невозможно, и потенциально даже позволит людям отвечать им. Миллиардер в сфере прямых инвестиций Джереми Коллер, один из крупнейших спонсоров исследований в этой области, предполагает, что настоящее двустороннее общение может стать возможным уже через четыре года. «Поскольку ИИ развивается так быстро, я абсолютно уверен, что к 2030 году мы взломаем этот код», — заявил он в июньской речи.

Большинство исследователей, занимающихся этой работой, называют одну и ту же мотивацию: если люди лучше поймут внутренний мир других видов, они с меньшей вероятностью станут безразлично относиться к изменению климата, поддерживать промышленное животноводство или участвовать в уничтожении природных местообитаний. Многие специалисты считают, что если загрузить в ИИ огромные массивы записей звуков животных, он в конце концов сможет выявить закономерности, которые помогут расшифровать их значение.

Однако у человеческих инноваций есть долгая история использования технологий против животных, говорит Сесар Родригес‑Гаравито, директор программы More‑Than‑Human Life (MOTH) в Нью‑Йоркском университете. В XX веке китобои использовали достижения в области гидролокации, чтобы заставлять перепуганных китов подниматься на поверхность, где их убивали. Браконьеры переняли традиционный способ охоты, при котором люди имитируют птичьи крики, и стали использовать автоматические зацикленные записи, чтобы заманивать птиц в ловушки. Даже Бальоне признаёт, что его исследования охотники смогут использовать для передачи вороне сообщения вроде: «Подлетай, здесь безопасно».

«ИИ несёт в себе потенциал для причинения гораздо более масштабного вреда», — говорит Родригес‑Гаравито. В докладе 2025 года он и его соавторы описали антиутопическое будущее, в котором «технологии коммуникации с животными» могут подвергать животных нашествию толп людей, желающих с ними поговорить, использовать их в военных целях, например для обнаружения морских мин, или даже помогать людям ловить и убивать животных.

Растёт и беспокойство по поводу вреда, который люди могут причинить уже самим стремлением лучше понять другие виды. Перспектива перевода языка животных с помощью ИИ уже спровоцировала гонку за данными, что тревожит защитников прав животных. Исследователи опускают в воду гидрофоны, чтобы слушать китов, прикрепляют биологгеры к волкам и разрабатывают микрофоны‑рюкзачки для птиц. Некоторые уже призывают создать для животных своего рода право на неприкосновенность частной жизни.

Риски ИИ

Точного аналога Google Translate для животных никогда не будет. Люди в основном полагаются на слова [совсем нет, мимика и жесты играют значительную роль / прим.перев.], тогда как коммуникация животных включает запах, цвет, движения и эхолокацию. В 1973 году австрийский зоолог Карл фон Фриш получил Нобелевскую премию за исследования того, как пчёлы с помощью танца указывают друг другу путь к источникам нектара. Поэтому некоторым исследователям для понимания животных нужны не только аудио‑, но и видеозаписи.

Этим летом Бальоне и Канестрари проводили по 14 часов в день, наблюдая за чёрными воронами на их территории среди сельскохозяйственных угодий северной Испании. Из небольшой замаскированной палатки они записывали видео и вслух комментировали происходящее для ИИ, подробно фиксируя всё, что случалось вокруг гнезда. Исследователи надеялись, что позднее это позволит алгоритмам установить связи между звуками и ситуациями, в которых они произносились. До этого биологи, оба работающие в испанском Университете Леона, девять месяцев вручную размечали 7 000 вороньих звуков, чтобы научить модель ИИ различать едва заметные отличия между ними. «Это требует огромных усилий», — говорит Бальоне о попытках удовлетворить ненасытную потребность ИИ в информации. За три десятилетия исследований его полевые работы ещё никогда не были настолько интенсивными.

По мере того как супруги пытаются превратить свой массив данных в своего рода словарь вороньего языка, им в конце концов придётся проверить, верны ли их предположения о значении тех или иных сигналов. В исследованиях коммуникации животных самым распространённым способом такой проверки служит спорная методика под названием playback — воспроизведение записанного голоса животного другому животному.

Как и многие другие, Бальоне обеспокоен влиянием таких экспериментов на животных. «Вы можете вызвать у них стресс. Можете нарушить их социальную среду. Можете спровоцировать конфликты между ними, особенно если сами толком не понимаете значение сигнала», — говорит он. Один из известных примеров связан с зоологом Кэти Пейн, которая в подкасте 2007 года призналась, что проиграла внучке умершей слонихи запись голоса её бабушки. В ответ та начала выдавать «стоны и рёв». Другие исследователи предупреждали, что если многократно проигрывать группе запись голоса конкретного животного, это может подействовать подобно дипфейку с его участием: остальные члены группы могут впоследствии начать игнорировать его настоящие попытки общаться.

«Playback меня беспокоит», — говорит Родригес‑Гаравито, отмечая, что, по его мнению, сторонники метода пока не приложили достаточно усилий к тому, чтобы доказать отсутствие стресса у подопытных животных. По его словам, существующие этические нормы выглядят устаревшими в эпоху ИИ. «Никто по‑настоящему не предполагал настолько интенсивного использования playback, какое может потенциально предложить ИИ».

Среди исследователей межвидового общения существует раскол. Одни считают, что нам следует исключительно слушать животных, другие настаивают, что нужно стремиться отвечать им. «Это важно понимать, потому что, если мы начинаем отвечать, мы вторгаемся в жизнь животных», — говорит Кристин Эндрюс, профессор философии и специалист по сознанию животных из Graduate Center Городского университета Нью‑Йорка.

В июне финалисты Coller Dolittle Challenge, ежегодной премии Джереми Коллера в размере 100 000 долларов, демонстрировали фотографии и видеозаписи своих исследований на церемонии награждения. Playback занимал среди них заметное место. Диких мышей окружали динамиками, транслировавшими звуки, не слышимые человеком. Шимпанзе испуганно подпрыгивал, услышав крик другого шимпанзе из динамика, спрятанного в высокой траве. А зебровая амадина беспокойно прыгала по жёрдочке, предположительно общаясь с щебечущей анимацией, которую проецировали на экран в её клетке.

Премия стимулирует развитие более автоматизированных форм playback, способных взаимодействовать с животными. «Одна из идей Coller Dolittle Challenge состоит в том, что когда‑нибудь появится автоматическая машина, которая сможет вести своего рода разговор с некоторыми животными», — объясняет Йосси Йовель, председатель конкурса и зоолог Тель‑Авивского университета. Через свой фонд Коллер неоднократно отклонял просьбы дать интервью для этой статьи.

Помимо ежегодной награды за значительный прогресс, Challenge предлагает также премию в 10 миллионов долларов за проект, который позволит животному общаться с исследователями, не понимая, что оно взаимодействует с людьми. Этот критерий вдохновлён тестом Тьюринга. «Мы сами точно не знаем, чего именно хотим», — говорит Йовель, который в рамках исследований усыплял летучих мышей, помещал их в аппарат МРТ и проигрывал им записи других летучих мышей в момент, когда они приходят в сознание. «Идея в том, чтобы дать большую премию человеку, который зайдёт действительно далеко, например разработает полностью автономное устройство».

Йовель знает об этических опасениях, связанных с playback и общим направлением исследований межвидовой коммуникации. Однако, по его словам, за два года существования конкурса среди заявок ещё не было ни одной, использующей методы, которые он счёл бы этически неприемлемыми. «Потенциальной пользы здесь больше, чем вреда, и именно об этом нам следует думать», — говорит он.

Тем временем в Испании Бальоне не знает, куда именно приведут его исследования и каким окажется их долгосрочное воздействие на любимых им птиц. «Любой прогресс будет замечательным, — говорит он, — если только люди не начнут использовать эти знания против животных». Несмотря на это опасение, он намерен продолжать работу.

Эндрюс также считает, что общение посредством playback будет необходимо, если мы действительно хотим понять, что и как думают животные, а не просто установить, обозначают ли их звуки хищника или пищу.

«Я не думаю, что вы сможете что‑либо по‑настоящему расшифровать без двустороннего общения или того, что с точки зрения животных будет восприниматься как двустороннее общение», — говорит она.

Поэтому Эндрюс предлагает ограничить эксперименты с playback теми животными, которым нравится общество людей, например афалинами, которые могут свободно уплыть, но добровольно проводят время рядом с исследователями. «Они сами выбрали жизнь между двумя культурами».

Если эта публикация вас вдохновила и вы хотите поддержать автора — не стесняйтесь нажать на кнопку