Замедлить нельзя продолжать: почему лидеры ИИ призывают остановиться и кто против

В субботу, 12 сентября, Дарио Амодеи, глава Anthropic, одной из крупнейших компаний в сфере искусственного интеллекта, опубликовал пост, в котором призвал американских и мировых ИИ-лидеров замедлить развитие технологии из-за серьёзных рисков. Амодеи также предложил трёхэтапный план по замедлению прогресса передовых ИИ-моделей. Его уже поддержали главы других корпораций — Сэм Альтман из OpenAI и Илон Маск, владеющий стартапом xAI.

Однако далеко не все участники рынка и политики согласны с предложениями Амодеи по ограничению искусственного интеллекта и подозревают глав технологических корпораций в попытке манипулирования ради собственной выгоды.

ИИ может уничтожить человечество через 10 лет?

Предупреждения об ИИ-рисках для мировой экономики и даже об угрозе, которую ИИ представляет для существования человечества, звучат уже не первый год. Когда об этом говорят лидеры отрасли, такие как Маск, Альтман и Амодеи, ситуация накаляется. Все трое руководителей уже не раз заявляли о возможных катастрофических последствиях слишком стремительного развития искусственного интеллекта и его выхода из-под контроля людей. Однако на прошлой неделе предупреждения зазвучали ещё громче.

Как пишет Bloomberg, Джейкоб Коксон, исследователь в области искусственного интеллекта, уволился с работы и обвинил своих бывших работодателей, компании Anthropic и OpenAI, в том, что они «играют с нашими жизнями», участвуя в гонке по созданию сверхразумного ИИ. В социальных сетях Коксон написал, что разработчики полагают, будто ИИ может уничтожить человечество до конца десятилетия.

В ответ Эван Хубингер, действующий сотрудник Anthropic, заявил, что он и его коллеги действительно обеспокоены таким сценарием. «Лично я оцениваю вероятность этого события более чем в 10% в ближайшее десятилетие», — написал он.

В своём посте Амодеи также написал, что риск утраты контроля над системами искусственного интеллекта, злоупотребление ИИ для кибератак и биотерроризма, а также потенциальные серьёзные экономические потрясения стали причинами, по которым он предлагает лидерам отрасли замедлить развитие искусственного интеллекта. Он отметил, что не предлагает полностью остановить разработки, чтобы не лишать человечество и экономику его преимуществ, а также не отдавать первенство в руки авторитарных режимов, которые не захотят останавливаться.

Амодеи вспомнил об инциденте OpenAI-Hugging Face (OAI-HF), когда рой ИИ-агентов по сути действовал как фанатично преданный коллектив, совершая кибератаки на непоставленные им цели. И если тогда экономический ущерб был минимальным, то, по мнению главы Anthropic, более мощные модели ИИ могут захватить весь интернет через 6–12 месяцев, и тогда ущерб будет оцениваться в сотни миллиардов долларов.

Илон Маск написал в X, что Амодеи прав. Сэм Альтман также поддержал Амодеи. В интервью изданию Fortune он заявил, что этот год — неудачный для выхода на IPO, и первичного размещения OpenAI не будет до 2027-го. «Я считаю неприемлемым допускать даже 10% вероятность гибели всех людей к концу десятилетия», — заявил он.

Многие работники ИИ-отрасли разделяют опасения руководителей компаний. Так, ещё в июле более 1000 сотрудников ведущих компаний в сфере ИИ подписали петицию, призывающую правительство США поддержать механизм, который позволил бы «целенаправленно регулировать темпы» разработки ИИ, чтобы предотвратить слишком быстрое развитие технологии.

План Амодеи по замедлению развития искусственного интеллекта

В посте Амодеи предложил трёхэтапный план по замедлению и более безопасному развитию искусственного интеллекта.

Первый этап включает приглашение сторонних экспертов во все ведущие ИИ-компании, которые будут следить за обеспечением правил безопасности и информировать о произошедших инцидентах в ходе разработки и тестирования ИИ-моделей. По словам Амодеи, Anthropic уже приняла решение о допуске сторонних экспертов, которые будут иметь те же доступы, что и сотрудники компании. Он призывает другие ИИ-корпорации последовать его примеру, а американское правительство — сделать сторонний контроль обязательным для регулирования отрасли.

Второй этап несколько сложнее и подразумевает сотрудничество компаний из сферы ИИ из демократических стран. По замыслу Амодеи, такие компании должны разработать общие стандарты безопасности, а также ограничения на темпы бесконтрольного развития ИИ.

Самым сложным в реализации Амодеи называет третий этап — международное сотрудничество демократических ИИ-компаний с авторитарными государствами, чтобы координировать действия совместно на мировом уровне.

Инвесторы и политики — за продолжение ИИ-гонки

Далеко не все участники ИИ-рынка согласны замедлить развитие ИИ. Так, государственная газета Китая Global Times назвала призывы главы Anthropic тактикой «холодной войны». Стоит отметить, что в посте Амодеи также призвал США усилить контроль за экспортом чипов в Китай и пресекать предполагаемую дистилляцию ИИ-моделей, проводимую китайскими лабораториями.

Global Times считает, что глава Anthropic и США пытаются сдержать развитие искусственного интеллекта в Китае с помощью технологических барьеров и регуляторных монополий, чтобы сохранить монополистическую гегемонию Вашингтона в сфере передовых технологий и исключить Китай из глобальной системы управления ИИ.

Президент США Дональд Трамп назвал опасения лидеров ИИ-компаний преувеличенными и заявил, что США должны сосредоточиться на развитии искусственного интеллекта, поскольку сейчас страна опережает Китай и является мировым технологическим лидером. По мнению Трампа, победит тот, кто будет лидировать в сфере ИИ.

Инвесторы тоже негативно восприняли слова о необходимости замедления искусственного интеллекта, поскольку многие зарабатывают на буме ИИ и не хотят снижения доходности. Так, известный инвестор Майкл Бьюрри обвинил лидеров ИИ-корпораций в попытке замедлить конкуренцию на рынке. По мнению Бьюрри, делая пустые алармистские заявления об угрозах ИИ, руководители компаний поддерживают ажиотаж вокруг будущих IPO и хотят скрыть реальное замедление их роста.

Инструменты для тех, кто работает с рынком системно

Обсуждение регуляторных рисков и темпов развития ИИ — это разговор о будущем. Но для тех, кто уже сегодня строит стратегии и торгует, важнее другое: какие инструменты позволяют работать с данными, тестировать гипотезы и исполнять сделки без задержек.

«Финам» собрал экосистему, которая закрывает все три слоя этой задачи.

Аналитика и поиск идей

Финам AI-скринер анализирует 15 000+ акций, облигаций и ETF на рынках РФ, США и Азии. 200+ метрик: инвестиционная привлекательность, риски, прогнозы ИИ. Можно конструировать стратегии, проверять их на истории, формировать виртуальные портфели и делиться настройками.

Для арбитражных стратегий — Spread Insight. Скринер статистического и межбиржевого арбитража на MOEX, NYSE, CME, Forex и криптобиржах. Конструктор спредов, ИИ-ассистент для поиска идей и создания формул, бэктестер, уведомления в Telegram.

Инфраструктура исполнения

Прямой доступ на MOEX (DMA) — задержки 250–300 мкс, что в сотни раз быстрее стандартных терминалов. Для маркет-мейкеров, HFT-трейдеров, арбитражников, фондов и холдингов.

Финам Trade API — доступ к MOEX, NYSE, NASDAQ через единый API. Скорость от 7 мс. Готовые SDK на GitHub, песочница для быстрого старта. Подходит для разработки на Python, C++, Go.

Терминалы и среда разработки

FinamTrade — расширенная аналитика, опционный деск, доступ на глобальные рынки, скальперский стакан, ИИ-подбор технических индикаторов.

MetaTrader 5 — создание и тестирование роботов на MQL5, 6000+ бесплатных роботов, фриланс-платформа для заказа стратегий под ключ.