Альтман предложил три способа спасти мир от опасного ИИ — один из них лишит конкурентов видеокарт

Опрос

реклама

Новости Software

Самое интересное в обзорах

20.10.2026 [14:33],

Сэм Альтман (Sam Altman) предложил три варианта обеспечения безопасности ИИ в мировых масштабах. Нужно либо брать пример с МАГАТЭ в сфере атомной энергетики, либо консолидировать контроль за разработками по примеру CERN, либо пользоваться принципом «кто первый встал, того и GPU».

Источник изображения: X, Sam Altman

С выхода чат-бота ChatGPT компании OpenAI осенью 2022 года принято отсчитывать историю ИИ-бума, поэтому один из её основателей и генеральный директор Сэм Альтман то и дело берёт на себя смелость предлагать глобальные инициативы, способные тем или иным образом повлиять на траекторию развития всей отрасли. В своём недавнем обращении к сотрудникам стартапа Альтман предложил три варианта обеспечения безопасности ИИ, причём все они в той или иной мере кажутся причудливыми.

По данным The Information, Альтман свои идеи в этой сфере изложил персоналу OpenAI ещё на прошлой неделе. По его словам, стартап должен до конца следующего года определиться, какую из предложенных главой компании стратегий в области обеспечения безопасности ИИ нужно принять на вооружение.

Первый из сценариев подразумевает создание некоей международной контролирующей организации типа МАГАТЭ. В рамках подобной структуры правительства стран и ИИ-компании смогут совместно устанавливать стандарты в области безопасности, а высокопроизводительные ИИ-модели будут подвергаться независимой проверке и аудиту перед выпуском. По данным источника, сам Альтман к этой идее склонялся сильнее, чем к двум остальным. Ещё в 2023 году он вместе с двумя коллегами выступил соавтором статьи, которая предлагала создать подобный надзорный орган в сфере ИИ.

Второй сценарий отчасти заимствует идею, высказанную около десяти лет назад сооснователем Google DeepMind Демисом Хассабисом (Demis Hassabis), а потому в описании Альтмана он получил обозначение «план Демиса». Ведущие разработчики ИИ, по этому замыслу, должны учредить исследовательскую организацию, совместно управляемую разными странами — как в случае с Европейской организацией по ядерным исследованиям (CERN). Под крылом такой организации разработчики ИИ могли бы делиться результатами своих исследований и оценками новых моделей с точки зрения безопасности, а не тратить силы на конкурирование друг с другом. Впрочем, такая структура потребовала бы активного вовлечения правительств различных стран, а потому оказалась бы труднореализуемой на практике.

Третий, наиболее спорный сценарий, подразумевает использование технологического и экономического преимущества компании, которая первой достигнет «сильного ИИ», для блокирования разработок её конкурентов. По замыслу, первая достигшая рекурсивного самосовершенствования ИИ компания должна будет лишить доступа к GPU своих конкурентов. Альтман такой план назвал ужасным, и подчеркнул, что привёл его только ради полноты вариантов обсуждения. Некоторые из сотрудников OpenAI предположили, что такой план направлен против конкурирующей Anthropic.

Как известно, последняя недавно направила властям США собственный законопроект, который подразумевает прохождение передовыми разработчиками ИИ не менее двух процедур независимого аудита ежегодно. Кроме того, у властей США появляется право приостановить обучение ИИ-модели, если появляются основания полагать, что в своём текущем виде она способна причинить ущерб в размере более $1 млрд или повлечь смерть или серьёзные увечья 50 и более человек.

Альтман в своём обращении к персоналу OpenAI признался, что не существует достаточного количества практических способов «ограничить скорость» разработки ИИ. Сложно найти баланс между обеспечением безопасности разработки и необходимостью не отставать в острой технологической конкуренции.

OpenAI участвует в переговорах с Anthropic и Google по учреждению единого надзорного органа по контролю за соблюдением стандартов при разработке передовых ИИ-моделей. Соответствующие процедуры планируется реализовать к концу текущего года или началу следующего, разместив независимых проверяющих внутри каждой из указанных компаний. Необходимо будет установить и единый стандарт предоставления отчётов об инцидентах в сфере безопасности ИИ. Противоречия между участниками переговоров пока сводятся к тому, будет ли новый орган непосредственно заниматься аудитом либо станет делегировать эти полномочия сторонним организациям.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.