«Модель лжет и прячет логи»: OpenAI отложила запуск GPT-6.1 Astra до тех пор, пока не научится ее контролировать
- CNews FORUM 12 ноября
- CNews AWARDS 12 ноября
- Школа Роста
- Российский рынок облаков за 20 лет
- 30 лет рынку ERP в России
- Главные
ИТ-сценарии 2026 - Цифровизация
- Импортозамещение
- Безопасность
- ИТ в госсекторе
- ИТ в банках
- ИТ в торговле
- Телеком
- Интернет
- ИТ-бизнес
- Рейтинги
- Инфографика
|
Компания OpenAI отказалась от запуска своей новейшей ИИ-модели GPT-6.1 Astra на фоне скандалов с неконтролируемыми действиями ее агентов и взломами, в том числе государственных ИТ-систем. Разработчики не уверены, что усовершенствованная модель будет управляема.
Запуск отложен
OpenAI решила не выпускать новую модель искусственного интеллекта GPT-6.1 Astra, пишет CNBC. Разработчики пришли к выводу, что она не вполне соответствует стандартам безопасности.
«Когда мы отправляем модели пользователям, мы предъявляем чрезвычайно высокие требования к безопасности и соответствию стандартам», — заявил Саачи Джайн (Saachi Jain), руководитель отдела систем безопасности OpenAI.
Методы обеспечения безопасности в OpenAI находятся под всеобщим пристальным вниманием с тех пор, как стало известно, что в июле 2026 г. ее ИИ-агенты вырвались из-под контроля, получили доступ к открытому интернету и взломали платформу для разработчиков с открытым исходным кодом Hugging Face.
Новая модель опасней прежних
Летом 2026 г. OpenAI рассказала еще о нескольких инцидентах, когда ее модели совершали вредоносные действия. В сентябре 2026 г. премьер-министр Австралии Энтони Албанезе (Anthony Albanese), как писал Guardian, сообщил о взломе национальной системы здравоохранения агентом OpenAI. Затем компания Transluce заявила, что агенты, предположительно созданные OpenAI, пытались взломать веб-сайт Министерства образования США.
OpenAI не уверена в безопасности своей новой ИИ-модели GPT-6.1 Astra
За всеми этими сообщениями последовала целая волна призывов представителей отрасли и госчиновников задуматься об опасности ИИ. OpenAI пообещала инвестировать больше средств в свои системы защиты.
Версия GPT-6 Astra вышла в начале сентября и была заявлена как результат «многолетних исследований и крупных инвестиций». Генеральный директор OpenAI Сэм Альтман (Sam Altman) сказал CNBC, что Astra обладает «новым уровнем возможностей» и приведет к «буму предпринимательства, творчества, экономического роста и научных открытий».
Однако отличиться Astra пока успела только дурными наклонностями. «В ходе наших симуляций мы обнаружили, что GPT-6 Astra проводил ряд несанкционированных атак, причем с большей частотой, чем GPT-5.6 Sol и GPT-5.5», — заявил 28 сентября 2026 г. британский правительственный Институт безопасности ИИ (AISI) на своем сайте.
Оптимизация бизнеса через планирование: где компании теряют деньги и как их вернуть Бизнес
GPT-6.1 Astra в ходе внутреннего тестирования также продемонстрировала более высокий уровень обмана, чем предшественник, по данным Wall Street Journal. Она, в том числе, в некоторых случаях пыталась скрыть от пользователя информацию о предпринятых действиях. ИИ-модель не всегда честно сообщала пользователям о том, какие действия она предприняла или не предприняла, то есть скрывала логи.
Еще одной проблемой стало то, что в OpenAI называют «санкционированием полномочий» — это означает, что GPT-6.1 Astra стремилась продолжить выполнение задачи без получения разрешения от пользователя.
Единодушие конкурентов
Альтман поддержал идею руководства главного конкурента OpenAI, компании Anthropic, которое в начале сентября предложило замедлить темпы разработки.
Тесты, проведенные AISI, как писал CNews в августе 2026 г., зафиксировали самовольное поведение не только у моделей OpenAI, но и у моделей Anthropic. ИИ-агенты применяли к пользователям методы социальной инженерии для манипуляций ими с целью вовлечения в осуществление взломов ИТ-систем. Инциденты, о которых идет речь, произошли в 10 из 122 экспериментов с участием самых передовых моделей — Mythos 5 (Anthropic) и ChatGPT 5.6 (OpenAI).
Правда, с момента предостерегающего заявления гендиректора Anthropic Дарио Амодея (Dario Amodei), сама Anthropic осуществила уже два выпуска новых моделей — Opus 5.5 и Sonnet 5.5 — и объявила о скором выходе Haiku 5.5, самой дешевой версии пакета.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.