Anthropic уже создала ИИ-модель мощнее Mythos, но решила никому её не показывать

Anthropic разработала сверхмощную модель искусственного интеллекта, которой присвоила название Model 2. По имеющимся данным, она превосходит по возможностям флагманскую Mythos, замедлять её разработку компания не намерена, но и выпускать её в широкий доступ она тоже не станет.

Риски наступления серьёзных отрицательных последствий, сопряжённые с работой моделей Anthropic, остаются низкими, настаивают в компании, но уже не настолько низкими, как на момент публикации предыдущего отчёта. Компания была вынуждена повысить общую оценку угроз, связанных с выходом моделей из-под контроля при пессимистических сценариях, с «очень низкой» до просто «низкой», ссылаясь на недавние инциденты в области кибербезопасности.

У моделей появились признаки быстрого роста способностей в автономном режиме проводить исследования и разработку, что может способствовать техническому прогрессу, но и использоваться не по назначению. «В рамках нашего стандартного процесса исследований и разработок мы проводим внутреннее обучение и оценку множества различных экспериментальных версий моделей, которые не планируем выпускать. Model 2 — одна из таких», — заявили в компании изданию Axios.

Anthropic отметила, что Model 2 демонстрирует «заметное улучшение» во многих внутренних задачах. Она наряду с Mythos 5 «активно» используется сотрудниками компании в написании кода, управлении агентами и генерации контента, хотя скачок качества результатов у неё не такой, каким был при переходе от Opus 4.6 к Mythos. «В настоящее время у нас нет планов выпускать эту модель для внешнего использования», — отметили в компании. Создаётся впечатление, что Anthropic становится всё труднее понимать возможности собственных моделей и оценивать связанные с их работой угрозы.

Источник:

Материалы по теме

Материалы по теме