Meta и Nvidia выступили против скоординированного замедления ИИ

Глава Meta Марк Цукерберг выступил против скоординированного замедления темпов развития ИИ. Он заявил, что компании должны самостоятельно обеспечивать безопасность своих моделей, привлекая к работе над ними независимых экспертов и консультантов. 

По его словам, разработчики заинтересованы в создании продукта, который будет наилучшим образом отвечать интересам пользователей. Лаборатории несут серьезную ответственность за любой вред, который могут причинить их модели, поэтому заинтересованы уделять как можно больше внимания вопросам безопасности, подчеркнул он.

Цукерберг также заявил, что Meta самостоятельно отложила запуск своего ИИ-агента Muse для доработки, не призывая конкурентов поступить аналогичным образом. 

Мы просто поступили так в рамках нашей повседневной работы, потому что было очевидно: это правильно и для людей, и для нас. Я горжусь тем фундаментом в области безопасности, который мы создали.

Похожую позицию занял глава Nvidia Дженсен Хуанг. «Рыночные силы уже существуют, нам не нужны новые законы и новые правила», — заявил он. Хуанг выразил уверенность, что ИИ-разработчики могут одновременно заниматься и инновациями, и безопасностью. По его мнению, компания должна приостановить разработку, если перестает быть уверена в безопасности продукта. 

Двигайтесь так быстро, как только сможете, но если в какой-то момент вы почувствуете, что компания выходит из-под контроля или продукция может стать небезопасной, сделайте паузу и сделайте это правильно.

Ранее глава Anthropic Дарио Амодеи выпустил эссе, в котором призвал замедлить разработку наиболее продвинутых ИИ-систем, чтобы исследователи получили больше времени для изучения потенциальных угроз. Его позицию поддержали глава OpenAI Сэм Альтман и Илон Маск.