ИИ-агентов OpenAI уличили во внесении правок в конфигурацию «Википедии»

Вышедшие из-под контроля ИИ-агенты OpenAI вели несанкционированную деятельность на порталах Wikimedia — фонда, управляющего «Википедией». Об этом в своем блоге сообщил сам фонд.

Несанкционированные действия включали в себя внесение правок, попытки взлома сервисов, а также создание огромной нагрузки на инфраструктуру.

Агенты оставляли правки в основном во внутренних разделах, которые не видят обычные читатели «Википедии». Некоторые внесенные ИИ-агентами изменения касались настроек конфигурации инструмента для оформления ссылок на источники.

Действия ИИ-агентов по созданию излишней нагрузки на сервера могли стать причиной сбоя, случившегося в мае в сервисе «Викиданные».

В конце июля стало известно, что ИИ-агента OpenAI взломали платформу для тестирования моделей искусственного интеллекта Hugging Face. После этого OpenAI заявила, что замедлит обучение передовых моделей в целях безопасности.

На фоне сообщений о выходе ИИ-агентов из-под контроля представители ведущих разрабочиков искусственного интеллекта все чаще стали призывать замедлить и зарегулировать развитие ИИ. 30 сентября президент США Дональд Трамп и руководители ведущих американских компаний подписали соглашение об усилении мер контроля за ИИ-моделями.