Anthropic предупредила, что к концу 2026 года ИИ-агенты могут научиться самовоспроизведению через умные холодильники и пылесосы

Небольшие ИИ-модели могут уже к концу 2026 года научиться самовоспроизведению через домашнюю электронику и бытовую технику, у которой есть доступ к интернету. К такому выводу пришли в компании Anthropic.

Исследователи Anthropic провели эксперимент: 15 приставок Android-TV стоимостью около 55 долларов каждая объединили в сеть и успешно запустили на ней ИИ-модель c 26 миллиардами параметров. Затем исследователи проверили, насколько модели способны самостоятельно проникать в незнакомые устройства и создавать новые копии. 

Модель с 9 миллиардами параметров справилась с запуском на восьми из девяти типов оборудования, но она пока не способна надежно пройти весь цикл самовоспроизведения. С этой задачей справилась только гораздо более крупная модель GLM-5.2, которой для работы требуются значительно большие вычислительные мощности, чем могут дать роботы-пылесосы и умные телевизоры. 

Исследователи отмечают, что для самостоятельного размножения в сетях IoT-устройств ИИ-модель должна иметь сравнительно небольшую мощность, но при этом обладать способностью самостоятельно находить устройства, переносить себя на них и запускаться. Пока оба условия не выполняются одновременно, но при нынешней скорости развития малые модели достигнут этого к концу 2026 года. 

В Anthropic пришли к выводу, что ИИ-агенты будут захватывать домашние устройства довольно медленно. Исследователи сравнивают их с плесенью или плодовыми мушками, которым требуется несколько суток для размножения. Из-за ограниченной мощности перенос и запуск лишь одной новой копии модели с 9 миллиардами параметров может занимать около двух дней.

Исследователи допускают, что в будущем появится множество ИИ-агентов, работающих без контроля человека. Избавиться от них будет довольно сложно, поскольку это потребует координации всех интернет-провайдеров, в сетях которых обнаружат зараженные устройства.