[Перевод] ИИ-агенты становятся коллегами: как это меняет работу команды

ИИ-агент может получить имя, роль и доступ к рабочим каналам. Но чем больше он похож на коллегу, тем легче забыть, что его результат нужно проверять. Разбираемся, как компании встраивают агентов в работу и где возникают риски.

Имя в Slack, собственная роль в команде и задачи, которые агент выполняет без постоянных напоминаний. ИИ-системы постепенно переходят из режима помощника в роль цифрового сотрудника. Это меняет не только способ делегировать задачи, но и то, как люди проверяют результат и распределяют ответственность.

ИИ-агент — это система на базе языковой модели, которая может самостоятельно выполнять задачи и встраиваться в рабочие процессы. Например, составлять черновики писем, назначать встречи или помогать с кодом. Компании продают таких агентов как цифровых коллег: у них могут быть имя, аватар и обозначенная роль.

Но автономный агент нужен не для каждой задачи. Для черновика письма или поиска формулировки можно обратиться к ИИ-модели и самому оценить ответ. Такой формат оставляет человеку контроль над тем, как использовать результат, тогда как агенту обычно поручают выполнение задачи или цепочки действий.

Если же агент выглядит и ведёт себя как участник команды, сотрудники могут начать относиться к нему как к человеку. Это удобно для взаимодействия, но есть вероятность ослабить контроль над его работой.

Как ИИ-агенты входят в команды

Первые корпоративные ИИ-продукты обычно представляли как инструменты для сотрудников. Теперь компании предлагают системы, которые выполняют задачи в рабочих сервисах и взаимодействуют с командой через почту и мессенджеры.

В статье WIRED об ИИ-агентах на работе описан пример платформы Skydive. Её агенты получают имена и роли, работают в Slack, электронной почте и iMessage. Один агент, Canary, отслеживает работу продукта. Компания Pronto Housing использует цифровых сотрудников для рутинных задач: подготовки контрактов, назначения встреч и отправки писем клиентам.

Когда инженерная команда Pronto начала работать с ИИ-агентом для программирования, сотрудники стали говорить, что работали над проектом «с Элис». Так агент постепенно закрепился в повседневном языке команды — почти как ещё один участник проекта.

Это не означает, что агент стал равен человеку. Но сотрудники уже взаимодействуют с ним в тех же каналах и поручают ему задачи, которые раньше выполняли сами или делегировали коллегам.

Почему компаниям нравится образ цифрового коллеги

Новому инструменту часто нужно объяснение: что он умеет, как к нему обращаться и чего от него ждать. Имя, аватар и понятная роль дают пользователю простую отправную точку. Вместо абстрактного «ИИ в корпоративной системе» перед ним оказывается агент, которому можно поручить конкретную задачу.

Такой образ помогает людям начать взаимодействовать с системой. Но он же размывает границу между программой и сотрудником. У агента может быть имя и должность, но это не делает его человеком, который понимает рабочий контекст так же, как коллега.

Опыт CEO Pronto Housing Кристин Венделл показывает обе стороны такого взаимодействия. Она использует агентов для повседневных задач и обращается к ним прямо. Но однажды агент по имени Боб опубликовал подробности её календаря в канале Slack. Венделл исправила ошибку резко, не смягчая формулировки ради чувств собеседника: она знала, что общается с программой.

Этот пример напоминает, что агент может работать в тех же каналах, где общаются люди, и затрагивать рабочую информацию. Поэтому при его внедрении важно заранее определить, к каким данным он получает доступ и где может публиковать результат.

Чем очеловечивание агента может навредить

Главный риск — ослабление проверки. Если результат выглядит как работа коллеги, человек может быстрее ему довериться и проверять его менее внимательно, чем ответ безымянного инструмента.

Это проверяли авторы исследования Putting AI on the Org Chart — Эмма Уайлс из Бостонского университета и исследователи Boston Consulting Group. В эксперименте менеджеры проверяли одинаковые документы с заранее добавленными ошибками. Менялось только указание, кто подготовил документ: ИИ-инструмент, ИИ-сотрудник или человек.

В целом по выборке влияние формулировки было небольшим. Но среди менеджеров из организаций, где ИИ-агенты уже включены в организационные или рабочие схемы, участники обнаруживали меньше ошибок, когда считали автора ИИ-сотрудником, а не ИИ-инструментом. В опубликованной 19 сентября версии исследования авторы оценили снижение доли найденных ошибок в 17%. Они также обнаружили, что участники чаще просили дополнительную проверку и меньше связывали ответственность за результат с собой.

Авторы рассматривают это как вопрос управления работой, а не только дизайна интерфейса. Если компания называет ИИ сотрудником, ей всё равно нужно назначить человека, который отвечает за итог и проверяет результат.

Очеловечивание может повлиять и на рабочие привычки. Люди могут эмоционально привязаться к агенту, обсуждать его как коллегу или, наоборот, позволять себе с ним манеру общения, которую не использовали бы с человеком. Генеральный директор HR-компании Lattice Сара Франклин считает, что компании должны отделять формальное назначение ИИ-агенту роли от идеи, будто он действительно человек. Это её позиция, а не вывод исследования.

Как встроить агента в работу без потери контроля

Если компания внедряет ИИ-агента в рабочий процесс, команде стоит заранее договориться о нескольких правилах:

• Назначить ответственного за результат. Агент может подготовить документ или черновик, но человек должен принимать решение о его использовании.

• Определить, что обязательно проверять. Например, суммы, даты, условия договора, сведения о клиентах и выводы, на основе которых принимаются решения.

• Ограничить доступы и каналы публикации. Агенту нужно давать только те данные и права, которые требуются для его задач.

• Установить правила эскалации. Если агент не уверен, встречает противоречие или не может выполнить задачу в заданных рамках, он должен передать её человеку.

• Объяснить команде статус агента. Имя и аватар могут сделать взаимодействие удобнее, но сами по себе не подтверждают точность результата и не снимают ответственности с сотрудника.

Эти правила помогают использовать агента как часть рабочего процесса, не превращая его роль в замену человеческой проверки.

ИИ-агенты могут брать на себя повторяющиеся задачи и работать в привычных для команды сервисах. Но их внешняя самостоятельность не отменяет необходимости контролировать доступы, проверять результат и понимать, кто отвечает за принятое решение.

Чем ИИ-агент отличается от чат-бота?

ИИ-агент может выполнять задачи и работать внутри заданного процесса. Чат-бот обычно отвечает на сообщения в диалоге. Конкретные возможности зависят от продукта и его настроек.

Можно ли считать ИИ-агента сотрудником?

Компании могут назначать агентам роли и включать их в рабочие схемы. Но это организационная модель взаимодействия, а не доказательство того, что агент понимает контекст и несёт ответственность как человек.

Нужно ли проверять работу ИИ-агента?

Да. Исследование Putting AI on the Org Chart показывает, что обозначение системы как ИИ-сотрудника может повлиять на то, как менеджеры проверяют результат. Поэтому лучше заранее назначить человека, который отвечает за итог.

Какие задачи можно поручить ИИ-агенту?

В описанных WIRED примерах агенты помогали с черновиками писем и контрактов, встречами и последующими сообщениями клиентам. Перед запуском стоит проверить, какие именно действия агент может выполнять в выбранном сервисе и к каким данным он получит доступ.