AI: скальпель у каждого в руках

ИИ похож на скальпель, который за $20 в месяц оказался в руках у каждого. В руках хирурга он позволяет делать то, что раньше казалось невозможным. В руках человека без подготовки и знаний он тоже оставляет след — вот только результат может быть непредсказуемым.

У AI-скальпеля есть особенность, которой нет у настоящего: он не просто следует за рукой и подчиняется ей. Он сам подсказывает, где резать, и делает это уверенно и убедительно, даже когда ошибается. Поэтому ошибочную подсказку легко принять за профессиональное суждение, не вызывающее сомнений.

Профессионалу AI даёт значимое ускорение в работе: позволяет быстрее исследовать проблему, проверять гипотезы, писать код и анализировать данные. Но в руках неподготовленного человека тот же инструмент помогает создавать убедительные материалы, которые никто толком не проверял.

Отчёт с ошибочными выводами становится красивее и объёмнее — сразу видно, какая «большая работа» проделана. Ошибка в коде быстрее попадает в прод, а ответ клиенту звучит убедительно, даже если условия выдуманы.

В 2023 году суд Нью-Йорка оштрафовал юристов по делу Mata v. Avianca на $5000: они подали документы со ссылками на несуществующие судебные решения, которые сгенерировала одна из многих AI-моделей.

В 2024 году Air Canada проиграла разбирательство с клиентом: чат-бот авиакомпании предоставил ему неверную информацию об условиях скидки. Компания пыталась возложить ответственность на чат-бот, но суд постановил, что за ответы на собственном сайте отвечает его владелец. Неважно, сгенерирован ли ответ AI или написан человеком — отвечать за него придётся компании.

Да, люди тоже ошибаются — и порой очень уверенно. Но AI одинаково уверенно выдаёт как верные ответы, так и свои галлюцинации. По тону ответа нельзя понять, где ошибка, а при массовом использовании AI такие ошибки особенно трудно заметить до того, как они попадут на стол стейкхолдеру или в прод.

Мы плохо оцениваем даже собственную выгоду от использования AI. В исследовании METR 2025 года 16 опытных разработчиков работали в знакомых им проектах с доступными на тот момент AI-инструментами и тратили на 19% больше времени, чем без них. Но по собственным ощущениям они ускорились примерно на 20%. Стоит отметить, что этот результат относится к конкретным разработчикам с конкретными скиллами, но хорошо иллюстрирует, как ощущение продуктивности может расходиться с действительностью.

Те, кто постарше, помнят появление Википедии. Для одних она становилась отправной точкой для школьного доклада или курсовой: прочитать, разобраться, найти источники и написать свой текст. Другие просто нажимали две волшебные комбинации клавиш — Ctrl+C и Ctrl+V, и вместе с текстом в доклад попадали знаки ударения в сложных словах.

С AI мы сейчас как раз на этапе Ctrl+C и Ctrl+V. Только копируем не готовый школьный доклад, а ответ, который выглядит так, будто его написали специально под нашу задачу. Поэтому перепроверять его хочется ещё меньше.

Массовое корпоративное увлечение AI (я с трудом могу назвать это внедрением, по крайней мере в РФ) само по себе не даёт преимущества бизнесу. Оно усиливает то, что в компаниях уже есть: профессионализм или некомпетентность, ясные и прозрачные процессы или хаос. Если люди умеют задавать вопросы, проверять факты, критически оценивать проекты и брать на себя ответственность за результат, AI даёт качественный скачок. Если нет — помогает быстрее принимать плохие решения и масштабировать их на весь бизнес. Для качественного скачка нужны профессионалы, а не очередные советы, как лучше написать промпт, чтобы AI реже галлюцинировал и тратил меньше токенов.

Главный вопрос не в том, сколько сотрудников используют AI и с какой частотой. Главный вопрос: «Кто способен понять, что AI ошибается, и кто отвечает за результат?» Кажется, ответ максимально прост — «хороший специалист». Но это звучит слишком абстрактно, и хочется больше конкретики.

Для себя я сформулировал несколько критериев. Во многом они похожи на то, чему мы учились, работая с Википедией:

1. Сверяет ответ с первоисточниками: данными, документами, кодом, договором, нормами права, а не с ответом другой модели.

2. Знает свой бизнес настолько хорошо, что заранее понимает, где AI скорее всего ошибется и именно это проверит в первую очередь

3. Может объяснить за бокалом чая в баре, почему результатам AI в конкретном запросе можно доверять или нет, и объяснит почему

4. Сам отвечает за результат, а не прячется за «так сказал AI».

5. Быстро читает и отделяет суть от воды. Нет, серьёзно — чтобы переваривать такое количество контента от AI, очень важно быстро читать и понимать смысл (интересно, вырос ли спрос на курсы скорочтения — если есть данные, поделитесь)

Вот таких специалистов компаниям и стоит искать — именно их работу ускорит AI, а их опыт поможет командам не принять красивый и объёмный ответ за правильный.

Но ответственность не может лежать только на сотруднике, который использует AI. Когда технология становится частью продукта или бизнес-процесса, за результат отвечает и тот, кто владеет этим процессом. Нужно заранее определить, кто контролирует качество работы модели, кто принимает решения при ошибках и кто отвечает за последствия. В противном случае мы придём к тому, что AI уже принимает решения, а ответственности за это никто не несёт.

Безопасность операций держится не только на таланте отдельного хирурга, а на системе вокруг него. Годы ординатуры, прежде чем тебе доверят оперировать самостоятельно. Чек-лист перед каждой операцией — ВОЗ ввела его в 2008 году, и он заметно снизил число ошибок, хотя состоит из банальных вопросов из разряда «тот ли это пациент». Регулярные разборы осложнений, где ошибку обсуждают, чтобы она не повторилась, а не чтобы найти крайнего. Всё это нужно переносить на работу с AI: путь от простых задач к сложным, короткий список обязательных проверок перед передачей результата и открытые разборы внутри команды моментов, когда AI-ошибка дошла до клиента или стейкхолдера.

Задача руководителя — научить всю команду пользоваться скальпелем. Начать с теории: где AI может быть полезен, как и где он может ошибаться и что важно проверить. Потом уже простые операции под присмотром более опытных коллег. И только когда сотрудник научится замечать ошибки и отвечать за результат, его можно отпускать в свободное плавание.

Да, у этой схемы есть узкое горлышко — это время экспертов. Если каждый результат проверяет сеньор, то экономия уходит на ревью. Но к этому стоит относиться как к вложению в джуна и планировать ревью как часть работы, а не считать его дополнительной нагрузкой или «карьерным наростом». Мы уже сейчас на этапе, когда Продакт-сеньор с огромным опытом и знаниями бизнеса может быть AI-джуном

Но если проверка держится только на времени сеньоров, она не масштабируется. Часть контроля стоит встроить в сам процесс: тесты до ревью, автоматическую сверку цифр с исходными данными, обязательную ссылку на первоисточник.

Важно понимать, что количество пользователей AI в компаниях, сгенерированных текстов, процессов с AI или закрытых заявок показывает активность, а не реальную пользу. О реальных результатах говорят другие метрики:

1. Ошибки: сколько ошибок находят на этапе проверки и сколько обнаруживают уже после сдачи результата.

2. Переделки: сколько тикетов пришлось открыть повторно и сколько времени потратили на исправления.

3. Кост корректного результата: сколько компания потратила на выполнение задачи, включая стоимость AI, проверку, переделки и время экспертов.

4. Время до готового результата: не до первого черновика, а до завершённой работы с учётом всех исправлений.

5. Счастье клиента: если мы говорим про автоматизацию работы с обращениями клиентов.

Список не исчерпывающий, и сами по себе эти метрики мало что говорят без сравнения с работой в до-AI-эпоху. Если раньше задача занимала 2 часа, а с AI — всего час на выполнение и ещё полтора часа на проверку и исправления, то ускорения не произошло, хотя первый результат и появился за пару минут. В конечном счёте важно, что получит бизнес. Иначе это лишь хобби или увлечение.

Если частота использования AI и количество процессов с его участием растут, а качество, скорость и экономика не улучшаются, то бизнес масштабирует использование технологии, но не её пользу.

Agile-манифест появился, когда последователи гибких подходов собрались и сформулировали общие принципы работы — они искали альтернативу тяжёлым и неповоротливым процессам разработки. С AI мы, как мне кажется, подходим к схожему моменту: инструмент уже повсюду, опыта, в том числе негативного, накоплено достаточно, а общих профессиональных принципов и подходов пока нет.

Начать, например, можно с таких принципов:

1. Ответственность важнее авторства. Неважно, кто создал результат: человек или модель. За него отвечает человек или команда, владеющая процессом, и ответственность определяется до получения результата.

2. Проверка важнее скорости. Результат, который никто не проверил, не является финальным, как бы хорошо и красочно он ни выглядел. Глубина проверки определяется риском для продукта: продакт/AI -сеньор ревьюит не всё, а то, где ошибка слишком дорого стоит

3. Первоисточник важнее правдоподобия. Любые факты, цифры и выводы AI должны проходить проверку по исходным данным, документам и другим достоверным источникам.

4. Качество решений важнее количества и частоты использования AI. Мы должны измерять, что стало лучше, а не сколько раз запустили модель.

Этот список не претендует на истину в последней инстанции — это лишь приглашение к открытому обсуждению с профессионалами, которые внедряют и применяют модели в реальной работе.

Скальпель уже оказался у всех в руках. Забрать его обратно не получится, да и в целом не стоит. Но массовая доступность ещё не делает человека профессионалом, а массовое использование AI — компанию эффективнее.

Конкурентное преимущество получат не те, кто быстрее внедрит AI или будет чаще использовать его во всех процессах, а те, кто научится контролировать ошибки, получать качественный результат и масштабировать реальное экономическое велью, а не просто оптимизировать промпты и скиллы.

Остальным придётся учиться на собственных ошибках за счёт денег акционеров и счастья клиентов.

P.S. Спасибо, что дочитали этот текст до конца. Надеюсь, это не было слишком сложно или непривычно. Иначе как вы дочитываете ответы своих моделей и вникаете в их суть?