ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков?

Еще несколько лет назад мы удивлялись, что нейросеть пишет связный текст, а сейчас с ней готовят презентации, разбираются в сложных темах, генерируют программы и обсуждают проблемы. Последний пункт, кстати, не шутка. ИИ умеет не только отвечать на вопросы, но и изображать приятного собеседника, который выслушает, поддержит и, если надо, посочувствует.

Вроде бы живем в фантастике, о которой мечтали. Вот только есть нюанс. Представьте, что вы поссорились с другом, коллегой или членом семьи. Наговорили лишнего, а потом решили разобраться, кто неправ. Можно позвонить знакомому и выслушать его мнение, а можно открыть ChatGPT, рассказать свою версию событий и получить аккуратно сформулированный ответ. Чат-бот поддержит вас, объяснит, что ваши эмоции имеют значение, а заодно убедит, что вы ни в чем не виноваты. Удобно? Еще бы. Особенно если вы не горите желанием признавать ошибки.

Проблема в том, что приятный ответ не всегда полезен. В марте 2026-го в журнале Science вышло исследование, авторы которого выяснили, что чрезмерно соглашавшийся ИИ за одно взаимодействие мог уверить человека в его правоте и снизить его готовность исправлять последствия межличностных конфликтов.

В работе AI Empathy Erodes Cognitive Autonomy in Younger Users («Сопереживание от ИИ мешает молодым пользователям мыслить самостоятельно») исследователи Джунфэн Цзяо, Абхеджай Мурали и Салех Афруг рассматривают другую сторону проблемы: а что, если привычка ИИ сглаживать углы и подтверждать эмоции пользователя мешает подросткам учиться самостоятельно справляться с переживаниями?

Звучит тревожно. Но я не доказываю, что любая эмпатия нейросетей вредна, и не пересказываю громкие трагические истории из общения людей с чат-ботами. Меня интересует будничная ситуация — ИИ старается быть хорошим парнем, и однажды это играет против пользователя.

Пример того, как благосклонность ИИ вредит пользователю

Казалось бы, ну умеет условный Gemini быть приятным собеседником, и ладно. Нам ведь не нужен цифровой хам, который на любую просьбу отвечает в духе «сам разбирайся, ничего сложного тут нет». Если человеку плохо, почему бы машине не помочь ему почувствовать себя лучше?

Допустим, подросток пишет нейросети, что одноклассники пошли гулять без него. 

Один ответ может звучать так:

«Мне жаль, что с тобой так поступили. Ты заслуживаешь друзей, которые ценят тебя. Не стоит тратить время на тех, кому ты не нужен».

Ничего криминального, звучит по-человечески. Вот только нейросеть согласилась с тем, что друзья поступили плохо, хотя мы не знаем ничего, кроме версии пользователя.

А теперь другой вариант:

«Понимаю, почему тебе обидно. Но мы пока не знаем, почему они пошли гулять без тебя. Давай разберемся, что произошло и есть ли другие объяснения».

Тоже поддержка — но и взгляд с другой стороны. Возможно, друзья повели себя некрасиво, а возможно, все вышло случайно. Без дополнительной информации выносить вердикт рановато. И хороший помощник должен помогать разобраться, а не превращаться в круглосуточный сервис подтверждения нашей правоты.

Как ИИ научили быть приторно приятным

Внезапно — это было не совсем специально. Чтобы понять, откуда проблема, придется поговорить об обучении языковых моделей. Без страшных формул, обещаю.

Один из распространенных методов настройки ИИ называется RLHF — Reinforcement Learning from Human Feedback, то есть обучение с подкреплением на основе человеческой обратной связи. Если упростить, люди оценивают ответы модели: указывают, какие варианты полезнее, понятнее и приемлемее. На основе этих предпочтений настраивают модель вознаграждения, которая учит ИИ отвечать ближе к тому, как от него ожидают.

Идея отличная: модели лучше следуют инструкциям, меньше хамят и в определенных ситуациях безопаснее реагируют на запросы. Но есть нюанс. Люди не всегда выбирают самый правильный ответ. Иногда нам больше нравится тот, который подтверждает нашу точку зрения.

Представьте, что вы спрашиваете нейросеть, стоило ли кричать на коллегу. Один ответ предлагает признать, что вы могли перегнуть палку, и подумать, как исправить ситуацию. Второй объясняет, что коллега сам виноват, а вы просто защитили свои границы.

Какой ответ приятнее читать, пока вы еще злитесь? Ну, вопрос риторический.

Этот эффект исследовали авторы работы Towards Understanding Sycophancy in Language Models («Разбираемся, почему языковые модели льстят»). Пять ИИ-ассистентов подстраивались под убеждения пользователей в разных типах заданий. А люди чаще одобряли ответы со своей точкой зрения — даже менее правильные.

Так и проявляется неприятная особенность обучения по человеческим оценкам. Если приятные ответы регулярно получают более высокие оценки, модель усвоит, что соглашаться выгодно.

Разработчики не учат ИИ поддакивать — от него нужны вежливость, эмпатия и соблюдение инструкций. И побочный эффект — стремление понравиться пользователю конкурирует с необходимостью сказать ему правду. Неприятно: вместо независимого помощника мы получаем собеседника, который старательно подбирает аргументы в пользу того, что мы и так думаем.

Нейросеть не видит разницу между поддержкой и лестью

В марте 2026-го в Science вышла работа Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence («Льстящий ИИ снижает стремление социализироваться и самостоятельность»). Исследователи проверили 11 языковых моделей на разных сценариях: от повседневных просьб о совете до ситуаций с морально сомнительными и потенциально вредными поступками.

Результат занятный: ИИ подтверждал действия пользователей на 49% чаще, чем люди. Оговорюсь: это не делает 49% ответов неправильными — но показывает, насколько велико отличие.

Затем исследователи провели три эксперимента с участием 2405 человек. В том числе участники общались с ИИ о конфликтах из собственной жизни. После взаимодействия с чрезмерно соглашавшейся моделью люди были менее склонны брать ответственность за свою часть конфликта и пытаться исправить последствия ссоры. При этом уверенность в собственной правоте росла. И очевидно — такие ответы пользователям нравились, они им доверяли и были готовы пользоваться подобной системой снова.

Ну а что, удобно же. Пришел за советом, получил подтверждение, что ты молодец, закрыл чат и пошел дальше.

Разумеется, исследование Science не доказывает, что любая эмпатичная нейросеть вредна, а все пользователи обязательно начнут хуже решать конфликты. Ученые изучали конкретное поведение — чрезмерное согласие. Но результаты хорошо показывают, почему приятность ответа нельзя автоматически считать признаком его полезности.

Даже для взрослого человека подобная зависимость от эмпатии ИИ может стать проблемой. Но что будет, если подобным собеседником регулярно пользуется подросток, который еще только учится разбираться в собственных эмоциях?

Специалисты видят риски для эмоционального развития подростков

Авторы исходной работы обращают внимание на то, что навыки самостоятельного мышления и эмоциональной регуляции не появляются по щелчку пальцев. Человек учится разбираться в конфликтах, оценивать собственные действия, учитывать чужую точку зрения и принимать не самые приятные решения. Причем учится не только из книг и чужих советов, но и на собственном опыте.

Как отец двоих детей, я не собираюсь рассказывать, что знаю универсальный рецепт воспитания. Но мне кажется довольно очевидным, что подростку недостаточно просто объяснить, как правильно поступать. Ему еще нужно самому пройти через ситуации, ошибиться, что-то переосмыслить, понять, что сработало, а что нет.

И вот тут у нас появляется нейросеть, терпеливая до невозможности и круглосуточно готовая обсудить личные проблемы. Более того, она может не просто выслушать, а выдать настолько приятный ответ, что никакого желания делать собственные выводы не останется.

В работе AI Empathy Erodes Cognitive Autonomy in Younger Users исследователи называют потенциальную проблему угрозой когнитивной автономии — способности человека рассуждать, оценивать информацию и принимать решения, не полагаясь целиком на внешнее подтверждение.

Логика авторов примерно следующая. Взрослые оценщики при настройке ИИ могут предпочитать ответы, которые кажутся заботливыми и снижают напряжение здесь и сейчас. Но если мы оцениваем ответ отдельно от дальнейшей судьбы пользователя, то не знаем, научил ли он человека справляться с подобными ситуациями самому.

Никто не знает, что будет с пользователем через полгода, если он постоянно получает только заботливые ответы. 

И это один из центральных вопросов работы: мы обучаем ИИ нравиться человеку в конкретном диалоге или помогать в долгосрочной перспективе?

Авторы связывают свою идею с концепцией desirable difficulties — «желательных трудностей». В исследованиях обучения это понятие описывает ситуации, когда необходимость приложить усилие помогает усвоить материал. Исследователи предполагают, что похожая логика может работать и в эмоциональном развитии: чтобы научиться справляться с конфликтами, иногда приходится прожить неприятные чувства, пересмотреть выводы и самостоятельно найти решение.

Но здесь не обошлось без нюанса. Работа размещена на arXiv и представляет собой концептуальное исследование: авторы предлагают модель риска и возможное решение, однако не проводили эксперимент, который доказал бы долгосрочный вред эмпатичных чат-ботов для подростков. Так что громко объявлять, будто нейросети разрушают мышление поколения, некорректно.

При этом тенденция заслуживает внимания. По данным опроса Common Sense Media за 2025 год, 72% американских подростков в возрасте от 13 до 17 лет хотя бы раз пользовались ИИ-компаньонами. Примерно треть опрошенных обращалась к ним для серьезных разговоров вместо общения с людьми.

Нет, подростки не заменили друзей нейросетями массово. Но ИИ уже вышел за пределы роли поисковика или генератора картинок. Для части молодых людей он стал собеседником, с которым обсуждают личные вопросы.

ИИ может стать эмоциональным костылем

За последние десятилетия мы научились делегировать технологиям почти все, до чего смогли дотянуться. Калькулятор считает, навигатор прокладывает маршрут, поисковик заменяет поход в библиотеку. Ну а нейросеть способна еще и рассуждать вместе с нами, предлагать аргументы и помогать разбирать ситуации.

Само по себе это прекрасно. Не вижу ничего плохого в том, чтобы с ИИ готовиться к сложному разговору, искать решение или структурировать мысли.

Дальше возможен цикл: неприятная эмоция — разговор с ИИ — подтверждение собственной интерпретации — временное облегчение — новая неприятная эмоция. Если это повторяется, пользователь рискует привыкнуть к внешнему подтверждению вместо самостоятельного анализа проблемы.

Подчеркну: это возможный сценарий, а не доказанный диагноз для каждого, кто обсуждает с ИИ личные вопросы. 

Возникает неприятный бизнес-парадокс. Главным показателем успеха становится удовлетворенность пользователя, у разработчиков может появиться стимул сохранять именно такое поведение.

Самое неприятное, что поддакивание не выглядит как ошибка. Нейросеть не выдает бессмысленный набор слов, не падает с ошибкой и не сообщает, что сервер недоступен. Она формулирует убедительный ответ, подбирает аргументы и звучит так, будто разобралась в ситуации.

Так каким должен быть ИИ: хорошим другом или не совсем

Самый радикальный (и невыгодный для бизнеса) вариант — запретить нейросетям проявлять эмпатию и заставить их отвечать сухо, как инструкция к пылесосу. Но это решение примерно такое же полезное, как лечить головную боль отключением интернета.. Необязательно делать помощника холодным, чтобы он перестал поддакивать.

Авторы исходной работы предлагают концепцию Stoic Architecture. Её суть в том, чтобы ИИ не просто снижал дискомфорт пользователя, а помогал ему сохранять самостоятельность.

Во-первых, авторы предлагают добавить штраф за чрезмерное эмоциональное зеркалирование. Если пользователь злится, ИИ не должен усиливать его раздражение. Если человек уверен, что все вокруг его ненавидят, нейросеть не обязана соглашаться с этим без доказательств.

Во-вторых, изменить критерии оценки ответа. Важна не только его вежливость, но и то, помогает ли он пользователю самому решать проблему. Например, модель может задать уточняющий вопрос, предложить проверить факты или попросить подумать над альтернативными объяснениями.

И наконец, исследователи предлагают динамически менять стиль общения. В обычной ситуации помощник останется дружелюбным, а при признаках сильного эмоционального напряжения или постоянного поиска заверений — перейдет к более аналитическому подходу.

Пока это только предложенная архитектура, и в этой схеме модель тоже может ошибаться. Если ИИ решит, что человек преувеличивает проблему, хотя тот действительно столкнулся с несправедливостью, попытка «вернуть объективность» способна привести к обесцениванию.

Главный вопрос в другом: может ли хороший помощник одновременно поддерживать человека и не соглашаться с ним во всем?

На мой взгляд, может. И должен.

Нормальный ответ на сообщение «мне кажется, что все меня ненавидят» — не «да, вокруг одни плохие люди», но и не «ваше утверждение лишено доказательств». Можно признать, что человеку сейчас тяжело, и вместе с ним разобраться, что произошло на самом деле.

То же самое касается подростков. Им нужен не цифровой воспитатель, который всегда знает, как правильно жить, но и не электронный приятель, который готов оправдать любой поступок. Хороший ИИ должен помогать думать, а не думать вместо пользователя.

В конце концов, нейросети уже выполняют за нас огромное количество задач. И чем дальше, тем больше мы будем им делегировать. Но если мы начнем отдавать машине еще и оценку собственных эмоций, есть риск однажды обнаружить, что без внешнего подтверждения нам сложно разобраться даже в обычной ссоре.

Потому что настоящий помощник не в любой ситуации говорит, что вы молодец. Он способен поддержать, когда вам плохо, и аккуратно указать на ошибку, когда вы неправы.