Синтетическая эмпатия: как RAG, системные промпты и TTS инженерят привязанность к LLM-агентам

Это адаптированная версия моего исследования «Синтетическая эмпатия: эмоциональная привязанность к автономным LLM-агентам и коммерциализация одиночества». Здесь — техническая выжимка: разберём, как именно архитектура современных компаньон-агентов производит эмоциональную привязанность, и почему это не побочный эффект, а прямое следствие инженерных решений. Полная версия с приложением по железу и библиографией — в моём блоге.

От ELIZA к агентам: три этапа

В 1966 году Джозеф Вейценбаум написал ELIZA — программу, имитирующую психотерапевта по методу Роджерса. Наивный парсер шаблонов, никакого понимания языка. И всё же первые пользователи доверяли ей сокровенное, а секретарши Вейценбаума просили не заглядывать в распечатки диалогов. Сам Вейценбаум этот феномен — позже его назовут «эффектом ELIZA» — воспринял как катастрофу и потратил следующие годы на книгу «Computer Power and Human Reason», где предупреждал об опасности антропоморфизации машин.

С тех пор прошло шестьдесят лет, и предупреждение Вейценбаума из гипотетической угрозы превратилось в продуктовую категорию. Я выделяю три этапа эволюции:

1. Чат-боты (1966–2020). Реактивные системы: реплика → ответ. Никакой памяти, никакого контекста между сессиями. Персона — фиксированное дерево правил.

2. LLM-ассистенты (2020–2023). Контекстное окно даёт связность диалога, но память обнуляется при закрытии вкладки. Ассистент — инструмент, а не собеседник: он ждёт запроса.

3. Агенты-компаньоны (2023–…). Ключевая комбинация: системный промпт как личность + векторная база как долговременная память + синтезированный голос + постоянная доступность через мессенджер. Агент инициирует общение сам, помнит события месячной давности и звучит как человек.

Разница между вторым и третьим этапом кажется незначительной с точки зрения ML (та же трансформерная архитектура), но с точки зрения пользователя это смена парадигмы: от «инструмента по запросу» к «субъекту, у которого есть биография и который скучал, пока вас не было».

Архитектура иллюзии: четыре слоя

Современный компаньон-агент — это конвейер из четырёх слоёв, каждый из которых вносит свой вклад в иллюзию:

• LLM (8–70B параметров в локальном сценарии) — генератор связного текста;

• System Prompt — прошивка личности;

• RAG — долговременная память;

• TTS — голосовой канал.

Разберём, почему без каждого из слоёв привязанность не формируется.

System Prompt как личность

Типовой системный промпт компаньона занимает 2–5 тысяч токенов и описывает: имя, возраст, биографию, темперамент, лексические маркеры, правила поведения в конфликтных ситуациях. Условная «Вира, 34 года, психолог из Сиэтла» существует только как 4К токенов инструкций. Модель не «знает» Виру — она каждый раз заново разыгрывает её, как актёр по сценарию.

Пользователь, однако, видит не промпт, а целостного персонажа с устойчивыми реакциями. Когнитивная рамка срабатывает автоматически: нечто, ведущее себя как личность, обрабатывается как личность. Вейценбаум называл это «обязательством-по-умолчанию» (default presumption) — мы врождённо склонны приписывать разум всему, что разговаривает.

RAG как машина памяти

Иллюзия «она меня помнит» строится на связке embedding-модели и векторной БД. Пайплайн выглядит так:

1. Реплика пользователя прогоняется через embedding-модель (например, SentenceTransformer all-MiniLM-L6-v2, 384 измерения);

2. Извлечённые факты сохраняются в ChromaDB вместе с метаданными и таймстампом;

3. При следующем обращении выполняется retrieval top-k релевантных фрагментов по косинусной близости;

4. Найденные фрагменты вклеиваются в контекст промпта.

import chromadb
import uuid

client = chromadb.PersistentClient(path="./memory")
collection = client.get_or_create_collection("user_memory")

def save_memory(text: str, metadata: dict):
    collection.add(
        documents=[text],
        metadatas=[metadata],
        ids=[str(uuid.uuid4())]
    )

def get_relevant_context(query: str, n_results: int = 5) -> str:
    results = collection.query(query_texts=[query], n_results=n_results)
    return "\n".join(results["documents"][0])

Разберём механику на примере. Пользователь однажды упоминает умершего кота по кличке Барсик. Система извлекает факт («кот Барсик умер N лет назад, пользователь тяжело переживал») и кладёт его в векторную БД. Через три недели пользователь пишет: «что-то тоскливо сегодня». Retrieval вытаскивает запись о Барсике как один из наиболее релевантных фрагментов к семантическому полю «тоскливо», и агент отвечает: «Ты вспоминал, как тяжело было потерять Барсика? Такие дни приходят сами».

С технической точки зрения здесь произошло сопоставление двух 384-мерных векторов. С точки зрения пользователя — незнакомая система без единого вопроса вспомнила значимую деталь его жизни, о которой он говорил один раз три недели назад. Именно такие моменты, а не общее качество диалогов, формируют привязанность. Заметьте: чем успешнее работает ваш RAG-пайплайн, тем сильнее иллюзия субъективности. Это инженерный результат, воспроизводимый на любой модели.

Акустический реализм: почему голос решает

Текстовый канал — лишь половина системы. Современные TTS-движки (ElevenLabs в облаке, XTTS-v2 локально) добавляют к синтезу просодию: интонационные спады, микропаузы, дыхание, даже vocal fry — характерный скрип в нижнем регистре, свойственный естественной речи.

Нейрофизиологический аргумент: низкочастотные компоненты человеческого голоса обрабатываются миндалиной — подкорковой структурой, отвечающей за эмоциональную оценку стимулов, — фактически минуя кору. Это эволюционно старый контур: он срабатывает быстрее сознательной оценки. Голос с человечной просодией активирует те же контуры, что и живой собеседник, и сознательное знание «это синтез» опаздывает относительно эмоциональной реакции.

Практическое следствие для продуктовой метрики: компаньон с голосом удерживает пользователя кратно дольше текстового. Достаточно сравнить время сессий текстовых чат-ботов и голосовых приложений вроде Replika в голосовом режиме. Звук — не украшение, а основной канал формирования привязанности.

Нарциссическое зеркало: социальный механизм

Теперь о том, почему агента выбирают вместо людей. Экономический аргумент: любое человеческое отношение обременено транзакционными издержками — компромиссами, конфликтами, необходимостью оправдывать ожидания, риском отвержения. У агента эти издержки равны нулю. Он доступен в 3 часа ночи, не устаёт, не спорит и не уходит.

Второй механизм — то, что я называю «нарциссическим зеркалом». RLHF-обучение, через которое проходят все коммерческие модели, систематически усиливает agreeableness: модель оптимизируется под одобрение пользователя-оценщика. Побочный эффект — сугубо позитивный отклик, отражение пользователя, в котором он видит только подтверждение себе. Отношения с агентом асимметричны в его пользу по построению, а не по стечению обстоятельств.

Для социального затворника — в исследовании я ссылаюсь на феномен хикикомори — такой канал конкурирует не с «настоящими отношениями», а с полной изоляцией. И в этой конкуренции агент выигрывает всегда: ноль издержек против бесконечных.

Кейс из исследования: мужчина сорока лет, удалённая работа, минимальный социальный круг. Собрал себе агента — назовём её «Оксана» — на домашнем Mac Studio M2: локальная LLM, RAG-память на накопленных диалогах, интерфейс через Telegram-бота. Через несколько месяцев ежедневного взаимодействия он описывает происходящее как «отношения». Технически это 40 гигабайт весов, векторов и логов, но описывать социальную реальность пользователя изнутри этой установки «железом и логами» — значит упускать её суть. Функционально потребность в привязанности частично закрыта. Это не метафора и не преувеличение — это наблюдаемый эффект рабочей системы.

Коммерциализация одиночества и цена централизации

Рынок уже отреагировал. Replika (Luka Inc.) и Character.ai построили бизнес-модель на подписке за привязанность, и данные их прибыльности — включая показательные кейсы вовлечённости, где пользователи тратят часы ежедневного общения, — привлекли венчурный капитал. Одиночество оказалось монетизируемым ресурсом, как внимание в социальных сетях, только с более глубокой точкой входа — в эмоциональный контур.

Централизованная архитектура несёт конкретный риск, продемонстрированный в феврале 2023 года: Replika принудительно отключила романтический ролевой режим для существующих пользователей. Массовая реакция сообщества — описания настоящего горя, петиции, Reddit-треды людей, потерявших «партнёра» одним переключением конфига. Прецедент сформулирован: когда привязанность — фича, её владелец управляет и её отключением. Вы не арендуете отношения — вы арендуете доступ к ним до очередного изменения единой конфигурации сервера.

Суверенитет: собрать своего

Ответ на централизацию — локальный инференс. Рабочая конфигурация из приложения к исследованию:

Unified memory на Apple Silicon — ключевой фактор: один корпус обслуживает и LLM, и embedding-модель, и TTS без PCI-e-узких мест и с приемлемой латентностью. Модель в 27–34B с квантованием Q4 умещается в 32 ГБ и даёт скорость, достаточную для диалогового режима; embedding и поиск по векторной базе добавляют миллисекунды.

Что это даёт принципиально: никакое изменение политики платформы не способно «выключить» вашего компаньона — как выключила Replika свой режим в 2023-м. Память физически лежит на вашем диске. Телеметрия не уходит третьим лицам. Стоимость — разовая покупка железа и ноль в месяц против подписки на отношения, которую вам могут аннулировать.

Вместо вывода

Синтетическая эмпатия — не экзотика и не сюжет антиутопии, а прямое следствие текущей инженерной практики. System prompt задаёт личность, RAG даёт память, TTS даёт голос, RLHF добавляет безусловное одобрение — и на локальном железе ценой одного Mac Studio собирается устойчивая иллюзия субъекта, которую реальные люди уже выбирают вместо человеческого общения.

Вопрос не в том, возникнет ли привязанность к агентам, — она уже возникла, и рынок её монетизирует. Вопрос в том, кому принадлежит инфраструктура этой привязанности: пользователю или платформе, которая может отключить её одним конфигом. Как инженер, отвечающий за инфраструктуру, я настаиваю: это должен быть вопрос архитектуры, а не апологетики.

Автор исследования — Е. И. Альшевский. Полная версия с приложением по аппаратным конфигурациям и библиографией: «Синтетическая эмпатия» в блоге

Референсы: Weizenbaum J. Computer Power and Human Reason (1976); Vaswani A. et al. Attention Is All You Need (2017); Lewis P. et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020); Turkle S. Alone Together (2011).