В ИТМО научились ускорять ИИ-системы глубокого поиска в шесть раз
- CNews FORUM 12 ноября
- CNews AWARDS 12 ноября
- Школа Роста
- СУБД в эпоху ИИ
- КИИ в облаке
- 10 лет российского бэкапа
- SDN: Сеть как дом
- История облаков
- 30 лет ERP России
- Цифровизация
- Импортозамещение
- Безопасность
- ИТ в госсекторе
- ИТ в банках
- ИТ в торговле
- Телеком
- ИТ-бизнес
- Рейтинги
|
Ученые ИТМО разработали первую в России систему глубокого поиска на диффузионных языковых моделях — DiffResearch. Она формирует подробные отчеты в шесть раз быстрее аналогичной системы на классических моделях, сохраняя качество результатов. Разработка ускорит анализ научной литературы для исследований и подготовку аналитических отчетов для бизнеса. Об этом CNews сообщили представители ИТМО.
Большинство популярных ИИ-ассистентов работают на классических (авторегрессионных) языковых моделях. Они получают запрос и пишут текст слово за словом, слева направо, без возможности вернуться назад и исправить ошибку. Длинный ответ такая модель генерирует долго: текст появляется последовательно, а ошибка, допущенная в начале, влияет на весь остальной текст. На таких же моделях работают системы глубокого поиска (Deep Research), которые собирают информацию из разных источников и формируют подробные отчеты. Для этого несколько ИИ-агентов последовательно планируют поиск, формулируют запросы, находят и анализируют материалы, а затем объединяют результаты в один документ. В зависимости от задачи подготовка такого отчета может занимать 15–30 мин.
Чтобы ускорить этот процесс, ученые ИТМО заменили классическую языковую модель в готовой системе глубокого поиска на диффузионную. Такие модели генерируют текст иначе: не слово за словом, а параллельно в нескольких местах. Этот процесс можно сравнить с расшумлением в телевизоре — изображение в нем появляется не построчно, а постепенно по всему экрану. Похожим образом работает и модель: текст она складывает воедино из отдельных фрагментов. Диффузионная модель проходит несколько циклов генерации: на каждом из них уточняет ранее сформированные части текста. Кроме того, пока процесс сборки отчета не завершен, модель может менять слова и исправлять ошибки, допущенные в начале. Все это делает генерацию быстрее в несколько раз.
«Чтобы убедиться, что на скорость повлияла именно замена модели, мы провели эксперимент. Взяли ту же систему, оставили те же промпты, код поиска, оценку и меняли только сам "движок“ — на диффузионную модель и на сопоставимую классическую. Для проверки скорости мы использовали Deep Research Bench — набор из 100 задач уровня PhD по 22 научным областям. В результате система на диффузионных моделях выполнила их примерно в шесть раз быстрее, а заметнее всего ускорились планирование и написание отчета — в 10–12 раз», — сказал главный разработчик DiffResearch, аспирант факультета информационных технологий и программирования ИТМО Алан-Барсаг Газзаев.
Еще одно преимущество DiffResearch — возможность начинать поиск информации, пока ИИ-агент еще формулирует запросы. В обычных системах поисковый запрос сначала нужно подготовить целиком и только потом отправить в поисковик. Диффузионная модель позволяет использовать уже сформированные части запроса, не дожидаясь завершения генерации. Благодаря этому система начинает искать научные статьи и другие материалы раньше, а время на подготовку запросов сокращается почти в два раза.
Несмотря на ускорение, качество работы системы не пострадало. При подборе источников она обращается к научным поисковым сервисам — так же, как и при работе на классических моделях. DiffResearch проверили по методике RACE — это автоматическая оценка готового отчета с помощью другой языковой модели. Она проверяет, насколько полно раскрыта тема, есть ли содержательные выводы, выполнены ли требования пользователя и понятен ли текст. Ученые сравнили три варианта одной системы: с обычной авторегрессионной моделью, с диффузионной моделью и с диффузионной моделью в режиме раннего извлечения ответов. Их общие оценки составили 0,3904, 0,3895 и 0,3969 соответственно по шкале от 0 до 1.
Как обезопасить компанию от «теневого ИИ» сотрудников? Цифровизация
«Сама область диффузионных языковых моделей совсем новая — первый воркшоп по ним при NeurIPS прошел только в 2026 году. Поэтому в России мы стали первыми, кто применил их в глубоком поиске. Вдобавок мы научили систему брать поисковые запросы из черновиков раньше, чем модель закончит их формировать, — такой функции мы не нашли ни в одном научном исследовании», — сказал Алан-Барсаг Газзаев.
Подобные системы пригодятся там, где нужно быстро разобраться в сложной теме. Например, в учебе или научном поиске — чтобы быстрее собрать материалы по интересующей теме, а в бизнесе — чтобы сократить время на аналитические отчеты. Особенно такое ускорение будет полезно в медицине, где важно быстро получать сводки по стандартам лечения и существующим исследованиям, чтобы подобрать варианты помощи пациенту.
Над системой также работал аспирант факультета информационных технологий и программирования ИТМО Алексей Гаврилов. Руководил исследованием доцент Института прикладных компьютерных наук ИТМО Сергей Муравьев.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.