В НИТУ МИСИС разработан математический метод проверки надежности ИИ
- CNews FORUM 12 ноября
- CNews AWARDS 12 ноября
- Школа Роста
- Российский рынок облаков за 20 лет
- 30 лет рынку ERP в России
- Главные
ИТ-сценарии 2026 - Цифровизация
- Импортозамещение
- Безопасность
- ИТ в госсекторе
- ИТ в банках
- ИТ в торговле
- Телеком
- Интернет
- ИТ-бизнес
- Рейтинги
- Инфографика
|
В Университете МИСИС представили математический метод, который позволяет заранее оценить, насколько корректно искусственный интеллект сможет использовать знания, полученные при решении одной задачи, для выполнения другой. В основе разработки — новая теорема, позволяющая формально доказать, в каких случаях перенос знаний между моделями машинного обучения будет надежным. Об этом CNews сообщил представитель Университета МИСИС.
Современные системы искусственного интеллекта редко обучают с нуля. Гораздо чаще используют подход, при котором модель сначала обучается на одной задаче, а затем накопленные знания применяются для решения другой. Такой перенос позволяет существенно сократить время обучения и уменьшить объем необходимых данных. Однако заранее определить, сохранит ли модель точность после такого перехода, зачастую невозможно.
Исследователь НИТУ МИСИС предложил математическое решение этой проблемы. Он разработал теорему, которая описывает условия, при которых знания можно корректно переносить между моделями машинного обучения. В отличие от традиционных методов, основанных преимущественно на экспериментальной проверке, новый подход позволяет получить формальное математическое доказательство того, что перенос будет корректным.
В основе работы лежит аппарат математической логики, который широко применяется для проверки правильности сложных компьютерных систем. Учёный адаптировал его для задач искусственного интеллекта, связав процесс переноса знаний с логикой Хоара — одним из наиболее известных методов формальной верификации программ. Благодаря этому стало возможным не только экспериментально оценивать работу модели, но и доказывать, при каких условиях она сохранит свои свойства после обучения на новых данных.
«Предложенный математический аппарат может стать основой для создания более надежных систем ИИ, особенно в тех сферах, где ошибки недопустимы. Например, в медицине, промышленности, робототехнике и беспилотном транспорте. В дальнейшем метод может использоваться для проверки алгоритмов еще до их внедрения в реальные системы, что позволит сделать технологии искусственного интеллекта более предсказуемыми и безопасными», — сказал Никита Никитин, сотрудник Института новых материалов НИТУ МИСИС.
Подробные результаты исследования опубликованы в научном журнале Scientific Reports (Q1). Работа проведена при поддержке гранта Российского научного фонда (проект №23-73-00131).
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.