Безопасность созданных ИИ паролей оценили

IT-эксперт Силаев: Использовать нейросети для создания паролей может быть небезопасно

Использовать нейросети для создания паролей небезопасно, даже если предложенная комбинация выглядит сложной и содержит случайный на вид набор букв, цифр и специальных символов, рассказал заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев. В беседе с «Лентой.ру» он объяснил, что когда нейросеть самостоятельно придумывает пароль, она не обеспечивает криптографически стойкую случайную генерацию. Поэтому внешне сложные комбинации могут содержать предсказуемые закономерности, а при одинаковых запросах иногда встречаются даже полностью совпадающие пароли.

«Большие языковые модели последовательно формируют текст на основе вероятностей, определяемых в процессе обучения и с учетом контекста запроса. В результате одни символы и их сочетания могут использоваться значительно чаще других, а определенные последовательности — повторяться. Специализированные генераторы паролей работают иначе: они используют криптографически стойкие генераторы случайных чисел, благодаря которым создаваемые комбинации практически невозможно предсказать. Таким образом, наличие букв разного регистра, цифр и специальных символов само по себе еще не гарантирует надежность пароля», — сказал Силаев.

Материалы по теме:

Такая предсказуемость создает дополнительные риски для безопасности учетных записей, подчеркнул эксперт. Злоумышленники могут изучать характерные закономерности в паролях, предлагаемых языковыми моделями, и использовать наиболее вероятные комбинации при автоматизированном подборе. Успешность подобных атак зависит и от механизмов защиты конкретного сервиса, однако использование предсказуемого пароля повышает риск его компрометации. Особенно опасно применять один и тот же пароль в нескольких сервисах.

Для создания паролей лучше использовать проверенные генераторы, встроенные в браузеры, операционные системы или специализированные менеджеры паролей. Такие инструменты позволяют создавать случайные комбинации, а менеджеры паролей помогают безопасно хранить их

Юрий Силаевзаведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА

Эксперт рекомендовал использовать для каждого аккаунта отдельный длинный пароль, а там, где это возможно, дополнительно включать многофакторную аутентификацию. Не следует и отправлять действующие пароли чат-ботам для проверки их надежности: при использовании сторонних онлайн-сервисов конфиденциальная информация передается внешней системе и может сохраняться и обрабатываться в соответствии с правилами ее работы.

Ранее Силаев предупредил, что, загружая документы в общедоступные нейросети, пользователь фактически теряет контроль над ними. Он отметил, что в первую очередь это касается персональных данных, финансовых бумаг и медицинских заключений.