При взломе Fireworks AI оказались раскрыты стенограммы ИИ‑чатов пользователей

Платформа Notion сообщила, что в результате инцидента с безопасностью у поставщика инфраструктуры для ИИ — компании Fireworks AI — произошла утечка стенограмм чатов Notion AI в небольшом количестве рабочих пространств.

23 октября злоумышленник получил доступ к среде разработки через стороннего облачного провайдера. В результате были скомпрометированы метаданные ресурсов, платёжная информация, веса моделей и наборы данных некоторых клиентов.

Ранее, в начале октября, компания Fireworks AI уже сталкивалась с подобным инцидентом: хакеры получили доступ к переменным среды, содержащим API‑ключи и токены, которые хранились как секретные данные для ограниченного числа учётных записей.

Notion узнала об утечке стенограмм чатов 2 ноября, получив от Fireworks уведомление о раскрытии набора данных, который, как утверждалось, содержал только синтетические тестовые данные.

В ответ Notion заблокировала передачу данных в Fireworks, удалила всю информацию из систем поставщика и к 3 ноября остановила процессы обучения моделей. Однако 8 ноября в Fireworks подтвердили, что был осуществлён доступ к данным клиентов, в том числе пользователей Notion.

Стоит отметить, что Fireworks AI обеспечивает работу некоторых моделей с открытыми весами, доступных в рамках Notion AI, а также анализирует сохранённые диалоги для функции Insights («Аналитика»), которая позволяет администраторам рабочих пространств видеть, как их команды используют ИИ. Утечка затронула именно те стенограммы, которые использовались для функции Insights; в настоящее время эта функция отключена.

«В чатах не было указано, кто именно их вёл или из какого рабочего пространства они поступили; кроме того, стенограммы не содержали результатов вызова инструментов (tool call results)», — говорится в сообщении Notion.

Платформа также опубликовала раздел часто задаваемых вопросов (FAQ) об этом инциденте, подчеркнув, что, согласно условиям договора, Fireworks была обязана не хранить данные Notion.

Инцидент затронул менее 1% пользователей. Владельцам рабочих пространств следует просмотреть данные в разделе «Анализ инцидентов безопасности» (Security incident review) в веб‑версии Notion для настольных компьютеров, а также предоставить участникам ссылку, по которой те смогут скачать свои собственные расшифровки переписки.

Notion рекомендует пользователям, которых коснулся инцидент, сменить пароли, API‑ключи и любые другие учётные данные, которые они вводили в затронутых чатах.

Если ни пользователь, ни владелец рабочего пространства не получили соответствующего уведомления, значит, по заявлению Notion, предпринимать какие‑либо действия пока не требуется.

В мае Notion представила новую платформу для разработчиков, которая расширяет возможности пользовательских ИИ‑агентов, позволяет взаимодействовать с внешними агентами и создавать автоматизированные многоэтапные рабочие процессы, способные извлекать данные из любой базы данных. Благодаря новой функции Workers клиенты могут писать свою логику и развёртывать её в защищённой песочнице. Это позволяет командам, например, синхронизировать данные с Notion, создавать собственные инструменты и запускать задачи с помощью веб‑хуков — автоматизированных сигналов, срабатывающих при возникновении событий в другом приложении — без необходимости полагаться на внешнюю инфраструктуру.