
Взломали не Notion, а его ИИ-подрядчика
Утечка чатов Notion AI через Fireworks: почему ИИ-подрядчик стал слабым звеном
Злоумышленники взломали ИИ-платформу Fireworks и получили расшифровки чатов Notion AI. Разбираем, что известно на 12 ноября, почему это касается каждого сервиса с ИИ и как устроен ИИ в Pabit и Pabion.
12 ноября 2026 · утечка через ИИ-подрядчика
Notion уведомляет часть клиентов, что расшифровки их чатов с Notion AI попали к злоумышленникам. Взломали не сам Notion, а Fireworks AI, платформу, на которой Notion запускал открытые модели. Разбираем, что произошло, почему такие утечки случаются у сервисов с хорошей защитой и как мы устроили ИИ в Pabit и Pabion, чтобы переписка с ним не копилась у нас и у подрядчиков.
Что известно на 12 ноября
- В октябре Fireworks AI взломали дважды: сначала через скомпрометированные внутренние учётные данные, затем через стороннего облачного провайдера, где стояли исследовательские машины компании.
- Второй инцидент произошёл 24 октября: злоумышленники запустили несанкционированную программу. Fireworks связывает его с ростом LLMJacking, захвата чужих ИИ-мощностей.
- Fireworks локализовала атаку в тот же день, а 2 ноября сообщила Notion, что к данным Notion AI получили доступ.
- Утекли расшифровки чатов Notion AI, которые хранились для функции Insights, где клиенты видят, как используют ИИ.
- Затронуто менее 1% рабочих пространств. Большинство расшифровок нельзя связать с конкретным клиентом, но сам текст чатов раскрыт.
Notion советует считать эти данные раскрытыми. Если в чат с ИИ попадали пароли, API-ключи или другие учётные данные, их нужно заменить. Сколько клиентов пострадало, компания не сообщает.
Почему это касается всех, кто подключил ИИ
Notion при этом никто не взламывал. Данные утекли у подрядчика, которому они были переданы для работы ИИ. Сегодня почти каждый сервис с ИИ-функциями работает так же: запросы пользователей уходят к поставщику модели или на платформу, где модель запущена.
Есть и вторая проблема. Расшифровки хранились ради аналитики, хотя для ответа пользователю они уже не нужны. Всё, что хранится, можно украсть. В предыдущем материале мы разбирали, что сотрудники чаще всего отправляют в нейросети. Там встречаются пароли, ключи и персональные данные клиентов.
Как устроен ИИ в Pabit и Pabion
Мы исходим из того, что взломать могут любого подрядчика. Поэтому выстраиваем ИИ так, чтобы ценных данных у подрядчика и у нас было как можно меньше:
- 1
Не храним переписку с ИИ
Pabit отправляет запрос модели, показывает ответ и не сохраняет текст диалога. Для лимитов мы учитываем только число запросов. Архива чатов, похожего на тот, что утёк у Notion, у нас нет.
- 2
Маскируем секреты до отправки в модель
AI Firewall в Pabion проверяет каждый запрос к нейросети. В режиме защиты он заменяет пароли, API-ключи, токены и персональные данные заглушками, и к поставщику модели они не попадают. Блокирует попытки взлома модели и вывода данных.
- 3
Разделяем доступы
Резервные копии защищены отдельными правами: доступами основного сервера их нельзя удалить. Взлом одного звена не открывает остальные.
Что сделать вашей команде сейчас
- 1
Проверьте, какие ИИ-функции включены
Составьте список сервисов, где сотрудники пользуются встроенным ИИ, и выясните, у каких подрядчиков обрабатываются запросы.
- 2
Узнайте, хранится ли переписка
Если сервис хранит историю чатов с ИИ, выясните, где именно, как долго и можно ли её отключить.
- 3
Замените секреты, которые попадали в чаты
Если в ИИ-чат когда-либо вставляли пароли или ключи, считайте их раскрытыми и выпустите новые.
- 4
Поставьте фильтр перед нейросетями
AI Firewall в Pabion маскирует секреты и персональные данные до того, как они уйдут к модели. Сотрудники продолжают пользоваться ИИ, а утечки не происходит.
Источники
Задачи, чат и документы в одном месте
Попробуйте Pabit на своей команде.