ИИ-подрядчик: угроза ваших данных внутри компании

Искусственный интеллект стремительно интегрируется в бизнес-процессы компаний, но вместе с его преимуществами возникает новая угроза — утечка конфиденциальных данных через ИИ-сервисы подрядчиков. Если раньше основные каналы утечек были сосредоточены на традиционных системах, то сегодня сотрудники активно отправляют корпоративную информацию в облачные LLM-модели, используют плагины и API, интегрируют кастомные агенты в рабочие процессы. При этом многие организации не имеют даже базового контроля над этими действиями. Проблема усугубляется тем, что ИИ-сервисы часто используются для обучения моделей, что означает, что ваши данные могут быть скопированы, проанализированы или даже раскрыты другим пользователям. Данная статья рассмотрит практические методы проверки безопасности ИИ-подрядчиков и способы минимизации рисков утечек через эти новые каналы.

Почему ИИ-сервисы стали главной уязвимостью

Традиционные DLP-системы были разработаны для контроля файловых потоков, email-переписки и съёмных носителей. Однако ИИ-сервисы функционируют по-другому: данные отправляются в облако в виде текстовых запросов (промптов), обрабатываются на серверах подрядчика, а затем возвращаются в виде ответов. На каждом этапе этого процесса возникает риск утечки. Кроме того, многие сотрудники не воспринимают ввод информации в чат-бот как отправку данных во внешнюю систему. Они вводят клиентские данные, коммерческую информацию, финансовые показатели, код программ — всё это считается нормальным использованием инструмента. При этом они часто не знают, что эти данные могут быть использованы для обучения моделей или сохранены в логах подрядчика. Исследования показывают, что ИИ становится всё более популярным каналом утечек данных. Компании часто используют ИИ-сервисы без должного контроля, создавая так называемый «теневой ИИ» — неконтролируемое использование инструментов, о котором IT-отделы могут даже не знать. Это особенно опасно, когда речь идёт о подрядчиках, которые имеют доступ к критически важным системам и данным.

Аудит использования ИИ-сервисов: первый шаг к контролю

Прежде чем проверять безопасность ИИ-подрядчиков, необходимо понять, какие сервисы вообще используются в вашей организации. Многие компании обнаруживают, что их сотрудники используют десятки различных ИИ-инструментов — от официально одобренных до совершенно неизвестных руководству. Создание карты использования ИИ — это первый критический шаг. Необходимо провести аудит всех SaaS-приложений, используемых в организации, включая инструменты GenAI. Это позволяет определить, какие сотрудники используют какие платформы, являются ли они санкционированными или нет, и какие риски они несут. Специализированные системы мониторинга могут отслеживать все попытки подключения к ИИ-сервисам и создавать полный реестр используемых инструментов. На этапе аудита важно выявить не только очевидные инструменты типа ChatGPT или Claude, но и специализированные ИИ-решения, встроенные в CRM-системы, системы аналитики, инструменты разработки и другие корпоративные приложения. Часто именно интегрированные ИИ-решения становятся источником утечек, так как они работают с данными по умолчанию.

Технический контроль доступа к ИИ-сервисам

После того как вы поняли, какие ИИ-сервисы используются, необходимо внедрить технический контроль. Наиболее эффективный способ — использование корпоративного прокси-шлюза, через который должны проходить все запросы сотрудников к внешним ИИ-сервисам. Архитектура защиты через прокси-шлюз работает следующим образом: запрос сотрудника к ИИ-сервису сначала попадает на корпоративный прокси, где анализатор проверяет его на промпт-инъекции и вредоносный контент. Затем модуль динамического маскирования находит и обезличивает конфиденциальные данные — удаляет или скрывает имена клиентов, номера счётов, коммерческие показатели, персональные данные сотрудников. Только после этого безопасный запрос передаётся в целевую LLM-модель. Специализированные системы, такие как HiveTrace, проверяют каждый запрос и ответ модели в реальном времени. Они позволяют написать собственные правила анализа и контроля обращений пользователей, определить способы реагирования — блокирование запроса или оповещение администратора информационной безопасности. Оптимально запускать такие системы сначала в режиме мониторинга, чтобы отладить правила и понять, какие запросы должны быть заблокированы, а затем переключаться в режим блокировки.

Требования к договорам с ИИ-подрядчиками

Юридическое оформление отношений с подрядчиком — это не менее важно, чем технические меры. Многие компании недооценивают значение правильно составленного договора, в результате чего при утечке данных ответственность падает на саму компанию, а не на подрядчика. Ключевые пункты договора: - Обязательства по защите данных: подрядчик должен явно обязаться обеспечивать конфиденциальность всех данных, которые он получает или обрабатывает. Это включает данные, отправленные в ИИ-сервисы, плагины и API. - Запрет на использование данных для обучения: критически важно прописать, что данные клиента не могут быть использованы для обучения или улучшения моделей подрядчика. Это должно быть явно указано в договоре и подтверждено документацией ИИ-сервиса. - Сроки хранения данных: договор должен определять, как долго подрядчик хранит данные, и требовать их удаления после завершения проекта. - Разграничение доступа: необходимо формально определить, какие данные имеет право обрабатывать подрядчик, и какие системы ему разрешено использовать. - Ответственность за инциденты: договор должен содержать пункты о ответственности подрядчика за утечки данных, включая штрафные санкции и обязательства по уведомлению о инцидентах. - SLA и гарантии безопасности: подрядчик должен предоставить гарантии уровня обслуживания (SLA), включающие обязательства по времени обнаружения и реагирования на инциденты безопасности. Практика показывает, что при отсутствии таких пунктов компания автоматически становится ответственной за утечку данных. Роскомнадзор и другие регуляторы возлагают ответственность на организацию, обрабатывающую персональные данные, независимо от того, использовала ли она подрядчика. Штрафы могут составлять сотни тысяч рублей, как произошло в одном из реальных случаев, когда компания не имела ни политики по защите персональных данных, ни ответственного лица, ни формального контроля доступа.

Проверка безопасности самих ИИ-сервисов

Перед тем как разрешить подрядчику использовать определённый ИИ-сервис, необходимо проверить безопасность самого сервиса. Вопросы для проверки ИИ-сервиса: - Где физически расположены серверы, на которых обрабатываются данные? - Какие стандарты безопасности соблюдает сервис (ISO 27001, SOC 2, GDPR compliance)? - Есть ли возможность отключить использование данных для обучения моделей? - Как долго хранятся данные запросов и ответов? - Какая система шифрования используется при передаче и хранении данных? - Есть ли возможность удалить все данные по запросу? - Какие механизмы контроля доступа реализованы? Многие популярные ИИ-сервисы предоставляют опции для корпоративных клиентов, которые обеспечивают большую безопасность. Например, некоторые сервисы предлагают режим, при котором данные не используются для обучения, или даже локальное развёртывание моделей. Такие опции обычно стоят дороже, но они значительно снижают риски.

Обучение сотрудников и культура безопасности

Технические меры и договоры — это необходимо, но недостаточно. Комплексная защита от утечек информации достигается только при наличии регулярного обучения сотрудников. Сотрудники должны понимать, что ввод данных в ИИ-сервис — это отправка информации во внешнюю систему, которая может быть скомпрометирована. Они должны знать: - Какие данные никогда нельзя отправлять в ИИ-сервисы (персональные данные клиентов, финансовая информация, коммерческие тайны, коды доступа) - Какие ИИ-сервисы разрешены, а какие запрещены - Как правильно формулировать запросы, не раскрывая конфиденциальную информацию - Что делать, если они случайно отправили чувствительные данные Специалисты часто используют практику удаления истории ИИ-чатов, чтобы минимизировать риски. Однако это не полная защита — данные всё равно обрабатываются на серверах подрядчика. Поэтому важнее всего предотвратить отправку данных в первую очередь.

Мониторинг и реагирование на инциденты

Даже при наличии всех защитных мер необходимо предполагать, что утечка может произойти. Поэтому критически важно внедрить системы мониторинга и реагирования на инциденты. DLP-системы (Data Loss Prevention) отслеживают попытки сотрудников обойти запреты — например, ввести данные вручную или голосом в ИИ-сервис. Системы мониторинга поведения пользователей (UBA) могут обнаружить признаки подготовки к утечке — например, резкое увеличение активности подрядчика перед его увольнением или необычные паттерны доступа к данным. При обнаружении подозрительной активности система должна формировать оповещение специалисту по информационной безопасности, который проводит расследование. Практика показывает, что при наличии хорошей системы мониторинга найти виновника утечки реально — системы анализируют цифровые архивы, помогают получать данные о связях сотрудников внутри и вне компании.

Практические шаги для немедленной реализации

Если вы только начинаете работать над контролем ИИ-подрядчиков, рекомендуется следующая последовательность действий: 1. Проведите аудит — определите все ИИ-сервисы, используемые подрядчиками 2. Формализуйте процессы — обновите договоры, добавив пункты о защите данных 3. Внедрите прокси-шлюз — настройте контроль доступа к ИИ-сервисам 4. Проведите обучение — объясните сотрудникам и подрядчикам риски 5. Настройте мониторинг — внедрите системы обнаружения утечек 6. Регулярно проверяйте — проводите аудит ИБ не реже раза в год Контроль ИИ-подрядчиков — это не одноразовая задача, а постоянный процесс. По мере появления новых ИИ-сервисов и инструментов необходимо пересматривать и обновлять политики безопасности. Только комплексный подход, сочетающий технические меры, юридическое оформление, обучение и мониторинг, может обеспечить эффективную защиту от утечек данных через ИИ-подрядчиков.