Суверенный искусственный интеллект не гарантирует безопасность данных, заявил эксперт по информационной безопасности Алексей Лукацкий. По его словам, российская юрисдикция сама по себе не делает модель доверенной — проверять нужно реальные технические свойства, а не происхождение разработчика. Это значит, что абонентам и компаниям не стоит полагаться только на факт производства ИИ внутри страны.

Почему суверенный ИИ не равен безопасному

Лукацкий отметил, что если пузырь ИИ всё же лопнет, снижение интереса инвесторов не остановит уже работающие системы. На рынке останется масса «ИИ‑наследства» — моделей, которыми уже никто всерьёз не занимается. Сокращение инвестиций в первую очередь ударит по проверке защищённости моделей и безопасности поставщиков. При этом атакующим хватает существующих моделей для фишинга и вредоносного кода, так как наступательный ИИ дешевеет независимо от инвестиционного цикла.

Суверенность ИИ снимает часть рисков: понятно, где находятся данные и кто управляет инфраструктурой, меньше зависимость от иностранных поставщиков. Однако можно получить независимую, но отстающую систему.

Кто отвечает за данные

По мнению эксперта, за защиту информации будут отвечать все участники процесса. Ответственность распределяется так:

  • провайдер — за инфраструктуру;
  • разработчик — за архитектуру и права доступа;
  • компания — за классификацию информации;
  • сотрудник — за соблюдение правил.

Какие меры защиты нужны

Лукацкий подчеркнул, что призыв не загружать секретные данные в чат‑боты не работает. Вместо этого необходимы технические решения:

  • ИИ‑шлюзы;
  • DLP‑системы;
  • контроль запросов и ответов;
  • ограничение полномочий агентов;
  • шифрование.

Для чувствительных данных эксперт советует режим zero data retention, когда провайдер обрабатывает запрос, но не хранит его содержимое и ответ.

Преимущество атакующего и роль специалистов

Лукацкий напомнил, что преимущество всегда у атакующего: ему достаточно один раз найти рабочий метод, а защитнику приходится контролировать все системы сразу. Заменять специалистов ИИ бессмысленно, так как сильный аналитик с ИИ становится сильнее, а слабый — просто быстрее ошибается. Ценность смещается от просмотра тысяч событий к умению проверять выводы машины и вовремя ловить её ошибки.