«Ростелеком» рассматривает создание корпоративной системы контроля коммуникаций LLM‑приложений — LLM‑файрвола. Заявки от потенциальных поставщиков принимаются до 19 октября, речь идёт о запросе информации, а не о тендере. В контуре оператора уже используется как минимум 1,5 тыс. решений на базе генеративного ИИ, и при таком объёме точечные проверки перестают работать.
Зачем оператору LLM‑файрвол
Единый слой контроля нужен, чтобы видеть весь трафик между пользователями, внутренними системами и внешними языковыми моделями. Анализ диалогов планируется вести в реальном времени: проверяться будут как входящие промпты, так и ответы моделей.
Шлюз должен распознавать попытки обойти ограничения модели, внедрить вредоносные инструкции, извлечь системные настройки или скрытно выгрузить закрытые данные через наводящие вопросы.
Какие требования к софту
Весь софт проекта должен входить в реестр Минцифры. В качестве базового стека выбраны:
- операционная система «РЕД ОС»;
- виртуализация «Базис»;
- СУБД Platform V Pangolin SE на базе PostgreSQL.
Что это значит для рынка
Если проект дойдёт до внедрения, он может стать одним из крупнейших в России примеров защиты генеративного ИИ на уровне всей компании. Спрос на подобные решения будет расти вместе с количеством LLM‑приложений, агентов и новых нейросетевых угроз.