ФСТЭК подготовила проект новых требований к защите информации при использовании ИИ
Проект вводит для ИИ-систем отдельный сегмент и многофакторную аутентификацию администраторов, контроль доступа к моделям и фильтрацию входных и выходных данных.
Что произошло? ФСТЭК опубликовала проект изменений в приказ от 11.04.2025 № 117, которым уточняются требования по применению искусственного интеллекта в информационных системах.
В состав общих требований к защите информации включается отдельное направление — порядок защиты информации при использовании технологий искусственного интеллекта. Из требований к мониторингу информационной безопасности уберут условие о применении только доверенных технологий ИИ.
Операторов обяжут защищать информационные системы от несанкционированного доступа (НСД), модификации данных и использования систем не по назначению за счёт воздействия на применяемые модели ИИ, их параметры и агенты искусственного интеллекта.
Для информационных систем с ИИ проект вводит отдельный сегмент, а доступ пользователей к нему допускается только через многофакторную аутентификацию. Внутри такого сегмента должен быть реализован контроль доступа пользователей к моделям ИИ и наделение их минимальными правами доступа, необходимыми для выполнения возложенных на пользователей функций.
Дополнительные меры проект вводит для случаев, когда ИИ обрабатывает информацию ограниченного доступа:
- контроль доступа пользователей к моделям ИИ;
- фильтрацию входных запросов и выходных данных;
- квотирование количества входных данных;
- ограничение и контроль функциональности моделей.
Вводятся нормы, обязывающие защищать ресурсы от несанкционированного воздействия автономных и иных агентов ИИ. При использовании в информационных системах сервисов на основе моделей ИИ мероприятия и меры защиты информации, осуществляемые подрядной организацией, должны быть установлены во внутренних стандартах и регламентах по защите информации.
Согласно проекту, изменения вступят в силу с 1 марта 2027 года.
Эксперты КонсультантПлюс разобрали, кому юридически принадлежат результаты работы нейросетей. Используйте эти инструкции бесплатно.