Журнал "Information Security/ Информационная безопасность" #3, 2026

Александр Балабанов, BI.ZONE Первое требование к ИИ-ассистенту – практическая польза: он должен авто- матизировать рутинные операции, уско- рять обработку больших объемов инфор- мации и помогать специалистам прини- мать решения. При этом доверять нужно не ИИ-ассистенту как таковому, а кон- кретному сценарию его применения: заранее определить, какие данные он получает, какие действия ему разреше- ны, какова цена ошибки и когда требу- ется подтверждение человека. Ассистент должен обеспечивать безопасную обра- ботку данных, минимально необходимые права доступа, журналирование дей- ствий и ссылаться на источники. Чем выше цена ошибки, тем уже должен быть коридор самостоятельных действий ассистента: критически важные опера- ции – только по принципу Human-in-the- loop. Артем Проничев, Positive Technologies 1. Данные не должны обрабатываться на инфраструктуре, которую вендор не контролирует, тем более за рубежом. Как ориентир, Self-Hosted-модель в обла- ке с подтвержденной защищенностью. 2. Прозрачность. Никаких автономных действий в инфраструктуре без явного подтверждения пользователя. Пользо- ватель всегда знает, что уйдет в облако и что будет сделано. 3. Экспертиза. Ответы отражают логи- ку опытного безопасника – предсказуе- мый и качественный результат, а не произвольный выход модели. Константин Саматов Прежде всего нужно понять, что есть два вида ИИ-ассистентов: реактивные – боты (запрос-ответ) и проактивные – агенты (цель-план-действие). Ботам доверяют, если они не придумывают факты (минимизация галлюцинаций за счет настроек и применение RAG) и не сливают наши секреты (локальные установки). Агентам доверяют, только если они работают по жестким прави- лам и не могут ничего сделать без одобрения человека (принцип "человек в контуре"). Для обоих главное – иметь историю (логи) их работы для прове- рок. Владимир Нелюб, "Группа Астра" Архитектура ИИ-ассистента должна строиться на трех китах: закрытый контур обработки данных, минимальные при- вилегии для агента и полная подотчет- ность. Все действия агента необходимо логировать и делать трассируемыми, а критически важные решения – выво- дить на человеко-машинное согласова- ние. Кроме того, решение обязано впи- сываться в российскую регуляторную среду: соответствовать ГОСТ Р ИСО/МЭК 42001, требованиям ФСТЭК России, 152-ФЗ, а для объектов КИИ – 187-ФЗ. И здесь важно не просто самому быть безопасным, но и уметь проверять действия пользователей на соответствие этим нормам. Николай Гончаров, Security Vision ИИ-ассистент для службы ИБ должен работать в защищенной и строго конт- ролируемой среде и условиях с ограни- ченными правами доступа. Должна обес- печиваться конфиденциальность данных, с которыми он работает. Все действия и рекомендации должны журналироваться и быть понятны специалисту. Критически важные решения должны подтверждать- ся человеком. Доверие к ИИ должно основываться на прозрачности, регу- лярном тестировании, контроле качества и возможности отмены ошибочных дей- ствий. Владимир Нелюб, "Группа Астра" Главная головная боль – неконтроли- руемое использование публичных ИИ- агентов на корпоративных и личных устройствах, приводящее к утечкам дан- ных. Лекарство – легальные инструмен- ты внутри контура и сквозное обучение сотрудников правилам ИИ-гигиены. Добавляются и новые векторы атак: промпт-инъекции, когда злоумышленник взламывает агента через входные дан- ные, и эксплуатация галлюцинаций для подмены доверенных ресурсов. Это воз- вращает нас к базовым принципам: про- верка всех источников, минимальные привилегии и обязательное человеко- машинное согласование критических действий. Александр Балабанов, BI.ZONE ИИ-ассистент становится одновре- менно новым инструментом защиты и новой поверхностью атаки. Помимо самой модели, злоумышленники могут воздействовать на интеграции, базы знаний и ИИ-инфраструктуру, используя инъекции, отравление дан- ных и компрометацию цепочки поста- вок. Особенно опасны избыточные Каким требованиям дол- жен соответствовать ИИ- ассистент, чтобы можно было доверить ему работу в службе ИБ? Какие новые проблемы принесут ИИ-ассистенты в работу службы информа- ционной безопасности? 90 • СПЕЦПРОЕКТ Принять на работу ИИ-ассистента! Круглый стол экспертов лавная проблема ИИ-ассистентов не в качестве моделей, а в том, как встроить их в работу службы ИБ. Да еще так, чтобы выиграть в эффективности и не потерять в управ- ляемости. Именно об этом мы спросили экспертов. Г Эксперты Александр Балабанов, руководитель центра искусственного интеллекта и перспективных технологий BI.ZONE Николай Гончаров , директор департамента мониторинга кибербезопасности Security Vision Владимир Нелюб, управляющий партнер “Астра ИИ Код”, член правления, директор по науке и ИИ ПАО “Группа Астра” Артем Проничев, руководитель ML в MaxPatrol SIEM, Positive Technologies Константин Саматов, эксперт BISA, член ICSA, судебный эксперт (компьютерно-техническая экспертиза)