Журнал "Information Security/ Информационная безопасность" #3, 2026

права: чем глубже ассистент интег- рирован в SIEM, EDR, IAM и средства реагирования, тем выше цена ошибки или компрометации. Отдельная про- блема – теневые ИИ: если компания не предоставляет разрешенные инструменты, сотрудники начинают использовать внешние ИИ-сервисы, передавая им корпоративные данные. Поэтому вместе с внедрением асси- стентов потребуются новые процессы: инвентаризация ИИ-сервисов, раз- граничение доступа, мониторинг дей- ствий и контроль качества. Чем боль- ше самостоятельности получает ИИ, тем строже должен быть контроль над его данными, полномочиями и действиями. Николай Гончаров, Security Vision Ложноположительные срабатывания, галлюцинации и дрейф моделей, непредсказуемое поведение ИИ-асси- стентов и избыточные блокирующие действия, возможные утечки обраба- тываемых и чувствительных данных, промпт-инъекции, отравления данных и другие вредоносные действия при компрометации учетной записи асси- стента. Необходимо также учитывать риски, связанные с небезопасной реа- лизацией и эксплуатацией протокола MCP в работе самих моделей ИИ, используемых компонентах с открытым исходным кодом и риски, связанные с цепочками поставок ПО. Константин Саматов Использование ИИ принесло с собой новые векторы атак. Для ботов это утеч- ки данных через промпты (если исполь- зуются внешние модели) и галлюцина- ции, ведущие к ошибочным решениям, в том числе связанным с настройками защиты. Для агентов – риски эскалации привилегий и выполнение деструктивных действий при успешных инъекциях про- мпта. Для обоих вариантов – классиче- ский теневой ИИ: сотрудники сами под- ключают ИИ к корпоративным данным в обход ИБ, создавая невидимые слепые зоны. Артем Проничев, Positive Technologies Принципиально новых проблем ИИ- ассистенты не создают. Сотрудник и без ИИ мог слить данные или запустить сомнительное ПО. В новых условиях он может сделать то же самое. Это знакомые векторы в новой обертке. Задача ИБ-службы прежняя: контроли- ровать, куда уходят данные и что выполняется. Инструменты в виде поли- тик, мониторинга и разграничения прав все еще актуальны. Новая переменная одна: если запретить все, сотрудники уйдут в теневое использование. И тогда риски те же, но уже вне видимости службы ИБ. Константин Саматов Обязательно! ИИ – инструмент, а не замена специалиста. При сбое, ком- прометации или отключении ИИ, под- разделение ИБ должно уметь локали- зовать угрозу вручную. Регулярные киберучения (тренировки) должны про- ходить с полностью отключенными ИИ- помощниками для поддержания базо- вых навыков. Александр Балабанов, BI.ZONE Да, но речь не о том, чтобы искус- ственно возвращать сотрудников к ручной рутине. Команда должна сохранять способность понять логику вывода ассистента, проверить ключе- вые факты и продолжить работу при его недоступности. Полезны перио- дические учения, в которых часть расследования выполняется без ИИ, а также разборы его ошибочных реко- мендаций. ИИ-ассистент должен заменять механическую работу, а не профессиональное мышление. Если аналитик не способен проверить ответ ассистента, принцип Human-in- the-loop превращается из эффектив- ной меры контроля в формальное нажатие кнопки. Владимир Нелюб, "Группа Астра" Безусловно! ИИ – не замена эксперта, а усилитель. Он берет на себя рутину, но качество конечного результата опре- деляется кооперацией человека и маши- ны. Однако эта кооперация работает только тогда, когда специалист сохра- няет способность критически оценивать предложения ИИ. Без этого человеко- машинное согласование превращается в формальность, а риски некритичного принятия галлюцинаций или ошибочных рекомендаций кратно возрастают. Поэто- му навыки работы без ассистента – это не архаизм, а страховка от деградации экспертизы. Николай Гончаров, Security Vision Да. Команда должна сохранять навы- ки самостоятельного расследования на случай сбоя, компрометации или ухудшения качества работы ИИ-моде- ли. Привычка слепо доверять выводам ИИ-ассистента может привести к ошиб- кам и снизить уровень компетенций и навыки критического мышления спе- циалиста. Поэтому необходима прак- тика решения задач без помощи ИИ, а также периодические учения и выбо- рочная ручная проверка результатов анализа. Важно помнить, что системы ИИ – это лишь инструмент, а для про- фессионального роста важны собст- венный опыт, знания и умение прини- мать решения. Артем Проничев, Positive Technologies ИИ – это мультипликатор. Сильный специалист станет сильнее, менее опыт- ный просто станет незаметнее до пер- вого серьезного инцидента. Кентавр или минотавр: это не выбор политики, это паттерн поведения конкретного человека. Одни используют ИИ, чтобы брать задачи сложнее. Другие делеги- руют ему мышление и деградируют до оператора кнопки. Развитие команды окупается. Особенно когда в ней люди, для которых непрерывное обучение уже часть профессиональной культуры. Владимир Нелюб, "Группа Астра" Это ложная дилемма. Инвестировать нужно и в то, и в другое, но с разной логикой. В найм – чтобы закрывать стратегические позиции и растить экс- пертизу, которую ИИ не заменит: само- стоятельное мышление, создание ново- го, способность ставить корректные задачи для ИИ. Инвестиции же в ИИ- ассистентов – это усиление текущей команды, уход от рутины и высвобожде- ние времени для задач, требующих чело- веческого суждения. Константин Саматов Однозначного ответа нет: ИИ без силь- ной команды бесполезен. Разумно инве- стировать в ИИ-помощников для авто- матизации рутины, чтобы спасти текущих сотрудников от выгорания. Баланс в том, чтобы внедрять ИИ-инструменты, но параллельно нанимать сильных экс- пертов, способных валидировать их гал- люцинации и проектировать безопасную архитектуру. ИИ – это лишь усилитель человеческого капитала. Артем Проничев, Positive Technologies Это не выбор одного из двух, но логика приоритетов есть. ИИ-помощник быстро дает эффект: снижает нагрузку, закрывает рутину, помогает младшим аналитикам работать увереннее. Инве- стиция окупается быстро и измеримо. Найм дает другое: новую экспертизу, которую ИИ не заменит. Разумная после- довательность: сначала понять, где узкое место. Если команда тонет в рутине – ИИ-помощник поможет высвободить ресурс. Если проблема в качестве реше- ний – никакой ассистент экспертизу не заменит, нужен человек. Нужно ли сознательно тре- нировать у команды навы- ки работы без ИИ-асси- стентов даже после их внедрения? Во что сегодня разумнее инвестировать: в найм спе- циалистов или в ИИ-асси- стентов для существую- щей команды? • 91 ИИ-АССИСТЕНТЫ В ИБ www.itsec.ru