Журнал "Information Security/ Информационная безопасность" #3, 2024

• 37 DLP+DCAP www.itsec.ru Дмитрий Поливанов, ДиалогНаука: Один из примеров использования ИИ в ИБ-решениях – это облачные базы киберугроз, применяемые в создавае- мых разработчиками СЗИ для дополни- тельной проверки того или иного объ- екта. Наполнение этих баз осуществ- ляется, в том числе, за счет использо- вания ИИ, но этого недостаточно, чтобы говорить о повсеместном использовании ИИ в ИБ-решениях. Алексей Парфентьев, СёрчИнформ: Элементы генеративных моделей внедрены и используются, но до пере- дачи им функций полноценного поиска, анализа и разбора инцидентов еще далеко. В своем ПО мы реализовали распознавание речи на базе как раз генеративной нейросети, похожая тех- нология обрабатывает изображения. Но классический анализ текста все еще работает на базе привычных алгоритмов: регулярных выражений, цифровых отпе- чатков, морфологического анализа. Эти алгоритмы все еще точнее, чем резуль- таты анализа ИИ, а ресурсов требуют куда меньше. Сергей Добрушский, Спектр: Если вести речь об использовании функции ИИ в ИБ-решениях, то первые шаги уже давно сделаны: DLP- и DCAP- системы используют машинное обучение в части анализа и распознавания опре- деленных типов изображений, а также в функциях анализа поведения пользо- вателей и выявления аномалий (UEBA). Однако с каждым годом методологии и принципы совершенствуются, появляют- ся новые угрозы и источники для корре- ляции данных, а модели усложняются, поэтому развитие все еще активно про- должается. Сергей Кузьмин, InfoWatch: Нет, скорее это решения ближайшего будущего. InfoWatch, например, сейчас адаптирует большие лингвистические модели к задачам ИБ и в ближайшем месяце готовится к пилотированию. Илья Лушин, Солар: Если говорить о решениях, работаю- щих без вмешательства человека, само- стоятельно формулирующих политики, корректирующих и актуализирующих их, подхватывающих новые каналы ком- муникаций, – то нет, утверждать, что генеративные модели полноценно внед- рены, нельзя. Тем не менее, с ИИ так или иначе работают все, и их полно- ценное использование в качестве вспо- могательного, рекомендательного инструмента – вопрос ближайшего буду- щего. Роман Подкопаев, Makves (входит в ГК "Гарда"): Да, можно утверждать. Конфиденци- альная информация может храниться в различных форматах, намеренно или случайно изменяться корпоративными пользователями. С помощью методов компьютерного зрения и алгоритмов обработки естественного языка можно не только находить сканы конфиденци- альных документов в папках общего доступа, но и выявлять упоминающихся в документах людей и организации. Бла- годаря этой возможности можно легко найти, например, все документы, под- писанные первым лицом компании, либо все документы, где упоминаются ключе- вые заказчики или компании-конкурен- ты, а также фиксировать все действия с такими документами. Максим Деев, ARinteg: ИИ-технологии будут хорошим под- спорьем для специалистов, но они пока не способны самостоятельно выдать надежный результата без предваритель- ной обработки исходных данных. Гене- ративные модели позволяют при долж- ной подготовке создать более полные, даже избыточные данные, требующие продолжительной обработки. Польза от использования ИИ заключается в том, что исключаются ошибки, связанные с человеческим фактором. Владимир Емышев, МСОФТ: Технологии ИИ и машинного обучения уже достаточно давно и успешно при- меняются в кибербезопасности для выявления и обнаружения целевых атак, поведенческой аналитики пользовате- лей, профилировании и классификации данных. Злоумышленники же используют гене- ративные модели для создания вредо- носного ПО, фишинговых атак, голосовых и визуальных дипфейков, для разработки вредоносных инструментов, а также для джейлбрейка чат-ботов с целью снятия легитимных ограничений для генерации контента. Таким образом, генеративное моде- лирование уже сейчас является эффек- тивным инструментом в киберпротиво- стоянии, и в будущем этот тренд будет только усиливаться. Дмитрий Богомолов, Солар: Применение генеративных моделей пока остается делом будущего в отличие от нейронных сетей классификационного и регрессионного анализа с понятной областью применения: для категориза- ции данных, для распознавания графи- ческих объектов, для поведенческого и эвристического анализа событий ИБ. Александр Ковалев, Zecurion: Для DLP генеративный ИИ не является чем-то новым – первые разработки стали внедряться десять лет назад. Сейчас они активно используются, например, для детектирования изображений отдельных типов. Можно ли утверждать, что генеративные моде- ли уже полноценно внед- рены в ИБ-решения или это дело будущего? Фото: Гротек