Журнал "Information Security/ Информационная безопасность" #2, 2025

Искусственный интеллект и машинное обучение – еще вчера экзотика, а уже сегодня – практический инструмент. Но как сделать так, чтобы эти техно- логии работали на благо специалиста по информационной безопасности и автоматизировали его труд хотя бы в какой-то части? Изменения последних нескольких лет в сфере информационной безопасности значительно увеличили число задач, стоящих перед специалистом по ИБ и, соответственно, его нагрузку. При этом дефицит квалифицированных кадров остался. В такой ситуации руководители служб ИБ постоянно задаются вопросом: как обеспечить надежную защиту без нара- щивания штата и без потери качества? Видится только один выход – использо- вать ИИ и МО. Давайте разберемся что такое ИИ и МО, а также как они связаны с задача- ми автоматизации в ИБ. Термин "искусственный интеллект" был впервые упомянут Джоном Мак- карти, Марвином Мински, Натаниэлем Рочестером и Клодом Шенноном в 1956 г. в заявке на знаменитую Дартмутскую конференцию, которая считается отправной точкой развития ИИ как научной дисциплины 1 . Маккар- ти определил ИИ как "науку и инже- нерное дело по созданию интеллекту- альных машин". Словосочетание "искусственный интеллект" было выбрано для того, чтобы подчеркнуть стремление создать (в будущем) не просто автоматизацию, а именно системы, обладающие интеллектуаль- ными способностями, аналогичными человеческим, но реализованные искусственно. Таким образом, термин ИИ не подразумевает под собой тех- нологию, обладающую интеллектуаль- ными способностями, сравнимыми с человеческими, а определяет направ- ление деятельности, связанное с соз- данием систем (на практике их обычно называют "модели искусственного интеллекта"), выполняющих функции, похожие на интеллектуальную дея- тельность человека, имитирующие ее. ИИ как направление деятельности включает в себя набор технологий, из которых наиболее активно применяе- мыми (в том числе в ИБ), в настоящее время, являются: МО, нейронные сети и LLM. Эти технологии используются как в средствах защиты информации, так и в автоматизированных системах орга- низаций, защиту которых обеспечивают специалисты по ИБ. Для более точного понимания пред- лагаю рассмотреть таблицу 1, где поми- мо названных выше указаны также про- межуточные технологий и для лучшего понимания добавлены примеры из сферы ИБ. В настоящее время ИИ и МО стано- вятся стандартом в таких направлениях, как: l поведенческий анализ (User and Entity Behavior Analytics, UEBA); l автоматизированное реагирование (Security Orchestration, Automation and Response, SOAR); l разработка безопасного программ- ного обеспечения (РБПО); l комплаенс и аудит; l обучение и подготовка персонала. В январе 2025 г. генеральный директор компании Salesforce Марк Бениофф заявил на Всемирном экономическом форуме в Давосе: "С этого момента мы будем управлять не только работника- ми-людьми, но и цифровыми работни- ками" 3 . Этими цифровыми работниками являются ИИ-помощники (иногда их называют И-агенты или со-пилоты, Copi- lot). Для того чтобы оснастить себя таки- ми помощниками, не требуется сложных внедрений и большого бюджета – доста- точно лишь скачать LLM и установить программу 4 , обеспечивающую интер- фейс взаимодействия с ней. Таких локальных свободно распространяемых LLM много. У них различные наборы параметров, что позволяет использовать их на оборудовании различной мощно- сти. Существуют много свободно рас- пространяемых приложений, позволяю- щих организовать взаимодействие с моделью и научить ее использовать данные конкретной компании. ИИ-помощники на базе LLM и моделей МО уже применяются для решения кон- кретных задач в области ИБ. В таблице 2 приведены практические сценарии использования таких помощников в рам- ках обозначенных выше задач. Это лишь некоторые примеры, при- званные служить отправной точкой для понимания, где вы можете использовать ИИ-помощников в деловых процессах, связанных с обеспечением ИБ вашей организации. ИИ-инструменты уже сего- дня способны: l автоматизировать анализ логов и отчетов; l формировать профили пользователей и сущностей, осуществлять реагирова- ние на аномальное поведение; l ускорять внедрение (помогать при внедрении) новых технических реше- ний; l повышать юридическую грамотность специалистов ИБ; 70 • УПРАВЛЕНИЕ Автоматизация информационной безопасности: ИИ и МО этой статье рассмотрим, почему автоматизация – не просто модный тренд, а жизненная необходимость. Как искусствен- ный интеллект и машинное обучение помогают ИБ-специали- стам делать больше с меньшими затратами ресурсов. Какие новые возможности открывают большие языковые модели и как их применить для решения задач. В Константин Саматов, руководитель комитета по безопасности КИИ, член Правления Ассоциации руководителей служб информационной безопасности Фото: Антон Косицын 1 https://www.iberdrola.com/innovation/history-artificial-intelligence 2 https://bit.mephi.ru/index.php/bit/article/view/1364 3 https://fortune.com/2025/01/24/marc-benioff-salesforce-human-workforces-ai-agents/ 4 Разумеется, приняв необходимые меры информационной безопасности