Журнал "Information Security/ Информационная безопасность" #1, 2024

– Чем вас привлекла область информационной безопасности и машинного обучения? – После окончания вуза я решил связать свою жизнь с наукой и поступил в аспи- рантуру. Успешно защитил кандидатскую диссертацию и на данный момент уже более 15 лет занимаюсь применением искусственного интеллекта в системах без- опасности. Кибербезопасность стала неотъемлемой частью нашей повседневной жизни, и я видел в ней огромное поле для развития и применения моих навыков. С 2021 г. руковожу направлением машинного обучения в "АВ Софт". С командой решаем весьма специфиче- ские задачи: l обнаружение фишинга, спама, вредо- носного ПО; l анализ поведения и выявление ано- малий; l обеспечение безопасности моделей машинного обучения; l системы распознавания и синтеза речи; l системы генерации контента и др. Меня вдохновляет возможность при- менять инновационные подходы и тех- нологии для решения сложных проблем в области кибербезопасности и мотиви- рует на постоянное обучение и разви- тие. – Какие инструменты и методы машинного обучения вы приме- няете в своей работе для ИБ? – Мы с командой стараемся исполь- зовать как SOTA-решения (State Of The Art, новые, передовые), так и проверен- ные и зарекомендовавшие себя алго- ритмы. Например, в системе защиты от целе- направленных атак AVSOFT ATHENA для обнаружения и классификации вре- доносных файлов мы используем как классические алгоритмы, построенные на признаках, так и более продвинутые техники с использованием компью- терного зрения на базе сверточ- ных сетей (CNN) и трансформеров (Transformers) для анализа структуры файла. Для анализа аномального поведения сетевых узлов и пользователей мы используем методы кластеризации и ассоциативные правила . Мы также активно применяем технологии обработки естественного языка для анализа текстовых данных. В AVSOFT ATHENA машинное обуче- ние – это полноценный инструмент про- верки наравне с антивирусами и песоч- ницами, он дополняет их и повышает точность вердикта, а также позволяет обнаружить 0-day-атаки, с которыми тра- диционные методы сигнатурного анализа не справляются. – Можете ли вы привести прак- тические примеры использова- ния машинного обучения? – Один из наших флагманских про- дуктов – AVSOFT KAIROS предназначен для защиты электронной почты от фишинга и спама. В основе его исполь- зуются достаточно инновационные под- ходы и техники на базе ИИ. Так, например, для обогащения дата- сетов мы используем генеративные модели , в том числе и на базе техноло- гий LLM ( Large Language Model , боль- шая языковая модель). Это позволяет улучшить качество обучения модели, так как мы можем предоставить ей больше разнообразных данных для анализа. Мы обучили антиспам-модель-транс- формер на основе большого объема электронных сообщений, размеченных не только как спам/не спам, но и рас- сортированных по категориям. Кстати, для категоризации моделей мы исполь- зовали полуконтролируемое обуче- ние и автоматическую разметку с использованием других моделей. Это позволило моделям адаптироваться к различным стилям фишинговых писем, а также выполнять их классификацию и понимать контекст. Однако мы понимаем, что спам обла- дает очень высоким дрейфом данных (Data Drift) и концепций (Сoncept Drift), что приводит к деградации защитных 46 • ТЕХНОЛОГИИ Новые горизонты защиты: как ИИ революционизирует информационную безопасность Юрий Иванов, технический директор ООО “АВ Софт”, руководитель направления машинного обучения, к.т.н. Фото: Софья Ларина