Журнал "Information Security/ Информационная безопасность" #5, 2025

Представьте себе ситуацию, которая еще вчера казалась фантастической: рядовой сотрудник, проверяя почту, получает идеальное, безупречное письмо от руководителя, требующее срочного действия. Текст, тон, даже фоновое изображение – все сгенери- ровано нейросетью, имитирующей стиль общения директора компании. В то же время финансовый директор получает срочный звонок: в видеоокне безупречный дипфейк генерального директора, который тревожным, но абсолютно убедительным голосом тре- бует немедленно перевести средства, ссылаясь на форс-мажор. Сотрудники выполняют требуемое действие, и в результате организация сталкивается с финансовыми потерями и репута- ционными рисками, последствия кото- рых будут проявляться месяцами или даже годами. Сценарий, в котором человеческий фактор, усиленный ИИ, становится триг- гером утечки, – печальная реальность.По данным Positive Technologies 1 , ключевым вектором более чем 50% успешных атак остается именно фишинг, при этом ИИ- технологии увеличивают его эффектив- ность, делая неотличимым от реальной коммуникации. Человек остается сла- бейшим звеном в цепочке киберзащиты: отчеты показывают, что до 96% компа- ний по всему миру уязвимы из-за неосто- рожности, ошибок или несоблюдения сотрудниками протоколов и регламен- тов. Процесс импортозамещения в период 2022–2025 гг. временно усилил риски, связанные с человеческим фактором, из-за сложности новых отечественных систем и недостаточного обучения пер- сонала. Как теперь защищаться? Для эффективной защиты необходимо выделить две наиболее опасные угрозы, появившиеся благодаря генеративному ИИ. Первая – дипфейки руководителей высшего звена. Атаки на указанных лиц являются самой разрушительной фор- мой социальной инженерии, использую- щей ИИ для клонирования голоса и видео руководителей. Злоумышлен- ники эксплуатируют два ключевых пси- хологических триггера влияния: автори- тетность и давление срочности. Механизм атаки следующий: ИИ ана- лизирует публичные выступления (видео- конференции) или даже корпоративные записи голоса руководителя, создавая его безупречный цифровой дубликат. Далее этот дипфейк используется для срочных команд, например: l клонированный финансовый директор звонит в финансовый отдел с требова- нием немедленного перевода крупной суммы, ссылаясь на секретную сделку или аудиторскую проверку; l дипфейк руководителя связывается с сотрудником, утверждая, что компани- ей срочно интересуются правоохрани- тельные или контролирующие органы, и требует немедленно предоставить или удалить критические данные под пред- 64 • УПРАВЛЕНИЕ Человеческий фактор в эпоху ИИ: стратегии защиты данных организации еловеческий фактор в ИБ эволюционировал от пассивного источника ошибок до активного объекта эксплуатации со сто- роны ИИ. Атаки стали гиперперсонализированными. Голосо- вой фишинг и дипфейк-атаки превратились в угрозу, обходя- щую даже обученных сотрудников. Ч Константин Саматов, член Правления Ассоциации руководителей служб информа- ционной безопасности Таблица 1. Обобщенная периодизация развития угроз, связанных с чело- веческим фактором, и роль ИИ в их эволюции Фото: Антон Косицын Период Угроза Роль ИИ 1980–1999 Вирусы, черви, простые трояны. Человеческие ошибки и слабые пароли. Локальные заражения через съемные носители и поч- товые вирусы ИИ в современном понимании отсут- ствует. Первые эвристические и сиг- натурные методы обнаружения (анти- вирусы) 2000–2014 Массовый фишинг, зараженные вложения, ботнеты, DDoS, целе- вые эксплойты. Начало активно- сти атак на веб-/онлайн-сервисы и облачные ресурсы Появление эвристики и ранних ML- методов в антиспаме/антивирусах, системах обнаружения (предупреж- дения) вторжений 2015–2021 Усиление социальных атак, целе- вые (APT) атаки, первые дипфей- ки и синтез голоса в публичном доступе, заметное увеличение утечек из облаков Широкое применение МО для обна- ружения аномалий, начало злоупо- треблений моделями генерации кон- тента/аудио (дипфейки) 2022–2025 Массовое использование LLM и генеративных моделей для мас- штабного фишинга, автоматиза- ции мошенничества, подделки контента. Более сложные целе- вые атаки с генерацией персона- лизированного материала Генеративный ИИ стал катализато- ром новых типов угроз, одновремен- но он усиленно внедряется в защиту (автоматическая корреляция собы- тий, генерация подсказок, поведенче- ский анализ с МО) 1 https://www.ptsecurity.com/research/analytics/aktual-nye-kiberugrozy-i-ii-kvartaly-2025-goda/