Журнал "Системы Безопасности" № 3‘2026

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 121 С уществующий рынок систем и средств защиты информации (далее – средств защиты информации) при внедрении решений на базе искусственного интеллекта лишь частич- но обеспечивает реализацию функций безопас- ности в широком смысле этого определения. От целесообразности к необходимости Весь набор средств защиты информации по исторически сложившимся направлениям в настоящее время способен обеспечить лишь без- опасность технологической части инфраструкту- ры искусственного интеллекта. За скобками оста- ется целый ряд аспектов безопасности языковых моделей, данных и источников данных. Не хватает средств защиты информации, ориен- тированных на безопасность данных в процессе обучения и функционирования решений, без- опасность алгоритмического процесса искус- ственного интеллекта, контроль функционирова- ния решений с искусственным интеллектом и без- опасность источников данных, в том числе источ- ников данных при обучении языковых моделей. Для каждой стадии развития искусственного интеллекта должны появляться новые классы средств защиты информации. Сейчас их внед- рение можно рассматривать как целесообраз- ность. Но на самом деле это необходимость. При этом появление новых классов средств защиты информации должно идти одновре- менно или опережать уровень достижения тех- нологий искусственного интеллекта. Сразу ого- воримся: речь идет о защите дружественных решений искусственного интеллекта и обес- печении безопасности их применения. Проблемы безопасности ИИ Обратимся к проблематике безопасности раз- вития ИИ в соответствии с общепринятыми ста- диями ANI, AGI, ASI (табл. 1 и 2). Если для стадии ANI проблематику можно опи- сать скорее как трудности роста и объясняется она желанием быстрого достижения результата внедрения, кроме одного аспекта – киберпре- ступность уже прекрасно поняла какие возмож- ности для атаки подарил искусственный интел- лект, то для стадии AGI и особенно для стадии ASI проблематику еще надо осознать. В первую очередь это связано с отсутствием четкого пони- мания, для чего нужна эта накачка вычисли- тельных мощностей. Риски, которые принесет внедрение генеративного ИИ и предоставление ИИ права формировать решения управления в различных смыслах этого термина, до конца не осознанны. Риски стадии ANI Для стадии ANI актуальными являются риски "галлюцинаций" и низкого качества обучения языковых моделей. Давайте определимся, какие новые направле- ния безопасности на этой стадии являются про- блемными (см. рис. 1). Средства защиты от "галлюцинаций" корпоративные и персональные Предназначение: выявление и блокировка ошибочной, недостоверной или ложной информации систем ИИ на всех стадиях обра- ботки. Область применения: может применяться как корпоративное решение, а также как средство персональной защиты пользователя. Средства обеспечения качества языковой модели Предназначение: оценка качества языко- вой модели на основе нормативных требо- ваний. Область применения: большие языковые модели и специализированные языковые модели. В том числе средства контроля качества обучения предназначены для контроля обучения языковой модели на этапе запус- ка и на всех этапах цикла функционирова- ния. Применяются в языковых моделях и источниках данных для обучения. Средства безопасной разработки и сертификации программного обеспечения ИИ Предназначение: специализированные платформы для безопасной разработки решений ИИ и аналитической поддержки сертификационных лабораторий. Область применения: разработка и сертифи- кация решений ИИ. www.secuteck.ru июнь – июль 2026 Олег Босенко Советник по информационной безопасности АПКИТ Вызовы искусственного интеллекта: новые средства защиты информации Стремительное внедрение технологий искусственного интеллекта (ИИ) меняет ланд- шафт не только экономики и производства, но и всей сферы информационной без- опасности. Привычные системы защиты, построенные для классических ИТ-инфра- структур, все чаще демонстрируют свою недостаточность перед лицом новых угроз, порожденных языковыми моделями, генеративными алгоритмами и растущей авто- номией ИИ-решений. "Галлюцинации", умышленные промт-инъекции, скрытые закладки в моделях, а в перспективе риск игнорирования воли человека – все это требует пересмотра принципов защиты. Автор статьи предлагает системный взгляд на новые классы средств защиты информации, необходимые на каждой стадии раз- вития ИИ. Без опережающего создания таких средств полноценная безопасность даже "дружественного" искусственного интеллекта останется недостижимой. Сгенерировано ИИ для ООО “ГРОТЕК”