Журнал "Системы Безопасности" № 3‘2026

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 122 Риски стадии AGI Для стадии генеративного искусственного интеллекта AGI на первый план выходят риски отклонения решений от заданного функциона- ла. При этом развитие безопасности дополни- тельно потребует формирования новых направ- лений как дополнения к уже существующим на стадии ANI (см. рис. 2). Средства контроля и удаления умышленно внедренных элементов Предназначение: выявление вредоносных эле- ментов в решениях ИИ, а также вредоносных промт-инъекций. Область применения: корпоративные решения ИИ. В том числе: l средства защиты от внедренных закладок пред- назначены для выявления и блокировки внед- ренных закладок в решения ИИ, в том числе в общедоступные языковые модели. Используются в корпоративных и персональных решениях ИИ; l средства защиты от ложной информации пред- назначены для выявления ложной и не соответ- ствующей ценностным требованиям информа- ции и источников информации с последующей блокировкой. Применяются в общедоступных и корпоративных решениях ИИ. Средства контроля выполнения алгоритма Предназначение: анализ правильности работы алгоритма ИИ. Область применения: корпоративные реше- ния ИИ. В том числе средства очистки кода от деструк- тива предназначены для дискретного анализа программного кода ИИ. Используются в языко- вых моделях. Средства контроля блокировок Предназначение: внешний контроль функциони- рования блокировок и правильности срабатывания. Область применения: языковые модели. В том числе средства контроля этических меха- низмов защиты предназначены для контроля настроенных этических механизмов защиты и защиты от их обхода. Применяются в общедо- ступных и корпоративных решениях ИИ. июнь – июль 2026 www.secuteck.ru Таблица 1. Характеристики видов искусственного интеллекта Таблица 2. Проблематика безопасности перспективных систем