Журнал "Системы Безопасности" № 5‘2023

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 17 ствующие и разрабатываемые отраслевые нор- мативно-технические документы. Это может быть обеспечено за счет использования иерар- хической модели объектов стандартизации, в соответствии с которой предусматриваются следующие уровни иерархии (продемонстри- рована на рис. 1 на примере автотранспортной отрасли): I. Комплекс национальных стандартов ии в целом. II. Отрасль (отрасль экономики, область соци- альной сферы, вид вооружения, военной и спе- циальной техники). III. Типовые объекты автоматизации (ТОа) – сложные технические (организационно-техни- ческие) системы, отличающиеся высокой авто- номностью и предназначенные для решения комплексных отраслевых задач автоматизации. в состав ТОа помимо автоматизированных средств обработки данных могут входить также другие компоненты (например, электромехани- ческие) и обслуживающий персонал. IV. Функциональные подсистемы (ФП) с ии – автоматизированные системы в составе ТОа, обеспечивающие решение функционально целостных групп задач с использованием тех- нологий ии. Под Сии могут пониматься ТОа или ФП – в зависимости от их масштаба, уров- ня автономности и других особенностей реали- зации. V. Частные интеллектуальные алгоритмы в составе ФП – алгоритмы машинного обуче- ния, обеспечивающие решение конкретных задач распознавания образов, категорирова- ния, восстановления зависимостей и других необходимых задач интеллектуальной обра- ботки данных. Частные алгоритмы МО не под- лежат дальнейшей декомпозиции и представ- ляют собой самостоятельные объекты оценки соответствия требованиям. При этом в состав функциональных подсистем помимо алгорит- мов МО могут входить также другие алгорит- мы обработки данных, в которых методы ии не используются. При формировании структуры комплекса национальных стандартов особое внимание уделяется агрегированию документов и по воз- можности максимальному повышению их уров- ня (наиболее высокий уровень – I), что обес- печивает сокращение общего числа документов в комплексе стандартов с сохранением требуе- мого уровня результативности нормативно-тех- нического регулирования. Распределение стандартов различного назначе- ния по иерархическим уровням, выполненное с учетом этого требования, представлено в табл. 2. в частности, стандарты, описывающие функциональные характеристики, существен- ные факторы эксплуатации (СФЭ, показатели внешней среды, описывающие вариативность сценариев применения алгоритмов ии) и демонстрационные нД для отдельных алго- ритмов целесообразно объединять в сборники по отраслевому принципу, что позволяет избе- жать избыточного числа стандартов, в значи- тельной мере дублирующих друг друга. в предложенной иерархической модели пред- полагается, что характеристики каждого объ- екта на трех нижних иерархических уровнях (ТОа, ФП и алгоритм МО) могут быть подтвер- ждены независимо, что позволяет: l проводить тестирование отдельных алгорит- мов МО, используя в дальнейшем получен- ные результаты при проведении комплексных испытаний Сии; l существенно сократить размерность про- странства возможных значений СФЭ при про- ведении тестирования алгоритмов МО и тем самым сократить продолжительность и стои- мость проведения испытаний. Разработка комплекса национальных стандар- тов в области ии осуществляется в соответствии с Перспективной программой стандартизации по приоритетному высокотехнологичному направлению "искусственный интеллект" на 2021–2024 годы [6]. Первый вариант Програм- мы был утвержден Минэкономразвития России и Росстандартом в конце 2020 г., в настоящее время осуществляется ее актуализация, в том числе с учетом обновления национальной стра- тегии в области искусственного интеллекта. Ожидается, что разработка и ввод в действие стандартов ии будет в значительной мере спо- собствовать преодолению нормативно-техниче- ских барьеров, связанных с высокими рисками создания и применения интеллектуальных систем и препятствующих динамичному разви- тию отрасли искусственного интеллекта. Заключение Таким образом, анализ рисков создания и при- менения систем ии должен осуществляться с учетом интересов и приоритетов различных заинтересованных сторон, с учетом особенно- стей создания и применения интеллектуальных систем. наименее изученным является вопрос подтверждения функциональной корректности Сии. Обеспечение требуемого уровня функ- циональной корректности предполагает разра- ботку специального комплекса стандартов, фиксирующих требования к системам ии. При этом должны учитываться требования как непо- средственно к системам, так и к процессам их жизненного цикла. Формирование комплекса стандартов ии, не дублирующих и не вступаю- щих в противоречие с общими стандартами в области информационных технологий и отраслевыми стандартами, достигается за счет функциональной декомпозиции Сии на основе предложенной иерархической модели с после- дующим закреплением требований по тестиро- ванию отдельных функциональных компонен- тов систем. Список литературы 1. ISO/IEC TR 24028:2020. Overview of tru- stworthiness in artificial intelligence. 2. гОСТ Р 59276–2020 Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения. М.: Стандартинформ, 2020. 3. Постановление Правительства Российской Федерации от 16 ноября 2015 г. № 1236 "Об установлении запрета на допуск программ- ного обеспечения, происходящего из иностран- ных государств, для целей осуществления заку- пок для обеспечения государственных и муни- ципальных нужд". 4. Постановление Правительства Российской Федерации от 10 июля 2019 г. № 878 "О мерах стимулирования производства радиоэлектрон- ной продукции на территории Российской Федерации при осуществлении закупок това- ров, работ, услуг для обеспечения государствен- ных и муниципальных нужд, о внесении изме- нений в постановление Правительства Россий- ской Федерации от 16 сентября 2016 г. № 925 и признании утратившими силу некоторых актов Правительства Российской Федерации". 5. гарбук С.в., шалаев а.П. Перспективная структура национальных стандартов в области искусственного интеллекта // Стандарты и качество. 2021. № 10. С. 26–33. 6. Перспективная программа стандартизации по приоритетному высокотехнологичному направ- лению "искусственный интеллект" на 2021– 2024 годы. утверждена 20 декабря 2020 г. интернет-ресурс www.tc164.ru. Дата обраще- ния: 20.09.2023. n www.secuteck.ru октябрь – ноябрь 2023 СПЕЦПРОЕКТ РЕшЕния на ОСнОвЕ иСКуССТвЕннОгО инТЕллЕКТа Рис. 1. Иерархическая организация объектов стандартизации на примере автомобильного транспорта: автотранспортная отрасль (уровень II), типовые объекты автоматизации (уровень III), функциональные подсистемы ТОА (уровень IV), прикладные алгоритмы ИИ (уровень V). Ваше мнение и вопросы по статье направляйте на ss @groteck.ru