Журнал "Системы Безопасности" № 4‘2026

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 124 моделей и централизованное управление. Ком- прометация облачной платформы может при- вести к масштабному воздействию сразу на множество объектов – автопарк, диспетчерскую систему, логистическую сеть или инфраструк- турные узлы, что актуально, как оказалось, для всех стран мира. Атаки на модели машинного обучения ИИ-системы уязвимы не только как программ- но-аппаратные комплексы, но и как статистиче- ские модели. Это создает специфический класс угроз, отсутствующий в традиционных инфор- мационных системах. К ним относятся состяза- тельные атаки (adversarial attacks), отравление данных (data poisoning), реализация инверсии модели (model inversion), реализация извлече- ния модели extraction attacks и атаки на обоб- щающую способность модели. Рассмотрим каж- дый случай в частности. Adversarial attacks Направлены на то, чтобы заставить модель ошибиться при минимальном изменении входных данных. Суть данного вида атаки в том, что злоумышленник создает входные данные с едва заметными для человека иска- жениями (на изображениях, в тексте, аудио), которые заставляют модель дать неверный прогноз. В транспортной отрасли это может выражаться в искажении дорожного знака, нанесении специального паттерна на поверх- ность объекта, подмене визуального признака или изменении структуры данных сенсора. Даже незначительное, но целенаправленное воздействие может привести к тому, что ИИ неправильно классифицирует объект или неверно оценит ситуацию. Data poisoning Представляет собой вмешательство в обучаю- щие данные. Если злоумышленник получает доступ к этапу сбора, разметки или накопления данных, он может внедрить ошибки, которые будут встроены в модель на системном уровне. В результате система будет устойчиво прини- мать неверные решения в определенных усло- виях. Model inversion и extraction attacks По сути являются работой с данными внутри модели. Злоумышленник анализирует выходы модели (метки, оценки уверенности, распреде- ления вероятностей), чтобы восстановить чув- ствительные данные из обучающей выборки и получить к ним доступ, или злоумышленник систематически запрашивает у развернутой модели пары "вход – выход" (через API), а затем на собранных данных обучает суррогат- ную модель, которая копирует функциональ- ность оригинала. Данные типы атак несут угрозу как безопасности, так и конфиденциальности. С их помощью можно частично восстановить сведения об обучающих данных, архитектуре модели или логике ее работы. Для транспорт- ной отрасли это особенно опасно, поскольку раскрытие параметров алгоритма и исходных данных для обучения облегчает разработку последующих атак. Риски распределенной транспортной среды Транспортная отрасль отличается высокой сте- пенью разнообразности объектов и понятий, в нее входящих. Транспортное средство, дорож- ная инфраструктура, центр управления, облач- ная платформа, сервисы аналитики и каналы связи функционируют как единая система. Это означает, что уязвимость одного компонента может распространиться на всю архитектуру. На практике это выражается в каскадных инци- дентах. Например, сбой в канале телеметрии приводит к потере актуальных данных, модель принимает неверное решение, исполнительный механизм реагирует ошибочно, а система мони- торинга не успевает идентифицировать пробле- му. Аналогично, компрометация дорожного контроллера может повлиять на работу несколь- ких транспортных объектов одновременно. Особую опасность представляют сценарии сме- шанных инцидентов, когда кибератака сочета- ется с техническим сбоем или эксплуатацион- ной ошибкой. В таких случаях выявление пер- вопричины становится крайне затруднитель- ным. Система может демонстрировать призна- ки программного отказа, хотя фактически источник проблемы находится в физическом или организационном слое. И прецедентов именно этих негативных сцена- риев и возникновения таких инцидентов в общемировой практике все больше. Человеческий фактор Несмотря на высокий уровень автоматизации, человеческий фактор остается важнейшим источником риска. Ошибки операторов, недо- статочная квалификация персонала, нарушение регламентов, неправильная настройка парамет- ров ИИ, несвоевременное обновление про- граммного обеспечения и пренебрежение про- цедурами проверки могут резко увеличить вероятность инцидента. Дополнительную проблему создает избыточное доверие к ИИ. Если персонал воспринимает решения модели как безусловно корректные, снижается готовность к критической оценке результата. Это особенно опасно в транспортной сфере, где требуется постоянный контроль откло- нений и наличие резервного управления. С точки зрения кибербезопасности человеческий фактор также включает фишинг, социальную инжене- рию, компрометацию учетных данных и несанк- ционированный доступ через служебные каналы. Следовательно, защита транспортного ИИ невозможна без системной подготовки персо- нала, регламентов реагирования на инциденты и формализации зон ответственности. А кадро- вый вопрос в части подготовки специалистов в области ИБ и кибербезопасности для Россий- ской Федерации один из наиболее острых; так, например, в транспортной отрасли на базе РУТ МИИТ готовят специалистов, необходимых для решения вопросов ИБ и кибербезопасности именно в отраслевом контексте. Требования к защите Обеспечение безопасности ИИ в транспортной отрасли должно базироваться на многоуровне- вом подходе. И это однозначный вывод, кото- рый можно сделать по результатам не только WAIC 2026, но и внутренних, отечественных, мероприятий, как то "Цифровая транспорта- ция" и V Международный транспортный сам- мит. По результатам экспертной повестки этих мероприятий можно с уверенностью утвер- ждать, что на уровне данных необходимы конт- роль источников, проверка целостности, жур- налирование, сегментация прав доступа и механизмы обнаружения аномалий. На уров- не моделей требуются тестирование на устой- чивость к атакующим воздействиям, регуляр- ная валидация, контроль дрейфа данных и мониторинг качества решений. На уровне сети должны применяться шифрование, аутен- тификация, изоляция сегментов, фильтрация трафика и защита от перегрузок. На уровне инфраструктуры необходимо обес- печивать безопасную конфигурацию оборудо- вания, регулярное обновление программных компонентов, контроль цепочки поставок и наличие резервных механизмов. В транспорт- ных системах особую значимость имеет прин- цип отказобезопасности: при нарушении нор- мального режима ИИ должен не усиливать риск, а переводить систему в предсказуемое и безопасное состояние. Для кибербезопасности также важен непрерыв- ный мониторинг. Транспортные ИИ-платформы должны анализировать не только сетевые собы- тия, но и поведенческие отклонения моделей, нестандартные паттерны запросов, изменения во входных данных и аномалии в реакции исполнительных механизмов. Вывод Использование искусственного интеллекта в транспортной отрасли существенно повышает эффективность управления, и это однозначный результат, полученный различными странами мира на очень широком спектре применения решений с ИИ. Но одновременно он создает качественно новые риски в области информа- ционной безопасности и кибербезопасности. Эти риски обусловлены сочетанием сложной архитектуры, распределенной инфраструктуры, зависимости от данных, уязвимости моделей машинного обучения и высокой критичности последствий ошибок. В транспортной сфере ИИ не может рассматри- ваться как изолированный программный ком- понент. Он является частью киберфизической системы, в которой цифровые инциденты немедленно приобретают физическое измере- ние. Поэтому безопасность должна обеспечи- ваться не на уровне отдельных мер, а на уровне всей архитектуры жизненного цикла, от про- ектирования и обучения моделей до эксплуата- ции, обновления и реагирования на инциденты. Комплексная защита транспортного ИИ требует сочетания технических, организационных и регуляторных механизмов. Только при усло- вии многоуровневого контроля, прозрачного управления рисками и постоянного мониторин- га можно минимизировать угрозы и обеспечить безопасное применение ИИ в современной транспортной среде. n август – сентябрь 2026 www.secuteck.ru Ваше мнение и вопросы по статье направляйте на ss @groteck.ru