Журнал "Системы Безопасности" № 1‘2025

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 119 а какие-то реально мощные решения по типу детекции опасных предметов в багаже исполь- зуют всего две-три компании. Представьте, что на стройке камень падает на человека без каски или что на борт самолета попадает человек с оружием. Потери несут и семьи, и предприятия. Это вопрос не только экономии, но и безопасности. Одной из идей, которая могла бы решить про- блему отсутствия обмена опытом, является соз- дание реестра решений. Это должна быть еди- ная платформа, где были бы как собраны успешно внедренные решения, так и описаны те, которые не прошли этап пилотирования или не показали экономической целесообразности. Государство могло бы стать ключевым звеном в создании такого реестра. Оно обладает ресур- сами и авторитетом, чтобы объединить усилия компаний, разработчиков и экспертов. Такой реестр позволил бы бизнесу избежать повторе- ния чужих ошибок, сэкономить время и ресур- сы, а также быстрее находить подходящие решения для своих задач. Почему это важно? Часто компании реализуют модели ИИ, проводят пилоты и только на прак- тике выясняют, будет ли решение экономически эффективным. Однако во многих случаях можно было бы заранее оценить целесообраз- ность внедрения с помощью более простых и дешевых методов, таких как ручной подсчет или анализ существующих данных. Например, если компания хочет внедрить систему автоматического контроля качества на производстве, сначала можно провести ручной аудит и оценить, насколько часто возникают дефекты и какие финансовые потери они при- носят. Если потери незначительны, то внедрение дорогостоящей системы ИИ может быть неоправданным. Реестр решений помог бы компаниям заранее оценивать такие сценарии, опираясь на опыт других. Это не только сэкономило бы ресурсы, но и ускорило бы внедрение ИИ там, где он действительно необходим. Сложность пятая: некорректные критерии оценки качества ИИ Одной из ключевых проблем при внедрении искусственного интеллекта является отсут- ствие четких и понятных критериев оценки качества продуктов на основе ИИ. Зачастую заказчики, особенно те, кто далек от техно- логий, плохо понимают, как выглядит про- цесс обучения ИИ и какие параметры можно использовать для оценки его эффективности. Это приводит к тому, что критерии приемки проекта становятся оторванными от реально- сти, а ожидания заказчика – завышенными или необоснованными. Например, заказчик может ожидать, что систе- ма будет работать с точностью 99%, но не учи- тывать, что для достижения такого результата требуется огромный объем качественных дан- ных и длительное обучение модели. В резуль- тате, когда система выдает точность 85%, заказчик считает это провалом, хотя такой пока- затель может быть вполне приемлемым. Например, заказчик хочет внедрить систему видеоаналитики для автоматического выявле- ния краж в магазине. Он ожидает, что система будет не только фиксировать факт кражи, но и однозначно классифицировать действия поку- пателя, например определять, положил ли человек товар в корзину или спрятал его во внутренний карман. Однако на практике такая задача оказывается крайне сложной. Если покупатель поворачива- ется спиной к камере, система не может одно- значно определить его действия. Для того чтобы видеоаналитика могла эффективно детектировать кражи, необходимо обеспечить полное покрытие магазина камерами, установ- ленными под разными углами. Но даже в этом случае система не всегда сможет гарантировать 100%-ную точность из-за ограничений в каче- стве данных и сложности сценариев. Заказчик ожидает, что система будет работать идеально, но не учитывает, что для достижения высокой точности требуется не только мощный алгоритм, но и тщательная подготовка данных, включая установку камер в правильных местах и настройку системы под конкретные условия магазина. В результате, когда система не может обеспечить ожидаемую точность, заказчик делает вывод, что проблема в вендоре, а не в изначально сформулированных требованиях к разработке и к оценке качества работы систе- мы. Чтобы избежать таких ситуаций, необходи- мо внедрить понятные критерии оценки каче- ства, которые будут понятны как заказчику, так и вендору. Вендоры, со своей стороны, должны объяснять заказчикам, как работает ИИ, какие этапы вклю- чает процесс его создания и какие факторы влияют на качество результата. Это поможет заказчику сформировать реалистичные ожида- ния. Роль государства в развитии ИИ Государство традиционно воспринимается как регулятор, который устанавливает правила игры для бизнеса и технологических компаний. Однако в контексте развития искусственного интеллекта его роль должна быть гораздо шире. Государство должно стать активным участником процесса, который не только регулирует, но и способствует внедрению ИИ в реальные биз- нес-процессы и социальные сферы, усиливая маркетинговые возможности. Одной из ключевых проблем является разрыв между законодательными инициативами и их практическим применением. Возьмем, к приме- ру, Федеральный закон № 572, который регу- лирует использование биометрических данных. С одной стороны, закон понятен: он защищает права граждан и устанавливает правила обра- ботки персональных данных. С другой стороны, его реализация на практике вызывает множе- ство вопросов. Например, вендоры, разрабатывающие систе- мы распознавания лиц, сталкиваются с трудно- стями при внедрении своих решений. Возьмем кейс с шоплифтерами (ворами в магазинах). Казалось бы, использование биометрических данных для их идентификации – это эффек- тивный способ борьбы с преступностью. Одна- ко на практике такие люди никогда не дадут согласие на обработку своих данных, что дела- ет применение закона невозможным в данном контексте. Это лишь один из множества примеров, когда законодательные инициативы, хотя и направ- ленные на благо, не учитывают реальных потребностей бизнеса и технологических ком- паний. Государство может сыграть ключевую роль в преодолении всех упомянутых сложностей. Во-первых, необходимо создать реестр успешных кейсов внедрения ИИ. Во-вторых, важно популяризировать успешные кейсы и делиться опытом неудачных внедрений. В-третьих, необходимо развивать профес- сиональные сообщества и конференции, посвященные ИИ. Заключение Развитие искусственного интеллекта – это слож- ный процесс, который требует совместных уси- лий бизнеса, разработчиков и государства. Осознание потребности в ИИ, целесообраз- ность его внедрения, обмен опытом и понятные критерии оценки – вот ключевые аспекты, кото- рые необходимо учитывать. Мы рассмотрели основные вызовы, с которы- ми сталкиваются компании, от непонимания, зачем вообще нужен ИИ, до завышенных ожиданий и отсутствия обмена успешным опытом. Например, в ритейле внедрение системы для отслеживания воровства может столкнуться с техническими ограничениями, такими как необходимость полного покрытия камерами, а в производстве – с экономиче- ской нецелесообразностью, когда затраты на внедрение ИИ значительно превышают воз- можную выгоду. Государство не должно ограничиваться ролью регулятора. Оно может и должно стать актив- ным участником процесса развития ИИ, помо- гая бизнесу и разработчикам преодолевать барьеры. Создание реестра успешных и неудачных кейсов, популяризация лучших практик и поддержка профессиональных сообществ – это те шаги, которые помогут ускорить внедрение ИИ в реальные бизнес- процессы. Кроме того, важно наладить диалог между всеми сторонами: бизнесом, разработчиками и регуляторами. Законы и нормативные акты должны не только защищать права граждан, но и учитывать реальные потребности отрас- ли. Например, строгие требования к обработ- ке биометрических данных могут ограничи- вать использование перспективных техноло- гий, таких как системы распознавания лиц, даже если они могут принести значительную пользу. Только в таком партнерстве можно достичь синергии, которая позволит искусственному интеллекту стать не просто инструментом, а драйвером экономического и социального прогресса. Искусственный интеллект – это не панацея, но при грамотном подходе он может решать сложные задачи, повышать безопасность, оптимизировать процессы и создавать новые возможности для бизнеса и общества. n www.secuteck.ru февраль – март 2025 Ваше мнение и вопросы по статье направляйте на ss @groteck.ru