Журнал "Системы Безопасности" № 5‘2026
Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 139 Качество обучения модели. Что скрыто от глаз? Что делает лингвистическую модель готовой к применению – это ее обучение. Это не обычная школа с уроками и домашними заданиями. Это наполнение данными, специально организо- ванное и превращенное в постоянный процесс. И тут проявляется четвертый скрытый риск внедрения искусственного интеллекта, который заключается в ошибочном или недостаточном формировании озера данных для обучения. Обучение строится исходя из целевой функции применения, и здесь крайне велика степень ответственности команды разработчиков, опре- деляющих количество и качество данных, необходимых для обучения модели, а также алгоритмы ее обучения уже в ходе практиче- ской эксплуатации. Как можно определить достаточность обучения? Таких метрик и мето- дик еще нет, как нет и страховочных механиз- мов, если обучение свернет не туда. Наглядный пример – обучение моделей поиску уязвимо- стей. И вот уже пошел гулять по рынку тренд взлома информационных ресурсов при леги- тимном, а не злонамеренном применении моделей. Алгоритмы, алгоритмы… Полет мысли или ограниченность сознания? В начале было слово. Слово, положенное на бумагу. Бумага после этого стала техническим заданием. Все мысли идеолога разработки, будь он методологом или архитектором, вошли в это задание, в том числе и пожелания к результату разработки. К результату должны привести созданные программистами алгорит- мы, блоки алгоритмов, цепочки алгоритмов. К огромному сожалению, мы не можем увидеть технические задания на разработку больших лингвистических моделей в открытом доступе. И в этом таится пятый скрытый риск внедрения искусственного интеллекта. Искусственный интеллект и развитие цифровизации Каждая сущность в этом мире представляет собой ровно то, что мы ждем от нее. Искус- ственный интеллект можно воспринимать и как хороший механизм работы с большими объемами данных, и как порождение машинного (программно-аппаратного) разу- ма, враждебного человечеству по определе- нию. На самом деле цифровизация человеческой жизни и деятельности – поступательный процесс во всех сферах, и этот процесс дви- жется по восходящей. У него есть ответвле- ния, даже тупики. Но сам процесс идет впе- ред. Эта же судьба ждет и искусственный интеллект. Когда мы понимаем все риски, в том числе и скрытые, при разработке и внедрении лингви- стических моделей и их программного окруже- ния, мы может гарантировать качество резуль- тата. Кто предупрежден – тот вооружен. n Четвертый скрытый риск лингвисти- ческих моделей: заказчик не может быть изначально уверен в качестве обучения модели. Пятый скрытый риск лингвистиче- ских моделей: заказчик/пользова- тель не знает весь функционал боль- ших лингвистических моделей. Ваше мнение и вопросы по статье направляйте на ss @groteck.ru СИСТЕМЫБЕЗОПАСНОСТИ Н Ь Ю С М Е Й К Е Р Ы А АРГУС-СПЕКТР, ООО 197342, г. Санкт-Петербург, ул. Сердобольская, 65, лит. А Тел.: +7 (812) 703-7500 E-mail: mail@argus-spectr.ru www.argus-spectr.ru См. ст. "23 этажа за 23 дня. Беспроводная безопасность модульных ЖК" на стр. 66–67 См. СПЕЦПРОЕКТ Защита социаль- ных учреждени й на стр. 20 АРМО-СИСТЕМЫ, ООО 125167, г. Москва, Ленинградский пр-т, 37А, к. 14, БЦ "АРКУС-II" Тел.: 8 (800) 700-3343, +7 (495) 787-3342 E-mail: armosystems@armo.ru http://armosystems.ru См. 2-ю обл. См. СПЕЦПРОЕКТ Контроллеры для крупных и особо крупных систем на стр. 33 Б БЕВАРД, КБ, ООО (BEWARD) 108820, г. Москва, п. завода Мосрентген, ул. Героя России Соломатина, 6, к. 12 Тел.: +7 (495) 505-6341 E-mail: moscow@beward.ru www.beward.ru См. клапан на 1-й обл. См. стр. 47 См. ст. "BEWARD. Коммутаторы нового поколения: STWP-01602 HP" на стр. 61 См. СПЕЦПРОЕКТ Безопасность и ИТ для ритейла, логистики и складов на стр. 125 БОЛИД, НВП, АО 141070, Московская обл., г. Королев, ул. Пионерская, 4 Тел.: +7 (495) 775-7155 E-mail: info@bolid.ru www.bolid.ru См. СПЕЦПРОЕКТ Защита социаль- ных учреждени й на стр. 17 См. СПЕЦПРОЕКТ Контроллеры для крупных и особо крупных систем на стр.37 См. СПЕЦПРОЕКТ Пожарная без- опасность дата-центр ов на стр. 77 См. СПЕЦПРОЕКТ Инженерная инфраструктура центров обработ- ки данны х на стр. 91 См. ст. "От настройки к анализу: новые отчеты в АРМ "Орион Про" на с тр. 102–103 См. СПЕЦПРОЕКТ Безопасность и ИТ для ритейла, логистики и складов на стр. 123 Д ДССЛ, ООО 105082, г. Москва, ул. Бакунинская, 71, этаж 5, оф. 1 Тел.: +7 (499) 877-5530 E-mail: info@dssl.ru www.dssl.ru См. ст. "ЖК Z-town в Воронеже: видеоаналитика на объекте и открытие шлагбаума из приложе- ния жильца " на стр. 6–7 См. ст. "Видеоаналитика в рознице: что закладывать в проект до мон- тажа" н а стр. 52–53 См. ст. "Полкам нашли инспектора" на с тр. 118–119 См. СПЕЦПРОЕКТ Безопасность и ИТ для ритейла, логистики и складов на стр. 123
Made with FlippingBook
RkJQdWJsaXNoZXIy Mzk4NzYw