Журнал "Системы Безопасности" № 5‘2026
Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 138 Ц ель данной статьи не противодействие внедрению искусственного интеллекта или, если быть точнее, лингвистических моделей, а напротив, оказание помощи организациям и специалистам в понимании рисков внедрения решений на основе искусственного интеллекта и, следовательно, повышения эффективности и качества этих решений. Материал подготов- лен и систематизирован на основе открытых публикаций в средствах массовой информации. Феномен влияния задачи реализации ИИ на команды разработки и проектные команды Каждая новая сущность, или технология, в ИТ привносит изменения во все аспекты разработ- ки и проектов, и искусственный интеллект (ИИ) не стал исключением. Идет перестройка про- цессов, меняется цепочка анализа и подготов- ки, пересматриваются подходы к тестированию. Разработка лингвистических моделей более сложный процесс, чем разработка программных продуктов в обычном понимании. Задача, кото- рую решает разработчик, более объемная и лежит в иной логике, чем обычное программи- рование. Лингвистические модели требуют сво- боды выбора аналитических алгоритмов на уров- не самой модели, а не внешнего пользователя. Может даже показаться, что это обучение модели думать, но это, слава богу, еще не так. Вот эта сложность зачастую заставляет команды разра- ботки идти по пути упрощения, не погружаясь в глубину решения задачи. На этом пути и таятся те подводные камни искусственного интеллекта, которые являются сейчас скрытыми от заказчика рисками его разработки и внедрения. Невидимые риски разработки лингвистических моделей Когда идет речь о разработке и внедрении лин- гвистических моделей, как и любых других решений с искусственным интеллектом, за скобками остается один, но очень важный момент. Разработку ИИ ведут команды, уком- плектованные людьми. Создатель в данном слу- чае человек. Именно он формирует задание на разработку, продумывает необходимую алго- ритмизацию. Качество работы на этом этапе по существу определяет качество всего решения. И в этом заключается первый скрытый риск раз- работки лингвистических моделей. Многокомпонентные задачи, состоящие из множества взаимосвязанных действий, всегда были сложны в информационных технологиях. Для технологии искусственного интеллекта они еще больше усложнились. Внутренние механиз- мы – этические, защитные, аналитические тре- буют переосмысления подхода к формирова- нию программных продуктов. Характерная черта лингвистических моделей – их видимая самостоятельность для пользователя. И про- ектирование, и разработка лингвистических моделей – это процесс для технологических решений, которые будут более независимы в своем жизненном цикле. Это звучит несколько странно, но надо признать реальность. Нетривиальность такой задачи ставит перед программистами серьезные вызовы. И вот тут помощником со знаком минус становятся обще- доступные лингвистические модели, которые осуществляют разработку программного кода. Опыт показывает, что, несмотря на закончен- ность решений, такой разработке присущи шаб- лонность и отсутствие детального анализа каче- ства формируемого решения. И в этом заклю- чается второй скрытый риск разработки лингви- стических моделей. Размытость проектов внедрения решений ИИ как проблема цифровизации Что мы ожидаем от внедрения решений искус- ственного интеллекта? Казалось бы, ответ лежит на поверхности: облегчения и ускорения работы с информацией, формирования новых информационных сущностей и процессов, ранее недоступных в силу существующего в те времена уровня информационных технологий. Но какую новую сущность мы хотим получить? Что нам должен дать искусственный интел- лект? Не становится ли его внедрение самоце- лью? Вот здесь и присутствует развилка разви- тия цифровизации. Либо есть четкое понима- ние конкретного эффекта внедрения решений искусственного интеллекта, либо эффекты от его внедрения будут уточнены по результатам внедрения. Появляется также возможность переориентировать модель на более широкий спектр задач. Искушение создать то, чего рань- ше не было, – серьезный двигатель прогресса. Но эта дорога может быть и с негативным сце- нарием. И здесь таится третий скрытый риск, но уже не разработки, а внедрения решений искусственного интеллекта. Заключается он в невозможности, а зачастую в нежелании пред- видеть и прогнозировать результат внедрения как в положительном, так и в отрицательном смыслах. На поверхность, как правило, выносятся только плюсы внедрения. В рамках проектов внедре- ния оценка негативного эффекта не рассмат- ривается. Это легко объясняется: невозможно продать внедрение, если заказчик будет знать отрицательные стороны. А их надо знать, чтобы предотвратить возможный вред от внед- рения. Первый скрытый риск лингвистиче- ских моделей в том, что они создают- ся человеком, который может оши- биться либо не учесть все факторы. Второй скрытый риск лингвистиче- ских моделей: переход при разработ- ке к системному применению обще- доступных моделей ведет к шаблон- ности и исключению детального ана- лиза качества. Третий скрытый риск лингвистиче- ских моделей: применение заказчи- ком модели для несвойственных задач, несмотря на видимый возмож- ный эффект, может привести к серь- езному отрицательному результату. октябрь – ноябрь 2026 www.secuteck.ru Олег Босенко Независимый эксперт Подводные камни искусственного интеллекта Какие риски скрыты от заказчика при разработке и внедрении Внедрение искусственного интеллекта несет не только обещанную эффективность, но и скрытые угрозы, которые редко озвучиваются на этапе переговоров о закупке решения на основе ИИ. В этой статье мы разберем пять главных рисков разработки и внедрения лингвистических моделей, о которых должны знать те, кто планирует использовать эту технологию в своей организации. Сгенерировано ИИ для ООО "ГРОТЕК"
Made with FlippingBook
RkJQdWJsaXNoZXIy Mzk4NzYw