Журнал "Системы Безопасности" № 4‘2020

Опыт сотрудничества с разработчиками Центр диагностики и телемедицины ДЗМ (директор Центра – д.м.н., профессор Морозов Сергей Павлович) ведет масштабную и много- гранную работу с разработчиками ИИ. В этой практике взаимодействия можно выде- лить несколько основных проблем. Стабильность работы команды Мы сталкивались с ситуациями, когда после- довательно тестировали одну и ту же разра- ботку и видели, как колеблется значение метрик диагностической точности. Это было связано с тем, что постоянно менялась команда разработчиков, между разработка- ми не было преемственности. Поэтому в кон- тексте клинических испытаний алгоритмов искусственного интеллекта для медицины рассматриваются не только технические испытания, но и система требований к прин- ципам управления качеством, по которым работает команда. Отсутствие целеполагания, необоснованная постановка задач Многие разработчики считают, что в медицине надо просто распознать какое-то изображение, мол вон сколько в ней визуализации – рентге- нограммы, томограммы и др. А зачем, напри- мер, распознавать рентгенограмму таза? В какой производственный процесс встраивает- ся алгоритм? Кто и почему будет платить за его работу? Эти вопросы, как правило, остаются без ответа. Разработка искусственного интеллекта для медицины начинается с обоснованного целепо- лагания. Она выстраивается по той же схеме, что и создание медикаментов в фармбизнесе (рис. 5), и включает в себя не только обязатель- ные клинические испытания, но и постмарке- тинговые наблюдения. ИИ – медицинское изделие Часто ведутся дискуссии о том, что искусствен- ный интеллект не нужно сертифицировать как медицинское изделие. Но при этом, если чело- век планирует лечить себя или члена семьи таб- летками, он хочет, чтобы таблетки были прове- рены в клинических испытаниях, а используе- мые во время операции инструменты были медицинскими изделиями, стерильными, про- веренными и качественными. А как только речь заходит об искусственном интеллекте, то поче- му-то он не является медицинским изделием и диагностическое решение, определяющее судьбу человека, воспринимается как некое приложение без всякой ответственности. Это совершенно порочная практика. Во всем мире наблюдается четкая практика сер- тификации искусственного интеллекта как медицинского изделия наравне с любыми дру- гими видами программного обеспечения. Московский эксперимент по применению компьютерного зрения в лучевой диагностике В 2020 г. в соответствии с постановлением Правительства Москвы Центр диагностики и телемедицины ДЗМ начал крупнейшее в мире научное исследование применимости и каче- ства искусственного интеллекта для здраво- охранения. В нем могут принять участие раз- работчики ИИ-решений для медицины, у кото- рых уже есть готовый продукт (алгоритм, сер- вис). Он должен уметь приоритизировать исследования, обозначать патологические уча- стки на изображениях и помогать врачу сфор- мировать шаблон описания, то есть контроли- ровать качество и повышать производитель- ность работы. В рамках эксперимента сервисы искусственного интеллекта подключаются к Единому радиоло- гическому информационному сервису (ЕРИС), который объединяет все государственные медицинские организации города Москвы. К ЕРИС подключены около 1,5 тыс. единиц цифровой диагностической аппаратуры, еже- годно в нем накапливаются миллионы исследо- ваний, в системе работают врачи и рентгенола- боранты. На рис. 6 показаны первые промежуточные результаты эксперимента. Он проводится по трем видам исследований: рентгенограмма грудной клетки, компьютерная томограмма грудной клетки и маммограмма. Имеются отдельные условия для алгоритмов по диагно- стике COVID-19. Это уникальная возможность для разработчи- ков апробировать алгоритмы в реальных кли- нических условиях, получить обратную связь не только от команды ученых, но и от практикую- щих врачей, выяснить объективные метрики качества и точности, оценить воспроизводи- мость работы алгоритмов, а на основе этих результатов – усовершенствовать свою разра- ботку. С научной точки зрения эксперимент представ- ляет собой модель клинических испытаний, разработанную коллективом Центра под руко- водством профессора Сергея Морозова 3 . На сайте https://mosmed.ai мо жно ознакомить- ся со специальной конкурсной программой и системой грантов. Эффективный ИИ в медицине За искусственным интеллектом в медицине большое будущее, хотя этот инструмент еще только формируется. Способен ли ИИ когда-нибудь заменить врача? Нет, этого никогда не будет, и не нужно даже грезить об этом. Но настоящий искусственный интеллект станет замечательным помощником для медицинского работника: поможет профи- лактировать ошибки и дефекты, автоматизиро- вать рутинные операции, ускорить оказание медицинской помощи. В результате это приве- дет к тому, что не ИИ заменит врача, а врач, использующий ИИ, заменит врача, который его не использует. n август – сентябрь 2020 www.secuteck.ru МАШИННОЕ ЗРЕНИЕ В И Д Е О Н А Б Л Ю Д Е Н И Е И В И Д Е О А Н А Л И Т И К А 116 3 Морозов С.П., Владзимирский А.В., Кляшторный В.Г., Андрейченко А.Е., Кульберг Н.С., Гомболевский В.А. Клинические испытания программного обеспечения на основе интеллектуальных технологий (лучевая диагностика). Препринт №ЦДТ-2019-1 / Серия "Лучшие практики лучевой и инструментальной диагностики". Вып. 23. М., 2019. 33 с. Ваше мнение и вопросы по статье направляйте на ss @groteck.ru Рис. 5. ИИ-сервис создается и функционирует аналогично процессам в фармбизнесе Рис. 6. Промежуточные результаты эксперимента по применению компьютерного зрения в лучевой диагностике (статус на 01.08.2020 г.)