Журнал "Системы Безопасности" № 2‘2025

"Представляется, что следует рассмотреть вопрос о законодательном регулировании ситуации с тем, что называется дипфейками. Способность искусственного интеллекта к соз- данию дипфейков, высококачественных подде- лок изображений, голоса и видео уже сегодня наносит большой ущерб обществу, затрудняет расследование преступлений, создает угрозу национальной безопасности, не говоря уже о серьезных репутационных потерях, которые несут пострадавшие люди", – сказал глава РПЦ. По его словам [5], следует уже сейчас подумать над созданием системы контроля над достовер- ностью того, что происходит в информацион- ном пространстве. Уровень создаваемого ИИ-контента настолько высок, что подделки не всегда могут различить даже судебные эксперты, в недалеком будущем такие подделки могут наводнить собой значи- тельную часть инфополя, отметил предстоятель РПЦ. Если это не предотвратить, то со временем уже станет невозможным отличить правду от вымысла, что даст злонамеренным людям мощ- ные инструменты для манипуляции обществен- ным мнением, считает он. По уровню своей опасности для людей ИИ, по мнению патриарха Кирилла, даже превосходит ядерную энергию, в особенности если его запрограммировать на нанесение "сознательно- го вреда человеческой нравственности, челове- ческому общежитию и другим ценностям, без которых человек потеряет способность оста- ваться человеком". "Правда должна быть надежно защищена", – убежден патриарх, при- звавший ставить "красные флажки" опасному развитию ИИ. Римский призыв по этике ИИ В католической церкви в 2020 г. [6] принят официальный документ Rome Call for AI Ethics (Римский призыв по этике ИИ), который подго- товила Папская академия жизни. В нем впервые обозначена позиция Святого престола по вопросам технологий искусственного интеллек- та. Этот документ был подписан папой римским Франциском, представителями ИТ-компаний (таких как Microsoft и IBM), поставили свои подписи и представители Европарламента. В этом документе говорится о моральном регу- лировании в области разработки ИИ. Документ в вопросе этики при создании и использовании систем ИИ опирается на ст. 1 и 2 Всеобщей декларации прав человека ООН о равенстве всех людей в своих правах и сво- бодах и отсутствии их дискриминации. В документе говорится о том, что алгоритмы систем ИИ должны соблюдать "алгоритм этики", который сводится к следующим пунктам: 1. Прозрачность. Системы ИИ должны быть объяснимыми. 2. Инклюзивность. Потребности всех людей должны быть приняты во внимание, чтобы каж- дый мог получить пользу и всем людям были бы предложены наилучшие условия для само- выражения и саморазвития. 3. Ответственность. Те, кто разрабатывает и внедряет использование ИИ, должны дей- ствовать с ответственностью и открыто. 4. Беспристрастность. Не создавайте ИИ и не деиствуите предвзято – так гарантируется соблюдение справедливости и уважение к человеческому достоинству. 5. Надежность. Системы ИИ должны быть в состоянии работать надежно. 6. Безопасность и конфиденциальность. Систе- мы ИИ должны работать безопасно и уважать частную жизнь пользователей. Таким образом, документ больше содержит призывы общечеловеческого характера в обла- сти этики, прав и образования, чем специфиче- ские христианские теологические посылы. Авто- ры заметки отмечают, что про дипфейки в нем не упоминается. Дипфейк и фантазия Случайное раскрытие перед аудиторией известным геймером и ютубером Atrioc содер- жимого своего браузера [7], в котором было что-то похожее на порнодипфейки с участием его коллег и друзей, привело к скандальной дискуссии о правомерности не только потреб- ления сгенерированных порноматериалов, но и о правомерности наличия у человека сексу- альных фантазий. Можно ли считать, что сексуальные фантазии являются морально нейтральными? Но в чем реально разница? И фантазия, и дипфейк являются виртуальными изображениями, соз- данными на основе предыдущих данных, только одно существует в голове, а другое – на экране. Этот вопрос вызывает вопрос: где провести границу между личной фантазией и тем, что мы признаем морально недопусти- мым? Дипфейки могут заставить нас задуматься даже глубже, вызвав вопросы о моральном статусе наших личных данных. С появлением Интернета мы формируем новое отношение к моральному статусу нашей личной информации. Большин- ство жителей сегодня считают, что каждый дол- жен полностью контролировать информацию, относящуюся к его личности. Но это, строго говоря, также включает данные, хранящиеся в головах других людей. Возможно, в конечном итоге мы можем прийти к выводу, что стоит контролировать воображение других людей, что является диким предложением. В целом этот инцидент является напоминанием о том, что с появлением новых технологий нам приходится сталкиваться с новыми этическими проблемами, которые требуют обсуждения и разумного подхода. Нейрокладбища Одним из новых направлений использования дипфейков стало предложение о создании "Нейрокладбища" с дипфейк-аватарами умер- ших людей [8]. Предполагается, что с психоло- гической точки зрения "Нейрокладбище" предо- ставляет возможность сохранять эмоциональ- ную связь с ушедшими близкими, что может значительно облегчить процесс скорби. Визу- альные ИИ-технологии, применяемые в про- екте, позволяют воспроизводить важные моменты из жизни усопших, их голоса и манеру общения, что помогает близким справляться с чувством утраты и продолжать ощущать их присутствие. Проект "Нейрокладбище" включает три техно- логии искусственного интеллекта: 1. Цифровой аватар (Deepfake) – создание реа- листичных визуальных образов усопших на основе фотографий и видео, что помогает сохранить их облик и передать эмоции. 2. Большие языковые модели (LLM) – симуля- ция мыслей и общения усопших, что позволяет их близким продолжать диалог и чувствовать связь, несмотря на физическую утрату. 3. Синтез речи – воспроизведение голоса усоп- шего для создания ощущения его присутствия и поддержки в трудные моменты. Дать комментарии по этической стороне данно- го мероприятия я не смог. Наверное, каждый должен решать сам, с кем он хочет поговорить. Законодательное  регулирование использования дипфейк-технологий Перед законодателем стоит задача разработать и внедрить комплекс мер, применение которых позволит минимизировать возможность нару- шения прав граждан дипфейк-технологиями [9]. Предлагается направить усилия государства на следующее: l создание автоматизированных инструментов для обнаружения дипфейков с возможностью определения даты, времени и физического происхождения их содержимого, а при нали- чии признаков потенциальной опасности – способных остановить размещение и распро- странение дипфейков; l развитие сервисов и инструментов фактче- кинга; l нормативное закрепление требований, в соответствии с которыми в социальных сетях и мессенджерах должна проводиться обязательная маркировка дипфейк-контента; l формирование нормативной базы, пред- усматривающей ответственность за создание и распространение дипфейк-материалов, способных нанести ущерб деловой репута- ции, унизить честь и достоинство человека. С позиции авторского права дипфейки предло- жено рассматривать через призму производного произведения, при котором использование исходного произведения без согласия его право- обладателя будет незаконно. Учитывая угрозы дипфейк-технологий для прав человека, должен быть предложен комплекс мер, применение кото- рых позволит минимизировать возможность нарушения прав граждан данными технологиями: l внедрение механизма фактчекинга, развитие его сервисов и инструментов; l обязательная маркировка дипфейк-контента в социальных сетях и мессенджерах; l создание нормативной базы, предусматри- вающей ответственность за создание и рас- пространение дипфейк-материалов, способ- ных нанести ущерб деловой репутации, уни- зить честь и достоинство человека. Практика борьбы с дипфейками В работе "Дипфейки: риски и возможности для бизнеса" [10] был проведен сбор и анализ дан- ных о рисках, связанных с использованием дип- фейков, а также о составе практик и навыков цифровой гигиены, снижающих риски от рас- пространения дипфейков. Было выделено три направления борьбы с дип- фейками: www.secuteck.ru апрель – май 2025 БИОМЕТРИЧЕСКИЕ СИСТЕМЫ  С И С Т Е М Ы К О Н Т Р О Л Я И У П Р А В Л Е Н И Я Д О С Т У П О М 77