Журнал "Системы Безопасности" № 4‘2024

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 117 www.secuteck.ru август – сентябрь 2024 нацбезопасности, но и регулированием этого применения. В регулировании искусственного интеллекта в США участвуют и различные отраслевые ведомства. Например, в компетен- ции Управления по контролю за продуктами питания и лекарствами входит регулирование использования ИИ в медицинской визуализа- ции. С июня 2023 г. в Нью-Йорке действует так называемый закон о предвзятости, запрещаю- щий компаниям, работающим и нанимающим сотрудников в Нью-Йорке, использовать авто- матизированные инструменты для найма кан- дидатов или продвижения сотрудников, если только эти инструменты не прошли независи- мую проверку на предмет предвзятости. Вдоба- вок в июле 2023 г. администрация президента США добилась от семи компаний (Open AI, Google, Amazon, Anthropic, Inflection, Meta и Microsoft) принятия добровольных обязательств по управлению рисками, связанными с ИИ. Компании выразили готовность обеспечить проведение внутреннего и внешнего тестирова- ния продуктов ИИ на безопасность до их пуб- личного выпуска. В сентябре эти же доброволь- ные обязательства подписали еще восемь ком- паний (Adobe, Cohere, IBM, Nvidia, Palantir, Sales- force, Scale AI и Stability AI). Но добровольные обязательства добровольными обязательства- ми, а конкретный и общий закон об ИИ в США вот-вот издадут. Ожидается, что до конца осени администрация Байдена издаст указ, который уполномочит федеральное правительство сформировать правила использования ИИ. Законы, регулирующие технологии, почти все- гда имеют две главные цели: определить спо- собы легитимного применения новшества и обезопасить общество от возможных негатив- ных эффектов. Так было с компьютерами, Интернетом, мобильными телефонами, ИИ в этом смысле не исключение. Возникновение ИИ-законов – это свидетельство развития тех- нологии до уровня, при котором она оказывает значимое влияние на жизни людей. Для про- тивников регулирования эти законы лишь спо- соб затормозить развитие технологий, но для всех остальных их появление – новость скорее хорошая. Ведь в итоге законодательство помо- жет людям избежать проблем, которые спосо- бен создать ИИ, и в полной мере воспользо- ваться его преимуществами. Однако нельзя не упомянуть и о рисках подобных технологий, даже с учетом их регуляции на нормативном уровне. Правовое регулирование ИИ Сейчас мы смотрим на алгоритмы ИИ как на посредников для достижения наших целей, например используем навигационное прило- жение "Яндекс. Навигатор", чтобы добраться до дома быстро в обход дорожных пробок, то в дальнейшем, возможно, такие алгоритмы превратятся в наших правителей. Если посмот- реть за кулисы приложения "Яндекс. Навига- тор", то мы увидим, что тысячи автомобили- стов ежеминутно передают данные о состоя- нии на дорогах. Именно поэтому приложение знает о том, как наиболее рационально проло- жить дорогу до дома, сохранив наше время. А что, если тысячи, нет, миллионы людей будут передавать информацию о себе, своих поли- тических предпочтениях, состоянии здоровья и тому подобном в какое-нибудь приложение типа "Управляющий РФ", и этот алгоритм, учи- тывая статистические данные, будет, допустим, направлять финансы на поддержу здравоохра- нения в одном регионе, на развитие образова- ния в другом? В этом случае человеческий вид окажется в прямой зависимости от действий ИИ. Это звучит как фантастика, но мы стоим к этому ближе, чем кажется. Компания Microsoft занимается разработкой и постепенным внед- рением приложения Cortana, которое может стать не просто помощником, но и полноцен- ным представителем человека, предположим, в ходе ведения переговоров. В этом направле- нии следуют и другие компании: Apple с Siri и Яндекс с "Алисой". Такое развитие технологий порождает множество вопросов. Может ли ИИ признаваться автором произведения науки или искусства? Будет ли ИИ равен в своих правах человеку? А если ИИ, управляющий автомоби- лем, совершит аварию, в результате чего пас- сажиры получат травму, возможно ли будет обратиться в суд и требовать возмещения вреда здоровью не с человека, а – вы только вдумайтесь– с ИИ?! И кто будет нести ответ- ственность: пассажир или ИИ? В обществе рас- пространено мнение, что ИИ не превзойти человека, если не во всех, то, по крайней мере, в одной уж области точно – искусстве, и, как ни печально, данное суждение является оши- бочным. Может ли робот создать шедевр? Если Deep Blue, который обыграл в шахматы Гарри Каспарова, был достаточно хорошо научен правилам игры своими создателями, то современный ИИ получает от программистов лишь минимальный объем информации, предпочитая самостоятельное машинное обучение. Эти программы изменяют команды и переменные, создавая все более качествен- ную цепочку кода для достижения поставлен- ной задачи. Так, программа Alpha Go научи- лась играть в старинную китайскую настольную игру "го", которая во много раз сложнее, чем шахматы, при этом программа применяла абсолютно новые стратегии, что сильно удиви- ло экспертов. Гораздо больше шокирует еще и то, что ИИ научился создавать уникальные произведения науки и искусства. Появление в 2016 г. программы The Next Rembrandt разру- шило представление людей о том, что ИИ не умеет творить. Данная программа проводит анализ картин Рембрандта и на основе полу- ченных данных создает собственные картины, которые невозможно отличить от кисти вели- кого мастера. Довольно интересная информа- ция по поводу работы программы приведена на сайте компании Microsoft: "Результатами 18 месяцев совместной работы специалистов Microsoft, Дельфтского технического универ- ситета, Королевской галереи Mauritshuis и дома-музея Рембрандта в Амстердаме стало создание уникальной в своем роде картины, портрета, с исключительной точностью воссоз- давшего творческую манеру Рембрандта". Имеется еще один прецедент, связанный с тво- рением, полученным от ИИ. Дэвид Коуп, аме- риканский композитор и преподаватель Кали- форнийского университета в Санта-Крузе, раз- работал программу Emily Howell, способную создавать музыку, имитирующую шедевры Баха, Бетховена, Шопена и других композито- ров. Следует отметить, что ряд экспериментов с участием профессиональных музыкантов позволяет утверждать, что созданную ИИ музыку не отличить от произведений великих классиков. Не отстает ИИ от человека и в обла- сти науки – программа Watson собирает дан- ные пациентов и на их основе создает персо- нализированный график лечения. В данном контексте непременно встает вопрос: кому принадлежит право авторства на указанные произведения науки и искусства? Закон об авторском праве Ответ на вопрос выше с точки зрения законо- дательства ряда государств одинаков. В соот- ветствии с законом об авторском праве Вели- кобритании автором считается лицо, исполь- зующее какой-либо инструмент для достиже- ния поставленной цели. Американское зако- нодательство базируется на том, что автором произведения науки или искусства является человек. Так, в довольно известном деле Feist Publications Верховный суд США указывает на то, что не может быть объектом авторского права произведение, в котором отсутствует минимальный творческий вклад сознания автора. Вопрос о наличии сознания у ИИ будет подробнее рассмотрен далее, но стоит сразу отметить, что сознанием ИИ не обладает, поэтому получается, что автором может быть только человек. Что касается Российской Федерации, то, анализируя п. 1 ст. 1228 Граж- данского кодекса Российской Федерации (далее – ГК РФ), допустимо сделать вывод, что автором произведения науки или искус- ства также может быть только физическое лицо. Исходя из буквального толкования ст. 1228 ГК РФ, приходим к выводу, что не признается автором произведения науки и искусства лицо, которое разработало про- грамму, создавшую это произведение, поскольку "не признаются авторами результата интеллектуальной деятельности граждане, не внесшие личного творческого вклада в созда- ние такого результата". По этому поводу при- ведем высказывание А.А. Семеновой (автор "Я, робот, – я, автор: попытка юридического осмысления возможности предоставления авторских прав роботам"): "С учетом этого целесообразно было бы признать авторство на работу "умной машины" за лицом, создавшим программу". Подходит к этой позиции и ст. 136 ГК РФ, где говорится, что право собствен- ности на плоды, продукцию, доходы принад- лежат собственнику вещи. Но здесь непремен- но стоит отметить, что в соответствии с п. 3 ст. 1227 ГК РФ к интеллектуальным правам не применяются положения о праве собственно- сти и других вещных правах. Таким образом, вопрос об авторстве находится как бы в "под- вешенном" состоянии. Тем не менее ответ на данный вопрос возможно найти в междуна- родном праве, а именно в ст. 12 Конвенции ООН "Об использовании электронных сообщений в международных договорах" (2005 г.). Суть данной нормы заключается в том, что операции, совершенные компьюте- ром, допускается рассматривать как действия