По любым вопросам: admjuridcons@gmail.com

Все статьи > Deepfake и системы искусственного интеллекта в парадигме развития цифрового права (Левушкин А.Н., Тюлин А.В.)

Deepfake и системы искусственного интеллекта в парадигме развития цифрового права (Левушкин А.Н., Тюлин А.В.)

Дата размещения статьи: 30.12.2021

Deepfake и системы искусственного интеллекта в парадигме развития цифрового права (Левушкин А.Н., Тюлин А.В.)

Глобализация цифровых систем современного общества неминуемо влияет на экономическую и правовую системы. Развитие высоких технологий и систем искусственного интеллекта неминуемо отражается на развитии общества в целом. Необходимо отметить, что технологии искусственного интеллекта синергетически взаимосвязаны с интеллектуальной собственностью. Следует полностью согласиться с актуальным для наших дней высказыванием, что "важно помнить о необходимости защиты персональных данных, особенно биометрических, обеспечении их информационной безопасности в процессе использования искусственного интеллекта" <1>. "Защита интеллектуальных прав на международном и региональном уровнях тесно связана с мировым технологическим и культурным развитием в целом, созданием, распространением и использованием существующих и новых проприетарных технологий" <2>.
--------------------------------
<1> Егорова М.А., Барабашев А.Г., Минбалеев А.В. Роль искусственного интеллекта в условиях пандемии // Юридический мир. 2020. N 5. С. 29.
<2> Левушкин А.Н., Бирюкова Е.Г. Интеллектуальная собственность в медицине и фармации: особенности применения и защиты // Гражданское право. 2018. N 3. С. 17.

Правовая регламентация технологий искусственного интеллекта в Российской Федерации с учетом влияния передовой мировой практики является предметом научного изучения. Отдельные авторы, подробно анализирующие вышеуказанное научное направление, оправданно указывают на значительное влияние европейской практики в отношении становления и развития законодательства об искусственном интеллекте в России <3>. В коллективной монографии "Правовое регулирование искусственного интеллекта в условиях пандемии и инфодемии" определены наиболее актуальные вопросы правового регулирования искусственного интеллекта в условиях пандемии и инфодемии, рассмотрены роль, значение и особенности правового регулирования искусственного интеллекта, изучены перспективы использования технологий искусственного интеллекта <4>.
--------------------------------
<3> См.: Дюфло А., Егорова М.А., Минбалеев А.В., Пономарева Д.В. Тенденции правового регулирования искусственного интеллекта в Российской Федерации и во Французской Республике // Вестник Университета имени О.Е. Кутафина (МГЮА). 2020. N 9 (73). С. 223 - 229.
<4> См.: Правовое регулирование искусственного интеллекта в условиях пандемии и инфодемии: кол. монография / под общ. ред. В.В. Блажеева, М.А. Егоровой / Московский государственный юридический университет имени О.Е. Кутафина (МГЮА). М.: Проспект, 2020. 240 с.

В научной литературе ученые дают обзор основных нормативных правовых актов в сфере правового регулирования искусственного интеллекта в Российской Федерации, принятых за последние годы <5>. Отметим, что развитие систем искусственного интеллекта в России в наши дни регулируется целым рядом нормативных актов, таких как: Федеральный закон "О стратегическом планировании в Российской Федерации", Указ Президента РФ "О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года", Указ Президента РФ "О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы", Указ Президента РФ "О Стратегии научно-технологического развития Российской Федерации", и многими иными, из тех, что определяют направления применения информационных технологий в Российской Федерации, а вместе с тем и развитие ее правовой системы <6>. Таким образом, в последнее время системы искусственного интеллекта получают все большее развитие в обществе, что лишь усиливает внимание научного сообщества к этой теме.
--------------------------------
<5> См.: Егорова М.А., Дюфло А., Минбалеев А.В., Пономарева Д.В. Правовое регулирование технологий искусственного интеллекта: опыт России и Франции // Евразийская адвокатура. 2020. N 4 (47). С. 79 - 82.
<6> Указ Президента РФ от 10 октября 2019 г. N 490 "О развитии искусственного интеллекта в Российской Федерации" // СЗ РФ. 2019. N 41. Ст. 5700.

"Коронавирус внезапно нанес удар по всем странам, прежде всего по их населению. Серьезные изменения затронули все сферы экономики" <7>. Переход к цифровой экономике с неизбежностью предполагает ускорение, установление точности, мобильности, а за счет этого и эффективности реализации всех производственных процессов, предоставления различных услуг, достижение ими высоких уровней сложности и конкурентоспособности <8>.
--------------------------------
<7> Егорова М.А., Дюфло А., Шпаковский Ю.Г. Современные проблемы правового регулирования смягчения угроз для населения и бизнеса последствий пандемии коронавируса COVID-19 // Юрист. 2020. N 11. С. 70.
<8> См.: Левушкин А.Н. Правовое регулирование коллекторской деятельности как бизнес-процесса в эпоху цифровых отношений // Имущественные отношения в Российской Федерации. 2020. N 4 (223). С. 82.

Национальная стратегия России по развитию искусственного интеллекта на период до 2030 года определяет искусственный интеллект как комплекс технологических решений, которые позволяют имитировать когнитивные функции человека, в том числе включая и поиск решений без заранее определенного алгоритма и самообучение. В доктрине обоснованно отмечается, что "стремительное развитие цифровой экономики приносит с собой не только новые возможности, но и новые риски. Отсутствие виртуальных границ... сложность в идентификации лиц, заключающих такие сделки, создают угрозу национальной безопасности" <9>. В наши дни все чаще и чаще можно видеть противопоставление систем искусственного интеллекта и интеллекта человека, с этим сталкивается уже практически любой обыватель, начиная от шахматной партии с "компьютером" у себя в смартфоне, заканчивая проездом автомобиля в потоке машин по автостраде, при том что все перестроения или увеличения скорости фиксируются "искусственным разумом".
--------------------------------
<9> Егорова М.А., Белицкая А.В. Публичное регулирование криптовалютных отношений в контексте риска национальной безопасности // Юрист. 2021. N 1. С. 2.

Синергия развития систем искусственного интеллекта

Сегодня цифровое право и цифровые технологии очень интенсивно развиваются, реализуя синергетический подход. Перед всем международным сообществом стоит проблема формирования цифрового права, правовой регламентации условий использования систем искусственного интеллекта, особенностей их разработки, функционирования и направлений применения, интеграции в другие системы общества, а также контроля применения систем искусственного разума. "На новом витке развития цифровизации главным вызовом можно назвать экспоненциальный рост количества, качества, разнообразия связей между гражданами, организациями, институтами развития и правового обеспечения, государственными органами власти" <10>.
--------------------------------
<10> Егорова М.А., Кинев А.Ю., Кожевина О.В. Правовая защита конкуренции в условиях формирующихся цифровых рынков // Lex Russica (Русский закон). 2021. N 2. С. 40.

С правовой точки зрения вполне оправданно при исследовании ключевых моментов технологии искусственного интеллекта основной упор следует сделать на трех составляющих: 1) правосубъектности роботизированных систем; 2) возможной роботизации юридических процессов; 3) интеллектуально-правовых аспектах применения технологии искусственного интеллекта в современных условиях. Все вышеназванное делает весьма актуальным обсуждение темы развития цифрового права, изменения законодательства, в связи с постоянно развивающимися системами искусственного интеллекта, которые, безусловно, влияют на многие сферы современного общества, и в дальнейшем значение подобных систем в жизни общества будет только расти.
Приведем примеры, хорошо иллюстрирующие необходимость изменения правовой системы с учетом формирования цифрового права и в связи с интеграцией систем искусственного интеллекта в жизнь человека и правовую систему. Так, в 2018 г. автономный автомобиль Uber убил пешехода в США. В результате чего возникла дилемма о том, кто виноват: автомобиль или водитель, разумеется, норм права, регламентирующих подобные случаи, в настоящий момент не существует. Дискуссия по этому вопросу в правовой среде все еще идет.
Казусов с использованием систем искусственного интеллекта все больше и больше, и все это является отличным примером того, что правовая система России нуждается в изменениях с целью решения проблем, возникающих в результате технического прогресса и формирования, развития цифрового права. Можно говорить и о возможности использования искусственного интеллекта в обязательственных отношениях. Определяя место нового обязательства в законе, следует учитывать нормообразующие признаки, на которых построена существующая система договоров. Необходимо анализировать, имеются ли такие признаки в новом правоотношении. Это позволяет надлежаще соподчинить новый договорный институт имеющимся унифицированным нормам <11>. "Существуют сложности при квалификации ряда имущественных и организационных договоров, определении их правовой природы" <12>.
--------------------------------
<11> См.: Левушкин А.Н., Федечко Ф.И. Правовая сущность непоименованного договора и реализация его в рамках принципа свободы договора // Юридический мир. 2014. N 4. С. 27 - 30.
<12> Левушкин А.Н. Специальные договорные конструкции: рамочный, опционный и абонентский договоры // Актуальные проблемы российского права. 2018. N 2. С. 19.

15 июля 2017 г. основатель компании Tesla - Илон Маск небезосновательно заявил, что искусственный интеллект является самой серьезной угрозой, с которой сталкивалась человеческая цивилизация.

Искусственный интеллект и технология deepfake

Представляется, что весьма пристального внимания заслуживает технология искусственного интеллекта deepfake. В 2020 г. агентство Cybersecurity Ventures составило список 15 киберпреступлений и тенденций их развития, которые будут представлять угрозу в ближайший период времени, большая доля таких угроз связана именно с искусственным интеллектом, и в том числе deepfake.
По своей сути deepfake (от англ. deep learning - "глубокое обучение" и fake - "фальшивый") - реалистичная манипуляция аудио- и видеоматериалами с помощью искусственного интеллекта. Эта технология заставляет человека говорить то, чего он не произносил, и делать то, чего он никогда не совершал. Исходя из содержания deepfake является технологией компьютерного синтеза изображения, основывающаяся на искусственном интеллекте, где объединяется несколько изображений с человеком, запечатленным в разных ракурсах и с разными выражениями лица, и делает из них видеофрагмент. При этом при анализе фотографий человека специальный алгоритм технологии deepfake обучается тому, как выглядит человек и как он может двигаться.
Deepfake способен вполне достоверно изображать человека, совершающего действия, которые он на самом деле никогда не совершал, или говорить какие-то фразы, которые данным человеком никогда не произносились. Данная технология способна определить, как будет выглядеть человеческое лицо с разных сторон, ракурсов и при разных мимических выражениях, а посредством самообучения deepfake делает это с каждым разом все более и более качественно. Самообучение происходит благодаря генеративно-состязательной нейросети, которую мы уже упоминали, где первая нейросеть создает изображение выражения лица человека, вторая нейросеть сообщает первой, если выражения выглядят фальшивыми, и отклоняет неточные изображения, вызывая новые попытки, и цикл продолжается бесконечно, постепенно улучшая воссоздание человека.
Имиджевые составляющие отдельных людей также оказываются под угрозой воздействия технологии deepfake. Так, в частности, в 2018 г. на популярном новостном сайте Reddit появилась ссылка на порнографическое видео, на котором популярная голливудская актриса Галь Гадот вступает в интимную связь со своим сводным братом. Видео казалось очень правдоподобным, но при проверке оказалось очень качественной подделкой. Автор, выложивший данное видео, моментально набравшее сотни тысяч просмотров, скрывался под ником Deepfakes. Впоследствии автор данного ролика весьма откровенно рассказал о себе и поведал о том, что он обычный программист, использовавший идеи и алгоритмы компании NVIDIA при создании указанного ролика, и создавал он видео с целью воплощения своих эротических фантазий. Программист-эротоман для создания своего ролика воспользовался одним из видеофильмов пикантного жанра, в котором на тело одной из актрис, снимающейся в постельной сцене, наложил изображения голливудской актрисы Галь Гадот, позаимствованные из открытых источников. Ситуацию напоминает советский фильм 1989 г. "Сувенир для прокурора", в котором лица, представляющие организованную преступность, подсунули принципиальному и честному прокурору, борющемуся с преступностью на протяжении всего фильма, фотографии, на которых его супруга, будучи голой, находилась в объятиях незнакомого мужчины. По сюжету прокурор не поверил предоставленным ему фотографиям и посчитал их подделкой, но в настоящее время технологии deepfake выглядят все более и более достоверно. Что в скором времени может сделать затруднительным использование видео как доказательства в суде. Масштабы поддельных видео со знаменитостями настолько приобрели распространение, что в порноиндустрии появился целый жанр, носящий название deepfakes. Представляется, что на государственном уровне при этом следует разрабатывать программы по выявлению продуктов, созданных по технологии deepfake, с обязательной сертификацией подобного программного обеспечения и применения данных программ в государственных и корпоративных структурах.
"Использование технологии иногда ставит различные собственные проблемы и вызывает дискуссии о конфиденциальности и общественных интересах, но в борьбе с эпидемией коронавирусной болезни любому государству важно не просто использовать технологии ИИ, но и оперативно регулировать эти процессы в целях обеспечения и защиты. государственных и общественных интересов" <13>. Допустимо и вполне обоснованно в этой связи видится позиция авторов по созданию при каком-либо государственном ведомстве структуры, целенаправленно занимающейся распознаванием фейковых новостей, фейковых аудио и видео. При этом вполне логично создать на основе такой структуры общедоступный интернет-сервис, на базе которого пользователи смогут, загрузив, например, видеофрагмент, с определенной точностью определить его достоверность.
--------------------------------
<13> Егорова М.А., Барабашев А.Г., Минбалеев А.В. Роль искусственного интеллекта в условиях пандемии // Юридический мир. 2020. N 5. С. 29.

Следует поставить на государственный контроль распространение фейковых новостей, поддельных аудио- и видеофрагментов, ввести административно-правовую или как вариант - уголовную ответственность за распространение видео- и аудиоматериала с использованием технологии deepfake.
Предлагаемые меры юридической ответственности могут быть вполне оправданны с учетом того, что создание и распространение видео с применением технологии deepfake могут вполне реально нанести существенный вред гражданско-правовым, экономическим, корпоративным и иным отношениям, в целом политической системе государства и судебной практике, ведь с развитием подобных систем искусственного интеллекта могут быть поставлены под сомнения доказательства, используемые в ходе следствия и судебного разбирательства в виде аудио- и видеоматериалов.
Безусловно, развитие инструментов, способных распознать поддельный контент, пока находится в зародышевом состоянии, а это означает, что правовой системе нашего государства, цифровому праву, равно как и правовым системам других стран, предстоит еще целый ряд изменений, связанных с развитием подобных интеллектуальных систем. Но при этом весьма несправедливо утверждать, что проблеме противодействия технологии deepfake правительство уделяет недостаточно внимания, в данном случае мы становимся заложниками того, что сначала люди изобретают технологию, а потом лишь задумываются, как обезопасить себя от нее.

Литература

1. Дюфло А. Тенденции правового регулирования искусственного интеллекта в Российской Федерации и во Французской Республике / А. Дюфло, М.А. Егорова, А.В. Минбалеев, Д.В. Пономарева // Вестник Университета имени О.Е. Кутафина (МГЮА). 2020. N 9 (73). С. 223 - 229.
2. Егорова М.А. Правовая защита конкуренции в условиях формирующихся цифровых рынков / М.А. Егорова, А.Ю. Кинев, О.В. Кожевина // Lex Russica (Русский закон). 2021. N 2. С. 40 - 49.
3. Егорова М.А. Правовое регулирование технологий искусственного интеллекта: опыт России и Франции / М.А. Егорова, А. Дюфло, А.В. Минбалеев, Д.В. Пономарева // Евразийская адвокатура. 2020. N 4 (47). С. 79 - 82.
4. Егорова М.А. Публичное регулирование криптовалютных отношений в контексте риска национальной безопасности / М.А. Егорова, А.В. Белицкая // Юрист. 2021. N 1. С. 2 - 10.
5. Егорова М.А. Роль искусственного интеллекта в условиях пандемии / М.А. Егорова, А.Г. Барабашев, А.В. Минбалеев // Юридический мир. 2020. N 5. С. 29 - 34.
6. Егорова М.А. Современные проблемы правового регулирования смягчения угроз для населения и бизнеса последствий пандемии коронавируса COVID-19 / М.А. Егорова, А. Дюфло, Ю.Г. Шпаковский // Юрист. 2020. N 11. С. 69 - 74.
7. Левушкин А.Н. Интеллектуальная собственность в медицине и фармации: особенности применения и защиты / А.Н. Левушкин, Е.Г. Бирюкова // Гражданское право. 2018. N 3. С. 17 - 21.
8. Левушкин А.Н. Правовая сущность непоименованного договора и реализация его в рамках принципа свободы договора / А.Н. Левушкин, Ф.И. Федечко // Юридический мир. 2014. N 4. С. 27 - 30.
9. Левушкин А.Н. Специальные договорные конструкции: рамочный, опционный и абонентский договоры / А.Н. Левушкин // Актуальные проблемы российского права. 2018. N 2. С. 19 - 26.
10. Левушкин А.Н. Правовое регулирование коллекторской деятельности как бизнес-процесса в эпоху цифровых отношений / А.Н. Левушкин // Имущественные отношения в Российской Федерации. 2020. N 4 (223). С. 80 - 88.
11. Правовое регулирование искусственного интеллекта в условиях пандемии и инфодемии: монография / В.В. Блажеев, М.А. Егорова, А.Г. Барабашев [и др.]; под общей редакцией В.В. Блажеева, М.А. Егоровой. Москва: Проспект, 2020. 236 с.

10.01.2022

Внесенным в Госдуму Правительством законопроектом предлагается введение в КоАП РФ нового состава административного правонарушения по статье 14.6.1 "Непредставление предложения о цене на продукцию по государственному оборонному заказу и информации о затратах на ее производство".

подробнее
29.12.2021

Законопроект направлен на установление условий предоставления гражданства РФ лицам, которые проживают в России и способны стать полноценными членами российского общества. В частности, законопроектом предусмотрено сокращение числа требований более чем к 20 категориям лиц при приеме их в гражданство Российской Федерации и признании российскими гражданами. Также расширен перечень преступлений, совершение которых влечет за собой прекращение гражданства РФ.

подробнее
25.12.2021

Законопроектом предлагается запретить применение пиротехнических изделий на территориях населенных пунктов (за исключением специально отведенных мест), в зданиях, строениях и сооружениях, в лесах, на особо охраняемых природных территориях и иных, установленных законом, местах.

подробнее
21.12.2021

Закон направлен на реализацию положений Конституции о единой системе публичной власти, а также на совершенствование организации публичной власти в субъектах Российской Федерации. Новый закон, в частности, запрещает главам регионов именоваться президентами, при этом разрешая им избираться более чем на два срока подряд.

подробнее
17.12.2021

Законопроект предусматривает введение уголовной ответственности за нарушение ПДД лицом, ранее подвергнутым административному наказанию и лишенным права управления транспортными средствами.

подробнее
13.12.2021

Проект закона ориентирован на установление особенностей регулирования отношений, которые связаны с выбросами и поглощением парниковых газов на территории Сахалинской области. Законопроектом также предусмотрена возможность включения в данный эксперимент иных субъектов РФ, методом внесения изменений в этот закон.

подробнее

Информация. Знания. Результат
↑