hisplusИзвестия Юго-Западного государственного университета. Серия: История и правоProceedings of Southwest State University. Series: History and Law2223-1501Юго-Западный государственный университет10.21869/2223-1501-2023-13-6-209-221hisplus-413Research ArticleУГОЛОВНО-ПРАВОВЫЕ НАУКИCRIMINAL LEGAL SCIENCEИскусственный интеллект в контексте уголовно-правовых рисковArtificial Intelligence in the Context of Criminal Law Riskshttps://orcid.org/0000-0001-9175-8877ЛопашенкоН. А.LopashenkoN. A.

Лопашенко Наталья Александровна, доктор юридических наук, профессор, профессор кафедры уголовного и уголовно-исполнительного права

ул. Чернышевского, д. 104, г. Саратов 410056

Natalia A. Lopashenko, Doctor of Sciences (Juridical), Professor, Professor of the Department of Criminal and Penal Law

104 Chernyshevskogo Str., Saratov 410056

lopashenko@yandex.ruhttps://orcid.org/0000-0003-0123-8769КобзеваЕ. В.KobzevaE. V.

Кобзева Елена Васильевна, кандидат юридических наук, доцент, доцент кафедры уголовного и уголовно-исполнительного права

ул. Чернышевского, д. 104, г. Саратов 410056

Elena V. Kobzeva, Candidate of Sciences (Juridical), Associate Professor of the Department of Criminal and Penal Law

104 Chernyshevskogo Str., Saratov 410056

evkobzeva@yandex.ruhttps://orcid.org/0009-0005-6127-6283РожавскийЗ. Д.RozhavskiyZ. D.

Рожавский Заур Денисович, кандидат юридических наук, генеральный директор

ул. Кирова, д. 1, г. Астрахань 414000

Zaur D. Rozhavskiy, Candidate of Sciences (Juridical), General Director 

1 Kirova Str., Astrakhan 414000

llc.lamel@ya.ruСаратовская государственная юридическая академияРоссияSaratov State Law AcademyRussian FederationООО «Ламэль Консалт»Россия"Lamel Consult" LLCRussian Federation202326012024136209221Copyright © Лопашенко Н.А., Кобзева Е.В., Рожавский З.Д., 20242024Лопашенко Н.А., Кобзева Е.В., Рожавский З.Д.Lopashenko N.A., Kobzeva E.V., Rozhavskiy Z.D.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://hisplus.elpub.ru/jour/article/view/413Актуальность

Актуальность. Растущая цифровизация общества влечёт появление новых, доселе не известных человечеству форм социально опасного поведения (социально опасной активности). Во многом подобные уголовно-правовые риски обусловлены задействованием в различных сферах человеческой жизнедеятельности феномена искусственного интеллекта. В процессе эксплуатации искусственного интеллекта возможно также оказание вредоносного воздействия на сам искусственный интеллект и (или) его носитель, которое с позиции действующего уголовного закона не всегда может получить однозначную квалификацию.

Целью исследования выступает выявление существующих в контексте искусственного интеллекта уголовно-правовых рисков и формулирование научно обоснованных выводов, касающихся перспектив развития отечественного уголовного права и законодательства.

Задачи

Задачи: обозначить ключевые уголовно-правовые риски, связанные с эксплуатацией искусственного интеллекта; проверить наличие у искусственного интеллекта свойств, необходимых для уголовной правосубъектности; определить возможные варианты уголовно-правовой оценки вреда, причиняемого в связи с эксплуатацией искусственного интеллекта; установить достаточность ресурсов уголовного права для охраны самого искусственного интеллекта от общественно опасного поведения.

Методология

Методология. Методологическую основу исследования составил всеобщий диалектический метод познания явлений и процессов окружающей действительности. В ходе разработки теоретических и прикладных положений работы также применялась совокупность общенаучных и частнонаучных исследовательских методов (формально-логические, прогностический, формально-юридический и др.).

Результаты

Результаты. Перспективы развития уголовного права и уголовного законодательства России в контексте проблемы искусственного интеллекта напрямую зависят от уровня научных и технологических достижений в деле его программирования и эксплуатации.

Вывод

Вывод. Современный потенциал искусственного интеллекта исключает постановку вопроса о его уголовной правосубъектности главным образом по причине отсутствия у него способности к психическому восприятию собственной социально опасной активности, что является обязательным условием уголовной ответственности. За причинение вреда охраняемым уголовным законом интересам в связи с эксплуатацией искусственного интеллекта должен нести ответственность разработчик соответствующей программы или оператор устройства – носителя искусственного интеллекта. 

Relevance

Relevance. The growing digitalization of society, leads to the emergence of new forms of socially dangerous behavior (socially dangerous activity). In many ways, such criminal and legal risks are caused by the involvement of the phenomenon of artificial intelligence in various spheres of human activity. During the operation of artificial intelligence, it is also possible to exert harmful effects on artificial intelligence itself and (or) its carrier, which, from the standpoint of the current criminal law, may not always receive an unambiguous qualification.

The purpose of the study is to identify criminal law risks existing in the context of artificial intelligence and formulate scientifically based conclusions regarding the prospects for the development of domestic criminal law and legislation.

Objectives

Objectives: to identify the key criminal law risks associated with the exploitation of artificial intelligence; to check whether artificial intelligence has the properties necessary for criminal personality; to identify possible options for criminal law assessment of harm caused by the exploitation of artificial intelligence; to establish the sufficiency of criminal law resources to protect artificial intelligence itself from socially dangerous behavior.

Methodology

Methodology. The methodological basis of the research was the universal dialectical method of cognition of phenomena and processes of the surrounding reality. During the development of theoretical and applied provisions of the work, a set of general scientific and private scientific research methods (formal logical, predictive, formal legal, etc.) was also used.

Results

Results. The prospects for the development of criminal law and criminal legislation of Russia in the context of the problem of artificial intelligence directly depend on the level of scientific and technological achievements in its programming and operation.

Conclusion

Conclusion. The modern potential of artificial intelligence precludes raising the question of its criminal legal personality mainly due to its lack of ability to mentally perceive its own socially dangerous activity, which is a prerequisite for criminal liability. The developer of the corresponding program or the operator of the artificial intelligence carrier device must be responsible for causing harm to interests protected by criminal law in connection with the exploitation of artificial intelligence. 

искусственный интеллектуголовно-правовые рискиуголовная правосубъектностьуголовная ответственностьartificial intelligencecriminal law riskscriminal legal personalitycriminal liabilityReferencesБлинов А. Г. Глобальные вызовы современности и их нейтрализация инструментариями уголовного права // Современные глобальные вызовы и их нейтрализация уголовно-правовыми, криминологическими и уголовно-процессуальными средствами: сборник трудов по материалам Всероссийской научно-практической конференции с международным участием в рамках III Саратовского юридического форума / под общ. ред. А. Г. Блинова, Е. В. Кобзевой, Н. С. Мановой. Саратов: Изд-во Сарат. гос. юрид. акад., 2023. С. 10–16.Blinov A. G. [Global challenges of modernity and their neutralization by criminal law tools]. Sovremennye globalnye vyzovy i ikh neitralizatsiya ugolovno-pravovymi, kriminologicheskimi i ugolovnoprotsessualnymi sredstvami. Sbornik trudov po materialam Vserossijskoj nauchno-prakticheskoj konferencii s mezhdunarodnym uchastiem v ramkah III Saratovskogo yuridicheskogo foruma [Modern global challenges and their neutralization by criminal law, criminological and criminal procedure tools. Collection of works on materials of the All-Russian scientific-practical conf. with international studies in the framework of the III Saratov Legal Forum]; ed. by A. G. Blinov, E. V. Kobzeva, N. S. Manova. Saratov, Saratov St. Law Acad. Publ., 2023, pp. 10–16. (In Russ.)Сидоренко Э. Л. Цифровизация и основные направления развития российского права // Развитие наук антикриминального цикла в свете глобальных вызовов обществу: сборник трудов по материалам Всероссийской заочной научно-практической конференции с международным участием / под общ. ред. А. Г. Блинова, Е. В. Кобзевой. Саратов: Изд-во Сарат. гос. юрид. акад., 2021. С. 327–341.Sidorenko E. L. [Digitalization and the main directions of development of Russian law]. Razvitie nauk antikriminalnogo tsikla v svete globalnykh vyzovov obshchestvu. Sbornik trudov po materialam vserossijskoj zaochnoj nauchno-prakticheskoj konferencii s mezhdunarodnym uchastiem [Development of anti-criminal cycle sciences in the light of global challenges to society. A collection of proceedings of the All-Russian extramural scientific and practical conference with international studies]; ed. by A. G. Blinov, E. V. Kobzeva. Saratov, Saratov St. Law Acad. Publ., 2021, pp. 327–341. (In Russ.)Кибальник А. Г., Волосюк П. В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Юридическая наука и практика: Вестник Нижегородской академии МВД России. 2018. № 4(44). С. 173–178.Kibalnik A. G., Volosiuk P. V. Iskusstvennyi intellekt: voprosy ugolovno-pravovoi doktriny, ozhidaiushchie otvetov [Artificial intelligence: criminal law doctrinal questions awaiting answers]. Yuridicheskaya nauka i praktika: Vestnik Nizhegorodskoj akademii MVD Rossii = Legal Science and Practice: Bulletin of the Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia, 2018, no. 4(44), pp. 173–178.Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford Univ. Press, 2014. 328 p.Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford, Oxford Univ. Press, 2014. 328 p.Карташов И. И., Карташов И. И. Искусственный интеллект: уголовно-правовой и процессуальный аспекты // Актуальные проблемы государства и права. 2021. Т. 5, № 17. С. 75–89.Kartashov I. I., Kartashov I. I. Iskusstvennyi intellekt: ugolovno-pravovoi i protsessualnyi aspekty [Artificial intelligence: criminal-legal and procedural aspects]. Aktualnye problemy gosudarstva i prava = Actual Problems of the State and Law, 2021, vol. 5, no. 17, pp. 75–89.Hallevy G. Unmanned vehicles – subordination to criminal law under the modern concept of criminal liability // Journal of Law, Information and Science. 2012. Vol. 21. P. 200-211.Hallevy G. Unmanned vehicles – subordination to criminal law under the modern concept of criminal liability. Journal of Law, Information and Science, 2012, vol. 21, pp. 200–211.Gottfredson L. S. Mainstream science on intelligence // Wall Street Journal. 1994. December 13, A18.Gottfredson L. S. Mainstream science on intelligence. Wall Street Journal, 1994, December 13, A18.Разгильдиев Б. Т. Искусственный интеллект и профилактика его общественной опасности // Вестник Саратовской государственной юридической академии. 2021. № 3. С. 154–163.Razgildiev B. T. Iskusstvennyi intellekt i profilaktika ego obshchestvennoi opasnosti [Artificial intelligence and prevention of its public danger]. Vestnik Saratovskoj gosudarstvennoj yuridicheskoj akademii= Bulletin of the Saratov State Academy of Law, 2021, no. 3, pp. 154–163.Лебедев М. В., Серебренникова А. В. Искусственный интеллект: проблемы регулирования в уголовном законодательстве Российской Федерации // Союз криминалистов и криминологов. 2021. № 2. С. 116–120.Lebedev M. V., Serebrennikova A. V. Iskusstvennyi intellekt: problemy regulirovaniya v ugolovnom zakonodatelstve Rossiiskoi Federatsii [Artificial intelligence: problems of regulation in the criminal legislation of the Russian Federation]. Soiuz kriminalistov i kriminologov = The Union of Criminalists and Criminologists, 2021, no. 2, pp. 116–120.Савенок А. Л. Искусственный интеллект как субъект уголовного права: теоретические и прикладные аспекты // Борьба с преступностью: теория и практика: тезисы докладов Х Международной научно-практической конференции. Могилев: Изд-во Могилев. ин-та МВД Респ. Беларусь, 2022. С. 107–109.Savenok A. L. [Artificial intelligence as a subject of criminal law: theoretical and applied aspects]. Borba s prestupnostiu: teoriia i praktika. Tezisy dokladov X Mezhdunarodnoj nauchnoprakticheskoj konferencii [Combating crime: theory and practice. Abstract of X International scientificpractical conference]. Mogilev, Mogilev Institute of the Ministry of Internal Affairs of the Republic of Belarus Publ., 2022, pp. 107–109. (In Russ.)Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 77–102.Laptev V. A. Ponyatie iskusstvennogo intellekta i yuridicheskaya otvetstvennost' za ego rabotu [The concept of artificial intelligence and legal responsibility for its work]. Pravo. Zhurnal Vysshej shkoly ekonomiki = Law. Journal of the Higher School of Economics, 2019, no. 2, pp. 77–102.Карташов И. И., Карташов И. И. Искусственный интеллект как субъект уголовной ответственности: настоящее и перспективы // Право: история и современность. 2021. № 2(15). С. 68–78.Kartashov I. I., Kartashov I. I. Iskusstvennyi intellekt kak sub"iekt ugolovnoi otvetstvennosti: nastoyashchee i perespektivy [Artificial intelligence as a subject of criminal responsibility: present and perspectives]. Pravo: istoriya i sovremennost' = Law: History and Modernity, 2021, no. 2(15), pp. 68–78.Pagallo U. Killers, Fridges, and Slaves: A legal journey in robotics // AI & Society. 2011. Vol. 26(4). P. 347–354.Pagallo U. Killers, fridges, and slaves: a legal journey in robotics. AI & Society, 2011, vol. 26(4), pp. 347–354.Agent reasoning for norm compliance: a semantic approach / M. B. Van Riemsdijk, L. A. Dennis, M. Fisher, K. V. Hindriks // Proceedings of the 12th international conference on Autonomous Agents and Multi-Agent Systems. Saint Paul, 2013. P. 499–506.Van Riemsdijk M. B., Dennis L. A., Fisher M., Hindriks K. V. Agent reasoning for norm compliance: A semantic approach. Proceedings of the 12th International conference on Autonomous Agents and Multi-Agent Systems. Saint Paul, 2013, pp. 499–506.Кобзева Е. В., Ситник В. Н. Перспективы установления уголовной ответственности юридических лиц в условиях развития сферы автономного транспорта // Вестник Саратовской государственной юридической академии. 2022. № 2. С. 184–193.Kobzeva E. V., Sitnik V. N. Perspektivy ustanovleniya ugolovnoi otvetstvennosti yuridicheskikh lits v usloviyakh razvitiya sfery avtonomnogo transporta [Prospects of establishing criminal liability of legal entities in the conditions of development of the sphere of autonomous transport]. Vestnik Saratovskoj gosudarstvennoj yuridicheskoj akademii = Bulletin of the Saratov State Academy of Law, 2022, no. 2, pp. 184–193.Хисамова З. И., Бегишев И. Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13, № 4. С. 564–574.Khisamova Z. I., Begishev I. R. Ugolovnaya otvetstvennost' i iskusstvennyi intellekt: teoreticheskie i prikladnye aspekty [Criminal Responsibility and Artificial Intelligence: Theoretical and Applied Aspects]. Vserossijskij kriminologicheskij zhurnal = All-Russian Criminological Journal, 2019, vol. 13, no. 4, pp. 564–574.Brenner S. W., Carrier B., Henninger J. The Trojan horse defense in cybercrime cases // Santa Clara High Technology Law Journal. 2004. Vol. 21, is. 1. P. 3–53.Brenner S. W., Carrier B., Henninger J. The Trojan horse defense in cybercrime cases. Santa Clara High Technology Law Journal, 2004, vol. 21, is. 1, pp. 3–53.Шестак В. А., Волеводз А. Г., Ализаде В. А. О возможности доктринального восприятия системой общего права искусственного интеллекта как субъекта преступления: на примере уголовного законодательства США // Всероссийский криминологический журнал. 2019. Т. 13, № 4. С. 547–554.Shestak V. A., Volevodz A. G., Alizade V. A. O vozmozhnosti doktrinal'nogo vospriyatiya sistemoi obshchego prava iskusstvennogo intellekta kak sub"iekta prestupleniya: na primere ugolovnogo zakonodatel'stva SShA [On the possibility of doctrinal perception of artificial intelligence as a subject of crime by the common law system: the example of us criminal legislation]. Vserossijskij kriminologicheskij zhurnal = All-Russian Criminological Journal, 2019, vol. 13, no. 4, pp. 547–554.Лопашенко Н. А. Новые реалии преступности в цифровом мире и в эпоху развития искусственного интеллекта и уголовно-правовая реакция на них: не стоит «прогибаться под изменчивый мир»? // Уголовный закон в эпоху искусственного интеллекта и цифровизации: сборник трудов по материалам Всероссийской научно-практической конференции с международным участием в рамках I Саратовского международного юридического форума, посвященного 90-летнему юбилею Саратовской государственной юридической академии / под общ. ред. А. Г. Блинова, Е. В. Кобзевой. Саратов: Изд-во Сарат. гос. юрид. акад., 2021. С. 15–31.Lopashenko N. A. [The new realities of crime in the digital world and in the age of artificial intelligence and the criminal justice response to them: should we not "bend to a changing world"?]. Ugolovnyi zakon v epokhu iskusstvennogo intellekta i tsifrovizatsii. Sbornik trudov po materialam Vserossijskoj nauchno-prakticheskoj konferencii s mezhdunarodnym uchastiem v ramkah I Saratovskogo mezhdunarodnogo yuridicheskogo foruma, posvyashchennogo 90-letnemu yubileyu Saratovskoj gosudarstvennoj yuridicheskoj akademii [Criminal Law in the Era of Artificial Intelligence and Digitalization. Collection of articles on the proceedings of the All-Russian scientific-practical conferences with international studies in the framework of the I Saratov International Law Forum, dedicated to the 90th anniversary of the Saratov State Law Academy]; ed. by A. G. Blinov, E. V. Kobzeva. Saratov, Saratov St. Law Acad. Publ., 2021, pp. 15–31.Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. № 22-1. С. 91–109.Ponkin I. V., Redkina A. I. Iskusstvennyi intellekt s tochki zreniya prava [Artificial intelligence from a legal perspective]. Vestnik Rossijskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki = Bulletin of the Peoples' Friendship University of Russia. Series: Legal Sciences, 2018, no. 22-1, pp. 91–109.

The authors declare that there are no conflicts of interest present.