managementranepaУправленческое консультированиеAdministrative Consulting1726-11391816-8590Russian Presidential Academy of National Economy and Public Administration. North-West Institute of Management.10.22394/1726-1139-2023-6-34-45managementranepa-2282Research ArticleПОЛИТИКА И ПРАВОВОЕ ГОСУДАРСТВОPOLICY AND CONSTITUTIONAL STATEПроблемы применения искусственного интеллекта в военном управленииThe Problems of Using Artificial Intelligence in Military ManagementКазеянХ. А.GhazeyanKh. A.

Казеян Хачатур Ашотович, ректор; кандидат технических наук, доцент

Ереван

Khachatur Ghazeyan, Rector, PhD in Technical Sciences, Associate Professor

Yerevan

rector@paara.amАрутюнянГ. Э.HarutyunyanG. E.

Арутюнян Гаяне Эрниковна, проректор по научной работе и внешним связям, кандидат экономических наук, доцент 

Ереван

Gayane Harutyunyan, Vice Rector for Science and External Relations, PhD in Economics, Associate Professor 

Yerevan

harutyunyan.gayane@paara.amАкадемия государственного управления Республики АрменияPublic Administration Academy of the Republic of Armenia202322072023063445Copyright © Казеян Х.А., Арутюнян Г.Э., 20232023Казеян Х.А., Арутюнян Г.Э.Ghazeyan K.A., Harutyunyan G.E.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.acjournal.ru/jour/article/view/2282

В качестве суперсовременной технологии искусственный интеллект (ИИ) претендует на ключевую роль в улучшении благосостояния и условий жизни человеческого общества, так же как и в устойчивом развитии мировой экономики, повышении производительности и эффективном решении общечеловеческих проблем. Все чаще обсуждаются вопросы и о влиянии ИИ — как нового детерминанта баланса сил — на условия достижения и поддержания мира в отдельных регионах и во всем мире. Поэтому изучение современных тенденций применения ИИ в военных целях (в частности, в системе военного управления), а также обсуждение вопросов о возможностях, особенностях и проблемах его перспективного применения имеют большое значение с точки зрения конкретизации основных ориентиров сохранения и развития военного потенциала государства в современных условиях.

Целью статьи является обсуждение вопросов применения технологий ИИ в военном управлении как с точки зрения возможных преимуществ, так и в аспекте тех значительных рисков, которые сопряжены с применением ИИ в военной сфере, и которые носят общечеловеческий экзистенциальный характер и могут оказать непосредственное влияние на долгосрочное будущее человеческого общества — мировая война между крупными державами, возможность ядерного конфликта и вероятность выхода ИИ из-под контроля.

Теоретической основой для исследования послужили научные труды как армянских и российских, так и западных авторов.

Основными методами исследования являются сравнительный анализ, основанный на наблюдениях различных примеров применения ИИ в военном управлении, и метод научной индукции, актуализированный с учетом прагматического фактора (метод логического умозаключения, подтвержденного фактами).

В качестве результатов исследования в статье представлены те основные риски, которые возможны при использовании ИИ в военных целях. В частности, речь идет о мировой войне между крупными державами, вероятности ядерного конфликта и выхода ИИ из-под контроля. Все эти риски носят общечеловеческий экзистенциальный характер и могут оказать непосредственное влияние на долгосрочное будущее человеческого общества. Представлены также некоторые важные обстоятельства и факторы, заставляющие уделять больше внимания политике по нейтрализации рискам применения ИИ в сфере военного управления.

В выводах обоснована необходимость соблюдения «правила безопасности» применения ИИ. Формирование для этого законодательно-правовой базы и соответствующих инфраструктур должно происходить намного раньше фактического использования ИИ, иначе последствия могут быть скорее негативными, чем позитивными.

As a state-of-the-art technology, artificial intelligence (AI) claims a key role in improving the well-being and living conditions of human society, as well as in the sustainable development of the global economy, increasing productivity and effectively solving universal problems. Increasingly, questions are also being discussed about the influence of AI — as a new determinant of the balance of power — on the conditions for achieving and maintaining peace in individual regions and around the world. Therefore, the study of modern trends in the use of AI for military purposes (in particular, in the system of military command), as well as the discussion of issues about the possibilities, features and problems of its prospective use, are of great importance in terms of specifying the main guidelines for the preservation and development of the military potential of the state in modern conditions.

The purpose of the article is to discuss the application of AI technologies in military control as in terms of possible advantages, and in the aspect of the significant risks associated with the use of AI in the military sphere, and which are universal existential in nature and can have a direct impact on the long-term future of human society — world war between major powers, the possibility of nuclear conflict, and the likelihood of AI spiralling out of control.

The theoretical basis for the study was the scientific works of both Armenian and Russian and Western authors.

The main research methods are comparative analysis based on observations of various examples of the use of AI in military control and the method of scientific induction, updated taking into account the pragmatic factor (the method of logical inference confirmed by facts).

As the results of the study, the article presents the main risks that are possible when using AI for military purposes. In particular, we are talking about a world war between major powers, the likelihood of a nuclear conflict and the withdrawal of AI from control. All these risks are universal existential in nature and can have a direct impact on the long-term future of human society. Some important circumstances and factors are also presented that force more attention to policies to neutralize the risks of using AI in the field of military administration.

The conclusions justify the need to comply with the “safety rule” for the use of AI. The formation of a legal framework and relevant infrastructures for this should take place much earlier than the actual use of AI; otherwise, the consequences can be negative rather than positive.

ситуационная осведомленностьавтономные военные системыбудущие войныдополнительная реальностьконкурентная разведкапринятие решенийsituational awarenessautonomous military systemsfuture warsadditional realitycompetitive intelligencedecision-makingИсследование выполнено при финансовой поддержке Комитета по науке МОНКС РА в рамках научного проекта № 21Т-5B128. Статья подготовлена для участия в научно-практической конференции по вопросам государственного управления и общественного развития «Горчаковские чтения».ReferencesАбросимов В. К. Искусственный интеллект и проблемы развития вооружения и военной техники // Вооружение и экономика. 2021. № 2 (56). С. 5–21.Abrosimov V. K. Artificial Intelligence and Problems of the Development of Weapons and Military Equipment // Armament and Economics [Vooruzhenie I ekonomika]. 2021. N 2 (56). P. 5–21 (in Rus).Астраханцев В. Применение интеллектуальных технологий в ИТ-инфраструктуре органов государственной власти. Миф или реальность? [Электронный ресурс]. URL: https://ecmjournal.ru/material/primenenie-intellektualnykh-tekhnologijj-v-it-infrastrukture-organovgosudarstvennojj-vlasti-mif-ili-realnost (дата обращения: 10.11.2022).Astrakhantsev V. The use of intelligent technologies in the IT infrastructure of public authorities. Myth or reality? [Electronic resource]. URL: https://ecm-journal.ru/material/primenenie-intellektualnykh-tekhnologijj-v-it-infrastrukture-organov-gosudarstvennojj-vlasti-mif-ili-realnost (accessed: 10.11.2022) (in Rus).Васин С. Г. Искусственный интеллект в управлении государством // Государственное и муниципальное управление. 2017. № 3 (17). C. 5–10.Vasin S. G. Artificial intelligence in state management // State and municipal management [Gosudarstvennoe I munitsipal’noe upravlenie]. 2017. N 3 (17). P. 5–10 (in Rus).Талапина Э. В. Использование искусственного интеллекта в государственном управлении // Информационное общество. 2021. № 3. C. 16–22.Talapina E. V. The use of artificial intelligence in public administration // Information society [Informatsionnoe obshchestvo]. 2021. N 3. P. 16–22 (in Rus).Հարությունյան Գ., Ապագա պատերազմների բնույթը որպես ռազմաարդյունաբերության զարգացման ուղեցույց։ «Հայկական բանակ» ռազմագիտական հանդես, Հմ. 4(106), 2020, էջ 74: [Арутюнян Г. Характер будущих войн как ориентир для развития оборонной промышленности // Военно-научный журнал «Армянская Армия». 2020. № 4 (106). С. 74]. (На армянском яз.).Harutyunyan G. The nature of future wars as a guide for the development of military industry // “Armenian Army” Military Science Journal. 2020. Vol. 4 (106). P. 74 (in Armenian).Հարությունյան Գ․, Արհեստական բանականության կիրառման համաշխարհային փորձից. հեռանկարներ ռազմական ոլորտի համար։ «Հայկական բանակ» ռազմագիտական հանդես, 2020, հմ. 1, էջ 112 [Арутюнян Г. Из мирового опыта применения искусственного интеллекта: перспективы для военной сферы // Военно-научный журнал «Армянская Армия». 2020. № 1(103). C. 112]. (На армянском яз.)Harutyunyan G., From the world experience of using artificial intelligence. prospects for the military sphere // “Armenian Army” military scientific journal. 2020. N 1. P. 112 (in Armenian).Ղազեյան Խ., Ռազմական նպատակներով ԱԲ կիրառման արդի միտումներն ու հեռանկարները։ «Հանրային կառավարում» գիտական հանդես, Երևան, 2022, № 2, էջ 20–32: [Казеян Х., Современные тенденции и перспективы применения ИИ в военных целях // Научный журнал «Публичное управление». 2022. № 2. С. 20–32]. (На армянском яз.)GhazeyanKh., Current trends and perspectives of the use of anti-aircraft guns for military purposes // “Public Administration” scientific journal. 2022. N 2. P. 20–32 (in Armenian).Սուվարյան Յու., Հարությունյան Գ., Հանրային կառավարման համակարգում արհեստական բանականության կիրառության հիմնախնդիրները։ «Հայկական բանակ» ռազմագիտական հանդես, 1(111), 2022, էջ 9–24։ [Суварян Ю. Арутюнян Г., Проблемы применения искусственного интеллекта в системе государственного управления // Военно-научный журнал «Армянская Армия». 2022. № 1 (111). С. 9–24]. (На армянском яз.)Suvaryan Yu., Harutyunyan G., Problems of using artificial intelligence in the public administration system //”Armenian Army” Military Science Journal. 2022. N 1 (111). P. 9–24 (in Armenian).Bächle T. C., Bareis J. «Autonomous weapons» as a geopolitical signifier in a national power play: Analyzing AI imaginaries in Chinese and US military policies // Eur J Futures Res. 2022. N 10. P. 20. DOI: 10.1186/s40309-022-00202-w.Bächle T. C., Bareis J. «Autonomous weapons» as a geopolitical signifier in a national power play: Analyzing AI imaginaries in Chinese and US military policies // Eur J Futures Res. 2022. N 10. P. 20. DOI: 10.1186/s40309-022-00202-w.Berryhill J., Heang K. K., Clogher R., McBride K. «Hello, World: Artificial intelligence and its use in the public sector» // OECD Working Papers on Public Governance. N 36.Berryhill J., Heang K. K., Clogher R., McBride K. «Hello, World: Artificial intelligence and its use in the public sector» // OECD Working Papers on Public Governance. N 36.Corrigan J. «Three-Star General Wants AI in Every New Weapon System». November 2017 [Электронный ресурс]. URL: https://www.defenseone.com/technology/2017/11/three-stargeneral-wants-artificial-intelligence-every-new-weapon-system/142239/ (дата обращения: 25.02.2023).Corrigan J. «Three-Star General Wants AI in Every New Weapon System». November 2017 [Electronic source]. URL: https://www.defenseone.com/technology/2017/11/three-star-generalwants-artificial-intelligence-every-new-weapon-system/142239/ (accessed: 25.02.2023).Daniel Araya and Meg King․The Impact of Artificial Intelligence on Military Defence and Security // CIGI Papers. N 263. March 2022.Daniel Araya and Meg King․The Impact of Artificial Intelligence on Military Defence and Security // CIGI Papers. N 263. March 2022.Defense Science Board // Summer Study on Autonomy. June 9, 2016. P. 12.Defense Science Board // Summer Study on Autonomy. June 9, 2016. P. 12.Hacker Ph., Petkova B. Reining in the Big Promise of Big Data: Transparency, Inequality, and New Regulatory Frontiers //15 NW. J. TECH. & INTELL. PROP.1. 2017.Hacker Ph., Petkova B. Reining in the Big Promise of Big Data: Transparency, Inequality, and New Regulatory Frontiers //15 NW. J. TECH. & INTELL. PROP.1. 2017.Huizing A., Heiligers M., Dekker B., de Wit J., Cifola L., Harmanny R. Deep Learning for Classification of Mini-UAVs Using Micro-Doppler Spectrograms in Cognitive Radar // IEEE A&E Systems Magazine. 2019. N 10.Huizing A., Heiligers M., Dekker B., de Wit J., Cifola L., Harmanny R. Deep Learning for Classification of Mini-UAVs Using Micro-Doppler Spectrograms in Cognitive Radar // IEEE A&E Systems Magazine. 2019. N 10.Johnson J. Artificial intelligence & future warfare: implications for international security // Defense & Security Analysis. 2019. DOI: 10.1080/14751798.2019.1600800.Johnson J. Artificial intelligence & future warfare: implications for international security // Defense & Security Analysis. 2019. DOI: 10.1080/14751798.2019.1600800.Konaev M., Chahal H., Fedasiuk R., Huang T., Rahkovsky I. U. S. Military Investments in Autonomy and AI. Center for Security and Emerging Technology. October, 2020. P. 16–26.Konaev M., Chahal H., Fedasiuk R., Huang T., Rahkovsky I. U. S. Military Investments in Autonomy and AI. Center for Security and Emerging Technology. October, 2020. P. 16–26.Osborn K. Here Is the Army’s Hyper-Networked Vision of Future War. June 2, 2020.Osborn K. Here Is the Army’s Hyper-Networked Vision of Future War. June 2, 2020.Ownby M., Dr. A. Kott. Reading the Mind of the Enemy: Predictive Analysis and Command Effectiveness // The State of the Art and The State of the Practice. 2006.Ownby M., Dr. A. Kott. Reading the Mind of the Enemy: Predictive Analysis and Command Effectiveness // The State of the Art and The State of the Practice. 2006.Reese Hedberg S. DART: Revolutionizing Logistics Planning // IEEE Intelligent Systems. May/ June, 2002. P. 81–83.Reese Hedberg S.DART: Revolutionizing Logistics Planning // IEEE Intelligent Systems. May/ June, 2002. P. 81–83.Schubert J., Brynielsson J., Nilsson M., Svenmarck P. Artificial Intelligence for Decision Support in Command-and-Control Systems․23rd International Command and Control Research & Technology Symposium «Multi-Domain C2».Schubert J., Brynielsson J., Nilsson M., Svenmarck P. Artificial Intelligence for Decision Support in Command-and-Control Systems․23rd International Command and Control Research & Technology Symposium «Multi-Domain C2».Spangler M. Nagorno-Karabakh Is Ready for Another War.Spangler M. Nagorno-Karabakh Is Ready for Another War.Szabadföld I. Artificial Intelligence in Military Application // Opportunities and Challenges, Land Forces Academy Review. 2021. Vol. XXVI. N 2 (102). P. 157–165.Szabadföld I. Artificial Intelligence in Military Application // Opportunities and Challenges, Land Forces Academy Review. 2021. Vol. XXVI. N 2 (102). P. 157–165.

The authors declare that there are no conflicts of interest present.