managementranepaУправленческое консультированиеAdministrative Consulting1726-11391816-8590Russian Presidential Academy of National Economy and Public Administration. North-West Institute of Management.XKGYNHmanagementranepa-2951Research ArticleГОСУДАРСТВЕННОЕ И МУНИЦИПАЛЬНОЕ УПРАВЛЕНИЕSTATE AND MUNICIPAL ADMINISTRATIONГраницы применимости ИИ в государственном управлении: Память LLM-агентов vs память человекаLimits of Applicability of Artificial Intelligence in Public Administration: Memory of LLM-Based Agents vs. Human MemoryВейберЕ. Н.VeiberE. N.

Вейбер Евгения Николаевна - младший научный сотрудник, Российская академия наук.

Санкт-Петербург

Evgeniya N. Veiber - Junior Researcher.

Saint Petersburg

vejber2013@gmail.comГрудининМ. А.GrudininM. A.

Грудинин Михаил Артёмович - стажер-исследователь, Российская академия наук.

Санкт-Петербург

Mikhail A. Grudinin - Trainee researcher.

Saint Petersburg

st119027@student.spbu.ruТулупьеваТ. В.TulupyevaT. V.

Тулупьева Татьяна Валентиновна - кандидат психологических наук, доцент, Почетный работник сферы образования РФ, советник проректора по науке, Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации; ведущий научный сотрудник, лаборатория Прикладного искусственного интеллекта, Российская академия наук, Санкт-Петербургский ФИЦ.

Москва

Tatiana V. Tulupyeva - PhD in Psychology, Associate Professor, Honorary Worker of the Russian Federation in the Sphere of Education, Advisor to the Vice-Rector for Research, Russian Presidential Academy of NEPA; Leading researcher at the Laboratory of Applied Artificial Intelligence at the St. Petersburg Federal Research Center of the RAS.

Moscow

tvt@dscs.proВяткинА. А.VyatkinA. A.

Вяткин Артём Андреевич - младший научный сотрудник, Российская академия наук.

Санкт-Петербург

Artem A. Vyatkin - Junior Researcher.

Saint Petersburg

aav@dscs.proРоссийская академия наук, Санкт-Петербургский Федеральный исследовательский центрРоссияRussian Academy of Sciences, Saint Petersburg Federal Research CenterRussian FederationРоссийская академия наук, Санкт-Петербургский Федеральный исследовательский центр; Российская академия народного хозяйства и государственной службы при Президенте Российской ФедерацииРоссияRussian Academy of Sciences, Saint Petersburg Federal Research Center; Russian Presidential Academy of National Economy and Public AdministrationRussian Federation202629042026025467Copyright © Вейбер Е.Н., Грудинин М.А., Тулупьева Т.В., Вяткин А.А., 20262026Вейбер Е.Н., Грудинин М.А., Тулупьева Т.В., Вяткин А.А.Veiber E.N., Grudinin M.A., Tulupyeva T.V., Vyatkin A.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.acjournal.ru/jour/article/view/2951

В последние годы большие языковые модели и агентные системы на их основе рассматриваются как перспективный инструмент цифровой трансформации государственного управления. Однако практическая эффективность таких систем определяется не только качеством текстовой генерации в узком смысле (грамматической корректностью, связностью и общей осведомленностью модели), но и тем, насколько надежно они удерживают контекст, извлекают ранее полученные сведения и воспроизводят процедурные правила в условиях длительных управленческих процессов. Для государственных организаций это, как правило, особенно критично: управленческая деятельность опирается на устойчивую память о нормативных требованиях, организационных регламентах, фактах конкретных дел и их хронологии.

Цель

Цель. Целью статьи является определение границ применимости в государственном управлении агентных систем, основанных на больших языковых моделях, на основе сравнительного анализа моделей памяти человека и архитектур памяти таких агентных систем.

Методы

Методы. В исследовании используется сравнительно-аналитический подход.

Рассматриваются базовые когнитивные модели человеческой памяти и выделяются ее характеристики, значимые для управленческой деятельности. Далее анализируются архитектурные механизмы хранения и извлечения информации в агентных системах, функционирующих на основе больших языковых моделей, как их функциональная аналогия.

Результаты

Результаты. Установлено, что агентные системы воспроизводят внешние функции памяти человека за счет сочетания кратковременного контекста и внешних хранилищ знаний. Одновременно выявлены принципиальные расхождения, связанные с отсутствием автобиографичности, хронологии опыта, встроенных механизмов ответственности и причинно-следственной верификации. Эти ограничения повышают риск искажения контекста и затрудняют проверку сгенерированных утверждений.

Выводы

Выводы. Сделан вывод о том, что на сегодняшний день агентные системы, основанные на больших языковых моделях, не могут использоваться для автономного принятия решений в ответственных управленческих процедурах. Вместе с тем они обладают значительным потенциалом как когнитивные ассистенты государственных служащих при обязательном человеческом контроле и сохранении персональной ответственности.

In recent years, large language models and agent systems based on them have been considered a promising tool for the digital transformation of public administration. However, the practical effectiveness of such systems is determined not only by the quality of text generation, including grammatical correctness, coherence, and general awareness, but also by their ability to reliably retain context, retrieve previously acquired information, and reproduce procedural rules within long-term managerial processes. For public organizations, this aspect is particularly critical, as administrative activity relies on stable memory of regulatory requirements, organizational rules, facts of specific cases, and their chronological order.

Purpose

Purpose. The purpose of the article is to determine the limits of applicability of agent systems based on large language models in public administration through a comparative analysis of human memory models and the memory architectures of such systems.

Methods

Methods. The study employs a comparative analytical approach. Basic cognitive models of human memory are examined, and their characteristics relevant to managerial activity are identified. Subsequently, architectural mechanisms of information storage and retrieval in agent systems based on large language models are analyzed as a functional analogue of human memory.

Results

Results. The analysis demonstrates that agent systems reproduce certain external functions of human memory through a combination of short-term contextual representations and external knowledge repositories. At the same time, fundamental differences are identified, including the absence of autobiographical memory, experiential chronology, embedded responsibility mechanisms, and causal verification. These limitations increase the risk of contextual distortion and complicate the validation of generated outputs.

Conclusions

Conclusions. It is concluded that, at present, agent systems based on large language models cannot be used for autonomous decision-making in responsible administrative procedures. Nevertheless, they show significant potential as cognitive assistants for public servants, provided that mandatory human oversight is maintained and personal responsibility for decisions is preserved.

искусственный интеллектагентные системыконтекстзнанияответственностьartificial intelligenceagent systemscontextknowledgeresponsibilityСтатья выполнена в рамках научно-исследовательской работы по государственному заданию СПб ФИЦ РАН Mol_Lab (молодежная_лаб) № FFZF-2024-0003The article was carried out as part of the research the state order of SPC RAS no. FFZF-2024-0003ReferencesКабанова Е. Е. Искусственный интеллект в государственном управлении: ключевые проблемы и перспективы применения // Russian Journal of Management. 2025. Т. 13, № 2. С. 1–14. DOI: 10.29039/2500-1469-2025-13-2-1-14Kabanova E. E. Artificial intelligence in public administration: key issues and prospects of application // Russian Journal of Management. 2025. Vol. 13, No. 2, P. 1–14. (In Russ.). DOI: 10.29039/2500-1469-2025-13-2-1-14Кирилловых А. А. Цифровое государство (digital state): организационно-правовые аспекты. Москва : Юрлитинформ, 2022. 184 с. ISBN 978-5-4396-2425-6.Kirillovykh A. A. Digital State: Organizational and Legal Aspects. Moscow: Yurlitinform, 2022. 184 p. (In Russ.). ISBN 978-5-4396-2425-6.Михальченкова Н. А. Искусственный интеллект в контексте публичного управления // Власть. 2021. Т. 29, № 5. С. 122–127. DOI: 10.31171/vlast.v29i5.8545Mikhalchenkova N. A. Artificial intelligence in the context of public administration // Power [Vlast’]. 2021. Vol. 29, No. 5. P. 122–127. (In Russ.). DOI: 10.31171/vlast.v29i5.8545Троян Н. А. Искусственный интеллект и его регулирование в сфере государственного управления: правовые аспекты // Мониторинг правоприменения. 2025. № 3. С. 59–65. EDN SNUECTTroyan N. A. Artificial intelligence and its regulation in public administration: legal aspects // Monitoring of Law Enforcement [Monitoring pravoprimeneniya]. 2025. No. 3. P. 59–65. (In Russ.). EDN SNUECTФедорченко С. Н. Искусственный интеллект в сфере политики, медиапространства и государственного управления // Журнал политических исследований. 2020. Т. 4, № 2. С. 3–9. URL: https://naukaru.ru/ru/nauka/article/38587/viewFedorchenko S. N. Artificial intelligence in politics, the media space and public administration // Journal of Political Research [Zhurnal politicheskikh issledovanii]. 2020. Vol. 4, No. 2. P. 3–9. (In Russ.). URL: https://naukaru.ru/ru/nauka/article/38587/viewФедорченко С. Н. Цифровое государство и искусственный интеллект в публичном управлении : монография. Москва : Юрайт, 2021. 256 с. DOI: 10.33910/2707-0144-2021-3-1-7Fedorchenko S. N. Digital State and Artificial Intelligence in Public Administration: Monograph. Moscow: Yurait, 2021. 256 p. (In Russ.). DOI: 10.33910/2707-0144-2021-3-1-7Черешнева И. А. Искусственный интеллект в государственном управлении и транспарентность: европейский опыт // Государственная служба (Public Administration). 2022. № 2 (136). С. 80–87. DOI: 10.22394/2070-8378-2022-24-2-80-87Chereshneva I. A. Artificial intelligence in public administration and transparency: European experience. // Public Administration [Gosudarstvennaya sluzhba]. 2022. No. 2 (136). P. 80–87. (In Russ.). DOI: 10.22394/2070-8378-2022-24-2-80-87Atkinson R. C., Shiffrin R. M. Human memory: A proposed system and its control processes. In K. W. Spence & J. T. Spence (Eds.), The Psychology of Learning and Motivation (Vol. 2, pp. 89–195). New York: Academic Press, 1968. DOI: 10.1016/S0079-7421(08)60422-3Atkinson R. C., Shiffrin R. M. Human memory: A proposed system and its control processes. In K. W. Spence & J. T. Spence (Eds.), The Psychology of Learning and Motivation (Vol. 2, pp. 89–195). New York: Academic Press, 1968. DOI: 10.1016/S0079-7421(08)60422-3Bartlett F. C. Remembering: A Study in Experimental and Social Psychology. Cambridge: Cambridge University Press, 1932. 317 p. URL: https://archive.org/details/rememberingstudy0000bart_u8n7Bartlett F. C. Remembering: A Study in Experimental and Social Psychology. Cambridge: Cambridge University Press, 1932. 317 p. URL: https://archive.org/details/rememberingstudy0000bart_u8n7Bender E. M., Gebru T., McMillan-Major A., Shmitchell S. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? // Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT). New York, NY, USA: ACM, 2021. P. 610–623. DOI: 10.1145/3442188.3445922Bender E. M., Gebru T., McMillan-Major A., Shmitchell S. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? // Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT). New York, NY, USA: ACM, 2021. P. 610–623. DOI: 10.1145/3442188.3445922Bommasani R., Hudson D. A., Adeli E., et al. On the Opportunities and Risks of Foundation Models. Stanford, CA, USA: Stanford Center for Research on Foundation Models (CRFM), Stanford University, 2021. 212 p. URL: https://arxiv.org/abs/2108.07258Bommasani R., Hudson D. A., Adeli E., et al. On the Opportunities and Risks of Foundation Models. Stanford, CA, USA: Stanford Center for Research on Foundation Models (CRFM), Stanford University, 2021. 212 p. URL: https://arxiv.org/abs/2108.07258Brown T. B., Mann B., Ryder N., et al. Language Models are Few-Shot Learners // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2020. Vol. 33. P. 1877–1901. URL: https://arxiv.org/abs/2005.14165Brown T. B., Mann B., Ryder N., et al. Language Models are Few-Shot Learners // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2020. Vol. 33. P. 1877–1901. URL: https://arxiv.org/abs/2005.14165Burgess N. The hippocampus, space and viewpoints in episodic memory // Quarterly Journal of Experimental Psychology A. 2002. 55 (4), P. 1057–1080. DOI: 10.1080/02724980244000224Burgess N. The hippocampus, space and viewpoints in episodic memory // Quarterly Journal of Experimental Psychology A. 2002. 55 (4), P. 1057–1080. DOI: 10.1080/02724980244000224Cajueiro D. O., Celestino V. R. R. A comprehensive review of Artificial Intelligence regulation: Weighing ethical principles and innovation // Journal of Economy and Technology. 2026. Vol. 4. P. 77–91. DOI: 10.1016/j.ject.2025.07.001Cajueiro D. O., Celestino V. R. R. A comprehensive review of Artificial Intelligence regulation: Weighing ethical principles and innovation // Journal of Economy and Technology. 2026. Vol. 4. P. 77–91. DOI: 10.1016/j.ject.2025.07.001Conway M. A., Pleydell-Pearce C. W. The Construction of Autobiographical Memories // Psychological Review. 2000. Vol. 107, No. 2. P. 261–288. DOI: 10.1037/0033-295X.107.2.261Conway M. A., Pleydell-Pearce C. W. The Construction of Autobiographical Memories // Psychological Review. 2000. Vol. 107, No. 2. P. 261–288. DOI: 10.1037/0033-295X.107.2.261Jia Z., Liu Q., Li H., et al. Evaluating the Long-Term Memory of Large Language Models // Findings of the Association for Computational Linguistics (ACL). 2025. 18 p. URL: https://arxiv.org/abs/2402.03300Jia Z., Liu Q., Li H., et al. Evaluating the Long-Term Memory of Large Language Models // Findings of the Association for Computational Linguistics (ACL). 2025. 18 p. URL: https://arxiv.org/abs/2402.03300Lewis P., Perez E., Piktus A., et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2020. Vol. 33. P. 9459–9474. URL: https://arxiv.org/abs/2005.11401Lewis P., Perez E., Piktus A., et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2020. Vol. 33. P. 9459–9474. URL: https://arxiv.org/abs/2005.11401Loftus E. F. False Memories // American Psychologist. 1995. Vol. 50, No. 9. P. 720–725. DOI: 10.1037/0003-066X.50.9.720Loftus E. F. False Memories // American Psychologist. 1995. Vol. 50, No. 9. P. 720–725. DOI: 10.1037/0003-066X.50.9.720Park J. S., O’Brien J., Cai C. J., Morris M. R., Liang P., Bernstein M. S. Generative Agents: Interactive Simulacra of Human Behavior // arXiv.org. 2023. 32 p. URL: https://arxiv.org/abs/2304.03442Park J. S., O’Brien J., Cai C. J., Morris M. R., Liang P., Bernstein M. S. Generative Agents: Interactive Simulacra of Human Behavior // arXiv.org. 2023. 32 p. URL: https://arxiv.org/abs/2304.03442Petroni F., Rocktäschel T., Riedel S., Lewis P., Bakhtin A., Wu Y., Miller A. Language Models as Knowledge Bases? // Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP). Hong Kong: Association for Computational Linguistics, 2019. P. 2463–2473. DOI: 10.18653/v1/D19-1250Petroni F., Rocktäschel T., Riedel S., Lewis P., Bakhtin A., Wu Y., Miller A. Language Models as Knowledge Bases? // Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP). Hong Kong: Association for Computational Linguistics, 2019. P. 2463–2473. DOI: 10.18653/v1/D19-1250Schacter D. L. The Seven Sins of Memory: Insights from Psychology and Cognitive Neuroscience // American Psychologist. 1999. Vol. 54, No. 3. P. 182–203. DOI: 10.1037/0003-066X.54.3.182Schacter D. L. The Seven Sins of Memory: Insights from Psychology and Cognitive Neuroscience // American Psychologist. 1999. Vol. 54, No. 3. P. 182–203. DOI: 10.1037/0003-066X.54.3.182Squire L. R. Mechanisms of Memory // Science. 1986. Vol. 232, No. 4758. P. 1612–1619. DOI: 10.1126/science.3086978Squire L. R. Mechanisms of Memory // Science. 1986. Vol. 232, No. 4758. P. 1612–1619. DOI: 10.1126/science.3086978Squire L. R., Zola S. M. Structure and Function of Declarative and Nondeclarative Memory Systems // Proceedings of the National Academy of Sciences of the United States of America. 1996. Vol. 93, No. 24. P. 13515–13522. DOI: 10.1073/pnas.93.24.13515Squire L. R., Zola S. M. Structure and Function of Declarative and Nondeclarative Memory Systems // Proceedings of the National Academy of Sciences of the United States of America. 1996. Vol. 93, No. 24. P. 13515–13522. DOI: 10.1073/pnas.93.24.13515Tulving E. Elements of Episodic Memory. Oxford: Oxford University Press, 1983. 351 p. URL: https://archive.org/details/elementsofepisod0000tulvTulving E. Elements of Episodic Memory. Oxford: Oxford University Press, 1983. 351 p. URL: https://archive.org/details/elementsofepisod0000tulvTulving E. Episodic and Semantic Memory // Organization of Memory / Eds. E. Tulving, W. Donaldson. New York: Academic Press, 1972. P. 381–403. DOI: 10.1016/B978-0-12-702050-2.50008-4Tulving E. Episodic and Semantic Memory // Organization of Memory / Eds. E. Tulving, W. Donaldson. New York: Academic Press, 1972. P. 381–403. DOI: 10.1016/B978-0-12-7020502.50008-4Vaswani A., Shazeer N., Parmar N., et al. Attention Is All You Need // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2017. Vol. 30. P. 5998–6008. URL: https://arxiv.org/abs/1706.03762Vaswani A., Shazeer N., Parmar N., et al. Attention Is All You Need // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2017. Vol. 30. P. 5998–6008. URL: https://arxiv.org/abs/1706.03762Zhong W., Yu S., Wu C., et al. MemoryBank: Enhancing Large Language Models with LongTerm Memory // Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto, CA, USA: AAAI Press, 2024. URL: https://arxiv.org/abs/2305.10260.Zhong W., Yu S., Wu C., et al. MemoryBank: Enhancing Large Language Models with Long-Term Memory // Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto, CA, USA: AAAI Press, 2024. URL: https://arxiv.org/abs/2305.10260.

The authors declare that there are no conflicts of interest present.