Морозова Светлана Александровна - заместитель директора фундаментальной библиотеки, старший преподаватель.
Санкт-Петербург
Svetlana A. Morozova - Deputy Director of the Fundamental Library, Senior Lecturer, Herzen.
Saint Petersburg
В условиях цифровой трансформации науки и образования генеративные модели искусственного интеллекта выступают интеллектуальным инструментом, оптимизирующим рутинные процессы и обработку больших данных, но одновременно могут порождать новые риски для качества научной коммуникации. Эти противоречивые эффекты требуют управленческого осмысления и принятия соответствующих решений. В статье рассматривается один из факторов риска: распространение фейковой библиографической информации, возникающей при использовании таких моделей в научно-публикационной деятельности. Исследование включает терминологический анализ с обоснованием выбранного стержневого обозначения «конфабуляция», обзор отечественных и зарубежных исследований. Цель исследования: анализ причин, типов и последствий генерации недостоверных библиографических ссылок, определение выявленных рисков для принятия управленческих решений на федеральном и институциональном уровнях.
Методология и методы исследования содержат презентацию авторских подходов к отбору и анализу опубликованных русскоязычных научных работ с последующей верификацией библиографических списков, предлагаемую типологизацию выявленных конфабуляций с обоснованием ее применения.
Результаты показывают нарастающую активность в использовании сгенерированных недостоверных ссылок в публикациях различных тематических направлений и типов изданий, включая рецензируемые журналы. Установлены ключевые причины конфабуляции, связанные как с особенностями функционирования генеративных моделей, так и с практиками их использования авторами. Отдельно показано, что конфабулированная библиография может служить индикатором генерации фрагментов научного текста, что имеет прямое значение как для развития систем обнаружения сгенерированной информации, так и для административных подходов к новым критериям оценки качества публикаций.
Выводы подтверждают необходимость перехода от декларативного регулирования к комплексным управленческим решениям, включающим разработку институциональных политик использования генеративных технологий, пересмотр процедур контроля качества научных публикаций, обеспечение доступа к современным инструментам и целенаправленное формирование компетенций ответственного использования искусственного интеллекта у авторов, редакторов и руководителей.
Обсуждение акцентирует внимание на риске тиражирования недостоверных ссылок через последующие публикации и формирование «цепочек распространения» ложной научной информации, заостряет внимание на необходимости консолидации исследований, связанных с выявлением сгенерированных текстов и фокусирующихся только на библиографической информации, предлагает направления первоочередных нормативных решений, обращает внимание на отсутствие организационного фактора в применении генеративных моделей пользователями.
In the context of the digital transformation of science and education, the widespread adoption of generative artificial intelligence models functions both as a useful software solution that optimizes routine processes and large-scale data processing and as a source of new risks to the quality of scholarly communication, requiring managerial reflection. The article examines the phenomenon of fake bibliographic information arising from the use of such models in scholarly publishing practices. The study includes an analysis of terminological diversity and substantiates the use of the key concept of “confabulation”, as well as a review of Russian and international research.
Objective of the study is to analyze the causes, types, and consequences of generating unreliable bibliographic references and to determine the significance of the identified risks for managerial decision-making at both federal and institutional levels.
Methodology and Methods present the author’s approach to selecting and analyzing published Russian-language scholarly works, followed by verification of their bibliographic lists, and propose a typology of identified confabulations with justification for its application.
Results demonstrate increasing activity in the use of generated unreliable references across publications of various subject areas and types, including peer-reviewed journals. Key causes of confabulation are identified, related both to the functioning characteristics of generative models and to authors’ practices in using them. It is also shown that confabulated bibliographies can serve as an indicator of generated fragments within scholarly texts, which has direct implications for managing publication quality.
Conclusions confirm the need to move from declarative regulation toward comprehensive managerial solutions, including the development of institutional policies for the use of generative technologies, revision of scholarly quality control procedures, provision of access to up-to-date tools, and targeted development of competencies for responsible use of artificial intelligence among authors, editors, and academic managers.
Discussion highlights the risk of reproducing unreliable references through subsequent publications and the formation of “chains of dissemination” of false scholarly information. It emphasizes the need to consolidate research focused on detecting generated texts, with particular attention to bibliographic data, and proposes priority directions for administrative decisions. Finally, it draws attention to the lack of an organizational framework governing users' application of generative models.
The authors declare that there are no conflicts of interest present.