Проблема предвзятости нейросетей: конфликтные и этические вызовы

Cтатья посвящена анализу этических и конфликтных вызовов, связанных с проблемой предвзятости нейронных сетей. Постулируется необходимость корректной, научно обоснованной экспликации феномена предвзятости с целью построения корректировочных данную проблему моделей, как необходимого элемента процесса разработки программных продуктов, построенных на алгоритмах искусственного интеллекта.
Рассматривается история развития нейронных сетей от зарождения идеи механического организма до построения современных моделей искусственного нейрона. Выделяются наиболее существенные характеристики современных нейросетей: архитектура, веса и смещения, функции активации, инференции, способы обучения.
Дается развернутая характеристика естественного языка как ресурса обучения нейросети, анализируется программирование на естественном языке. Особо подчеркивается специфика естественного языка нейросети как совокупности языковых практик, отражающих весь оцифрованный опыт человечества, включая стереотипы, неравенства, язык вражды и другие феномены, в конечном счете, продуцирующие проблему предвзятости.
Значительное внимание уделяется анализу феноменов «политика классификации», «властный дискурс», «культурное насилие» в контексте поиска методологических оснований стратегий фильтрации и цензуры естественного языка в процессе конструирования нейронной сети.
Отдельно подчеркиваются как имеющиеся в нейросетях погрешности отражены в существующих этических и конфликтологических дебатах вокруг проблемы искусственного интеллекта. Делается вывод, что текущая оценка моральных аспектов проблемы не предполагает наделение нейросетей статусом морального агента и возлагает этическую экспертизу продукта на его разработчиков. Особо отмечается, что конфликтный аспект проблемы предвзятости заключается в ее признании исключительно в отношении групп, которые к настоящему времени приобрели в результате социальных конфликтов «чувствительный» статус дискриминируемых.
В заключение обосновывается острая необходимость оптимизации искусственного интеллекта в целях снижения деструктивного потенциала проблемы предвзятости, что в обязательном порядке предполагает модификацию социальных отношений в более широком контексте борьбы исключенных групп за право признания в качестве дискриминируемых.

1. Григоренко Е. В. Философские концепции естественного языка // Общество: философия, история, культура. 2019. № 7 (63). С. 27–31. DOI: 10.24158/fik.2019.7.4

2. Клышинский Э. С. Проблемы обработки естественного языка в диалоговых системах / Э. С. Клышинский, Ю. А. Жеребцова, А. В. Чижик // Системный администратор. 2019. № 10. С. 82–91.

3. Конференция «Путешествие в мир искусственного интеллекта» // KREMLIN.RU: Офиц. сайт Президента России. 24 ноября 2023 года [Электронный ресурс]. URL: https:// http://www.kremlin.ru/events/president/news/72811 (дата обращения: 01.12.2023).

4. Кроуфорд К. Атлас искусственного интеллекта: руководство для будущего. М. : АСТ, 2023. 320 с.

5. Мораль и этические ценности ChatGPT: есть ли у ИИ четкая нравственная позиция? [Электронный ресурс] // UNN.RU: Офиц. сайт Университета Лобачевского. 12 марта 2024 года. URL: https://fil.unn.ru/does-ai-have-strong-moral-compass (дата обращения: 01.04.2024).

6. Созыкин А. В. Обзор методов обучения глубоких нейронных сетей // Вестник ЮУрГУ. Сер.: Вычислительная математика и информатика. 2017. Т. 6 (3). С. 28–59. DOI: 10.14529/cmse170303

7. Сунами А. Н. Этика виртуальной реальности в работе Дэвида Чалмерса 2022 г. «Реальность+. Виртуальные миры и проблемы философии» // Философия истории философии. Т. 4. 2024.

8. Фуко М. Воля к истине: по ту сторону знания, власти и сексуальности. Работы разных лет. М. : Касталь, 1996. 446 с.

9. Bowker G. C. / G. C. Bowker, S. L. Star // Sorting Things Out: Classification and Its Consequences. Cambridge, Mass. : MIT Press, 1999. 377 p.

10. Brown T. B. Language Models are Few-Shot Learners / T. B. Brown, B. Mann, N. Ryder [et al.]. 2020. DOI: 10.48550/arXiv.2005.14165

11. Chalmers D. J. Reality+: Virtual Worlds and the Problems of Philosophy. New-York : W. W. Norton & Co, 2022. 544 p.

12. Du M. Shortcut Learning of Large Language Models in Natural Language Understanding / M. Du, F. He, N. Zou [et al.] // Communications of the ACM. 2023. Vol. 67 (1). P. 110–120. DOI: 10.1145/3596490

13. Galtung J. Cultural Violence // Journal of Peace Research. 1990. Vol. 27 (3). P. 291–305.

14. Kejriwal M. Quantifying Gender Disparity in Pre-Modern English Literature using Natural Language Processing / M. Kejriwal, A. Nagaraj // Journal of Data Science. 2024. Vol. 22 (1). P. 77–96. DOI: 10.6339/23-JDS1100

15. Krügel S. ChatGPT’s inconsistent moral advice influences users’ judgment / S. Krügel, A. Ostermaier, M. Uhl // Sci Rep 13. 4569. 2023. DOI: 10.1038/s41598-023-31341-0

16. McCulloch W. S. A logical calculus of the ideas immanent in nervous activity / W. S. McCulloch, W. Pitts // The Bulletin of Mathematical Biophysics. 1943. Vol. 5 (4). P. 115–133. DOI: 10.1007/BF02478259

17. Pitt J. C. “Guns Don’t Kill, People Kill”; Values in and/or Around Technologies / P. Kroes, P.-P. Verbeek (eds.) // The moral status of technical artefacts. Philosophy of engineering and technology. Berlin : Springer, 2014. P. 89–102. DOI: 10.1007/978-94-007-7914-3_6

18. Schmidhuber J. Deep Learning in Neural Networks: an Overview // Neural Networks. 2015. Vol. 1. P. 85–117. DOI: 10.1016/j.neunet.2014.09.003

19. Searle J. Minds, brains, and programs // Behavioral and Brain Sciences. 1980. Vol. 3 (3). P. 417–24. DOI: 10.1017/S0140525X00005756

20. Singer P. Animal Liberation Now: The Definitive Classic Renewed. New-York : Harper Perennial, 2023. 368 p.

21. Verbeek P.-P. Moralizing Technology: Understanding and Designing the Morality of Things. Chicago : University of Chicago Press, 2011. 183 p.