Сунами Артем Николаевич, доцент кафедры конфликтологии Института философии, кандидат политических наук
Санкт-Петербург
Artem N. Sunami, Associate Professor of the Department of Conflict Studies, Institute of Philosophy, Candidate of Science (Political sciences)
Saint Petersburg
Мусаев Абдурашид Идрисович, заведующий лабораторией сектора психологии отдела по направлению «социально-экономические и гуманитарные науки», УТООП, кандидат политических наук
Санкт-Петербург
Abdurashid I. Musaev, Head of Laboratory of Psychology Department in the Field of the Social and Economic and Arts Sciences, Candidate of Science (Political sciences)
Saint-Petersburg
Cтатья посвящена анализу этических и конфликтных вызовов, связанных с проблемой предвзятости нейронных сетей. Постулируется необходимость корректной, научно обоснованной экспликации феномена предвзятости с целью построения корректировочных данную проблему моделей, как необходимого элемента процесса разработки программных продуктов, построенных на алгоритмах искусственного интеллекта.Рассматривается история развития нейронных сетей от зарождения идеи механического организма до построения современных моделей искусственного нейрона. Выделяются наиболее существенные характеристики современных нейросетей: архитектура, веса и смещения, функции активации, инференции, способы обучения.Дается развернутая характеристика естественного языка как ресурса обучения нейросети, анализируется программирование на естественном языке. Особо подчеркивается специфика естественного языка нейросети как совокупности языковых практик, отражающих весь оцифрованный опыт человечества, включая стереотипы, неравенства, язык вражды и другие феномены, в конечном счете, продуцирующие проблему предвзятости.Значительное внимание уделяется анализу феноменов «политика классификации», «властный дискурс», «культурное насилие» в контексте поиска методологических оснований стратегий фильтрации и цензуры естественного языка в процессе конструирования нейронной сети.Отдельно подчеркиваются как имеющиеся в нейросетях погрешности отражены в существующих этических и конфликтологических дебатах вокруг проблемы искусственного интеллекта. Делается вывод, что текущая оценка моральных аспектов проблемы не предполагает наделение нейросетей статусом морального агента и возлагает этическую экспертизу продукта на его разработчиков. Особо отмечается, что конфликтный аспект проблемы предвзятости заключается в ее признании исключительно в отношении групп, которые к настоящему времени приобрели в результате социальных конфликтов «чувствительный» статус дискриминируемых.В заключение обосновывается острая необходимость оптимизации искусственного интеллекта в целях снижения деструктивного потенциала проблемы предвзятости, что в обязательном порядке предполагает модификацию социальных отношений в более широком контексте борьбы исключенных групп за право признания в качестве дискриминируемых.
This article is devoted to the analysis of ethical and conflict challenges related to the trouble with bias in neural networks. The necessity of a correct, scientifically based explication of the phenomenon of bias is postulated in order to build models correcting this problem as a necessary element of the software development process based on artificial intelligence algorithms. The history of the development of neural networks is considered from the origin of the idea of a mechanical organism to the construction of modern models of an artificial neuron. The most significant characteristics of modern neural networks are highlighted: architecture, weights and offsets, activation functions, inferences, and learning methods.A detailed description of natural language as a neural network learning resource is given, and programming in natural language is analyzed. The specificity of the natural language of the neural network as a set of linguistic practices reflecting the entire digitized experience of mankind, including stereotypes, inequalities, hate speech and other phenomena, ultimately producing the trouble with bias, is emphasized.Considerable attention is paid to the analysis of the phenomena of “politics classification”, “power discourse”, “cultural violence” in the context of the search for methodological foundations of natural language filtering and censorship strategies in the process of constructing a neural network.Separately, it is emphasized how the errors in neural networks are reflected in the existing ethical and conflict studies debates around the problem of artificial intelligence. It is concluded that the current assessment of the moral aspects of the problem does not imply granting neural networks the status of a moral agent and places the ethical expertise of the product on its developers. It is particularly noted that the conflict aspect of the trouble with bias lies in its recognition exclusively in relation to groups that have now acquired the “sensitive” status of discriminated against as a result of social conflicts.In conclusion, the paper substantiates the urgent need to optimize artificial intelligence in order to reduce the destructive potential of the trouble with bias, which necessarily implies the modification of social relations in the broader context of the struggle of excluded groups for the right to be recognized as discriminated against.
The authors declare that there are no conflicts of interest present.