МОЖЕТ ЛИ ИИ ПРОИЗВОДИТЬ ЗНАЧЕНИЕ? СЕМАНТИЧЕСКИЙ КАПИТАЛ, «СТОХАСТИЧЕСКИЙ ПОПУГАЙ» И ПРЕДЕЛЫ АНТРОПОЦЕНТРИЗМА
DOI:
https://doi.org/10.5840/eps202663230Ключевые слова:
искусственный интеллект, большие языковые модели, текст, семантический капитал, чуждое содержание, метасемантикаПоддерживающие организации:
Автор выражает благодарность Министерству науки и высшего образования Российской Федерации за поддержку данного исследования в рамках дополнительного соглашения № 075-03-2026-305 (от 16 января 2026 г.), связанного с проектом «Прикладные исследования по внедрению технологий искусственного интеллекта в высшее образование» (шифр научной темы: FSMG-2025-0086).Аннотация
Развитие и активное внедрение искусственного интеллекта (далее – ИИ), особенно в виде больших языковых моделей, вызвало новую волну дискуссий о семантических компетенциях технических устройств и критериях оценки результатов их функционирования, в частности, сгенерированных текстов. В статье предлагается рассмотреть ряд наиболее трудных вопросов и их представленность в современной философии языка. В первую очередь с опорой на теорию Л. Флориди ставится вопрос о возможности ИИ производить семантический капитал (далее – СК), который понимается как любое содержание, усиливающее чью-либо способность к созданию смысла и значения. Показано, что теория СК остается в значительной степени антропоцентрической и отводит нейросетям роль «семантического брокера», т.е. сущности, способной обеспечивать прирост СК за счет вычислительных возможностей, не обладая при этом ни значением, ни смыслом. Далее автор показывает, как проблема «стохастического попугая» разворачивается в рамках различных метасемантических теорий. Констатируя, что одни и те же концепции используются как для обоснования отсутствия, так и наличия способности ИИ к производству значения, отмечается общее ограничение подходов, созданных для объяснения человеческого лингвистического поведения. С помощью метода «антропоцентрического абстрагирования», предложенного Г. Каппеленом и Дж. Девером, приводится пример применения экстерналистской семантики С. Крипке к анализу работы систем принятия решений. Особое внимание уделяется проблеме чуждого содержания, производимого нейросетями, и его понимания; описываются возможные сценарии преодоления коммуникативного разрыва между людьми и системами ИИ. В заключение формулируется вывод о необходимости симметричного подхода к оценке ИИ и человека в вопросе семантических компетенций с учетом различий их внутреннего устройства и функционирования; утверждается когнитивная коэволюция людей и систем ИИ, а также важность исследования социальных механизмов поддержания СК.
Библиографические ссылки
Alexander, J.C. “The Sacred and Profane Information Machine: Discourse About the Computer as Ideology”, Archives de sciences sociales des religions, 1990, vol. 35, no. 69, pp. 161–171.
Arai, Y., Tsugawa, S. “Do Large Language Models Advocate for Inferentialism?”, arXiv preprint arXiv:2412.14501, 2024.
Barrett, R.A., Shah, J.H., Kreminski, M. “Homogenization Effects of Large Language Models on Human Creative Ideation”, Proceedings of the ACM Creativity & Cognition Conference (C&C’24), 2024.
Bender, E.M., Koller, A. “Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data”, Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 2020, pp. 5185–5198.
Bender, E.M., Gebru, T., McMillan-Major, A., Shmitchell, S. “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT’21), 2021, pp. 610–623.
Bottazzi Grifoni, E., Ferrario, R. “The Bewitching AI: The Illusion of Communication with Large Language Models”, Philosophy & Technology, 2025, vol. 38, pp. 1–33.
Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S.M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M.A.K., Schwitzgebel, E., Simon, J., VanRullen, R. “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness”, arXiv preprint arXiv:2304.01481, 2023.
Cappelen, H., Dever, J. Making AI Intelligible: Philosophical Foundations. New York: Oxford University Press, 2021, 304 p.
Cappelen, H., Dever, J. “AI with Alien Content and Alien Metasemantics”, arXiv preprint arXiv:2405.19808, 2024.
Cappelen, H., Dever, J. “Going Whole Hog: A Philosophical Defense of AI Cognition”, arXiv preprint arXiv:2504.13988, 2025.
Crick, F. The Astonishing Hypothesis: The Scientific Search for the Soul. New York: Charles Scribner’s Sons, 1994. 317 p.
Doshi, V., Li, M. “Writing in Symbiosis: Mapping Human Creative Agency in the AI Era”, arXiv preprint arXiv:2512.13697, 2025.
Floridi, L. The Philosophy of Information. Oxford: Oxford University Press, 2011, 353 p.
Floridi, L. “Faultless Responsibility: On the Nature and Allocation of Moral Responsibility for Distributed Moral Actions”, Philosophical Transactions of the Royal Societу, Series A, 2016, vol. 374, no. 2083.
Floridi, L. “Semantic Capital: Its Nature, Value, and Curation”, Philosophy & Technology, 2018, vol. 31, no. 4, pp. 481–497.
Floridi, L. “Distant Writing: Literary Production in the Age of Artificial Intelligence”, Minds and Machines, 2025, vol. 35, no. 3.
Gunkel, D., Coghlan, S. “Cut the Crap: A Critical Response to ‘ChatGPT is Bullshit’”, Ethics and Information Technology, 2025, vol. 27, no. 23.
Herbold, S., Hautli-Janisz, A., Heuer, U., Kikteva, Z., Trautsch, A. “A Large-Scale Comparison of Human-Written versus ChatGPT-Generated Essays”, Scientific Reports, 2023, vol. 13.
Hicks, M.T., Humphries, J., Slater, J. “ChatGPT is Bullshit”, Ethics and Information Technology, 2024, vol. 26.
Huang, M., Ki, E. “Examining the Effect of Anthropomorphic Design Cues on Healthcare Chatbots Acceptance and Organization-Public Relationships”, International Journal of Human – Computer Interaction, 2024, vol. 40, pp. 8781–8793.
Kirschenbaum, M. “Prepare for the Textpocalypse”, The Atlantic, March 8, 2023.
Köbis, N., Mossink, L. “Artificial Intelligence versus Maya Angelou: Experimental Evidence that People Cannot Differentiate AI-Generated from Human-Written Poetry”, Computers in Human Behavior, 2021, vol. 114.
Koch, S. “Babbling Stochastic Parrots? A Kripkean Argument for Reference in Large Language Models”, Philosophy of AI, 2025, vol. 1, pp. 19–33.
Kripke, S.A. Naming and Necessity. Cambridge, MA: Harvard University Press, 1980, 172 p.
Liang, W., Zhang, Y., Wu, Z., Lepp, H., Ji, W., Zhao, X., Cao, H., Liu, S., He, S., Huang, Z., Yang, D., Potts, C., Manning, C.D., Zou, J.Y. “Quantifying Large Language Model Usage in Scientific Papers”, Nature Human Behaviour, 2025, vol. 9, pp. 2599–2609.
Licon, J.A. “ChatGPT is Bullshit (Partly) Because People are Bullshitters”, Philosophy & Technology, 2025, vol. 38, no. 75, pp. 1–16.
Mallory, F. “Fictionalism about Chatbots”, Ergo: An Open Access Journal of Philosophy, 2023, vol. 10.
Messeri, L., Crockett, M.J. “Artificial Intelligence and Illusions of Understanding in Scientific Research”, Nature, 2024, vol. 627, pp. 49–58.
Mollo, D.C., Millière, R. “The Vector Grounding Problem”, arXiv preprint arXiv:2304.01481, 2023.
Nannini, L. “Voluminous yet Vacuous? Semantic Capital in an Age of Large Language Models”, Ethics and Trust in Human-AI Collaboration, 2023.
Paredes, J.L., Smith, E., Druck, G., Benson, B. “More Articles Are Now Created by AI Than Humans”, Graphite.io, 2026. [https://graphite.io/ five-percent/more-articles-are-now-created-by-ai-than-humans, accessed on 20.03.2026]
Putnam, H. “The Meaning of ‘Meaning’”, in: Mind, Language and Reality: Philosophical Papers, vol. 2. Cambridge: Cambridge University Press, 1975, pp. 215–271.
Sambrotta, M. “LLMs and the Logical Space of Reasons”, Minds and Machines, 2025, vol. 35, pp. 1–23.
Søgaard, A. “Do Language Models Have Semantics? On the Five Standard Positions”, Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics, 2025, pp. 25910–25922.
Zhang, Y., Gosline, R. “Human Favoritism, Not AI Aversion”, SSRN, 2023, paper 4453958.
