算法主义的伦理批判

伦理学研究 ›› 2024 (4): 101-108.

算法主义的伦理批判

胡晓萌

出版日期:2024-07-10 发布日期:2024-08-19
作者简介:胡晓萌,广州大学马克思主义学院特聘研究员,长沙市新一代人工智能伦理治理与公共政策实验室特聘研究员,清华大学社会科学学院助理研究员。
基金资助:
* 中国博士后科学基金第73批面上资助项目（2023M732381）、国家社会科学基金一般项目“人机融合智能的道德风险及其协同治理研究”（20BZX029）的阶段性成果

The Ethical Criticism of Algorithmism

Hu Xiaomeng

Online:2024-07-10 Published:2024-08-19

摘要/Abstract

摘要： ChatGPT类大模型掀起了一轮新的智能革命。这场技术革命之下涌动着一股算法主义的思潮观念或意识形态。算法主义以万物皆算法、算法是认知的基础、算法是价值评判的新标准等为强纲领,引发了对人的价值颠覆,即人的价值让位于算法的价值。算法主义的理论主张不仅与人文精神相悖,其价值预设还存在严重谬误,可能造成对人的自由意志威胁、人性和社会责任的忽视。为了避免技术对人的颠覆,必须持续思考在人机关系中如何保障人类的主体性地位,走向以人为本的算法伦理。

关键词: ChatGPT, 算法主义, 经验论, 以人为本

胡晓萌. 算法主义的伦理批判[J]. 伦理学研究, 2024(4): 101-108.

导出引用管理器 EndNote|Ris|BibTeX

参考文献

[1] HARARI Y N.Yuval Noah Harari Argues that AI has Hacked the Operating System of Human Civilisation[J].The Economist,2023,04(22).
[2] SEAVER N. Algorithms as Culture: Some Tactics for the Ethnography of Algorithmic Systems[J].Big Data ＆ Society,2017(2).
[3] GILLESPIE T.Algorithm[M]// PETERS B(ed.).Digital Keywords: A Vocabulary of Information Society and Culture. Princeton,New Jersey:Princeton University Press,2016.
[4] ELLUL J.The Technological Society[M].New York:Alfred A. knopf,1964.
[5] 张小珺.陆奇最新演讲实录:我的大模型世界观[EB/OL].(2023-04-23)[2023-12-10].https://new.qq.com/rain/a/20230423A08J7400.
[6] NEYLAND D,MOLLERS N.Algorithmic IF… THEN Rules and the Conditions and Consequences of Power[J].Information,Communication & Society,2016,20(1).
[7] 李伦,黄关.数据主义与人本主义数据伦理[J].伦理学研究,2019(2).
[8] VILLALOBOS P, MOLINA J S, HEIM L, et al. Will We Run Out of Data?An Analysis of the Limits of Scaling Datasets in Machine Learning[J].arXiv preprint arXiv:2211.04325,2022.
[9] GUO X, CHEN Y. Generative AI for Synthetic Data Generation: Methods, Challenges and the Future[J]. arXiv preprint arXiv:2403.04190, 2024.
[10] 胡晓萌. 算法主义及其伦理批判[D].湖南师范大学,2022.
[11] ANDREESSEN M. Why Software Is Eating The World[EB/OL].(2011-08-20)[2023-12-11].https://www.wsj.com/articles/SB10001424053111903480904576512250915629460.
[12] 佩德罗·多明戈斯.终极算法:机器学习和人工智能如何重塑世界[M].黄芳萍,译.北京:中信出版社,2017.
[13] KISSINGER H,SCHMIDT E,HUTTENLOCHER D. ChatGPT Heralds an Intellectual Revolution[EB/OL].(2023-02-23)[2023-12-12].https://www.wsj.com/articles/chatgpt-heralds-an-intellectual-revolution-enlightenment-artificial-intelligence-homo-technicus-technology-cognition-morality-philosophy-774331c6.
[14] ALTMAN S. Governance of Superintelligence[EB/OL].(2023-05-22)[2023-12-15].https://openai.com/blog/governance-of-superintelligence.
[15] BILLIC P.The Production of Algorithms and the Cultural Politics of Web Search[J].Technologies of Labour and the Politics of Contradiction,2018.
[16] FLORIDI L.AI as Agency without Intelligence: On ChatGPT,Large Language Models, and other Generative Models[J].Philosophy & Technology,2023,36(1).
[17] 徐英瑾.“常人”“自欺”与聊天软件[J].社会科学战线,2023(4).
[18] 吴国盛. 什么是科学[M].广州:广东人民出版社,2016.
[19] CHOMSKY N. The False Promise of ChatGPT[EB/OL].(2023-03-08)[2024-01-16].https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html.
[20] 汉娜·阿伦特.人的境况[M].王寅丽,译.上海:上海人民出版社,2009.
[21] UNITED NATIONS. A Global Digital Compact[R/OL].(2023-04-25)[2024-02-16].https://digitallibrary.un.org/record/4011033/files/A_77_CRP.1_Add.4-ZH.pdf?ln=ar.