人工智能价值对齐的伦理挑战及其消解路径

伦理学研究 ›› 2024 (6): 89-96.

人工智能价值对齐的伦理挑战及其消解路径

袁旭亮

出版日期:2024-11-10 发布日期:2024-12-17
作者简介:袁旭亮,大连理工大学大数据与人工智能伦理法律与社会研究中心、哲学系讲师,硕士生导师,南开大学哲学博士。
基金资助:
^*国家社会科学基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”(17ZDA023)的阶段性成果

The Ethical Challenges of Artificial Intelligence Value Alignment and Their Mitigation Paths

Yuan Xuliang

Online:2024-11-10 Published:2024-12-17

摘要/Abstract

摘要： 人工智能自主性的增强使其具有了“主动”制造伦理问题的能力,这进一步凸显了确保高度自主的人工智能的价值观与人类的价值观保持一致的必要性,即实现人工智能与人类的价值对齐。当前基于机器学习的人工智能价值对齐研究与实践有蓬勃发展之势,但是这一对齐路径将会面临由规范伦理学中的“是”到“应该”的逻辑推导鸿沟导致的人工智能不能从数据信息中提取出价值规范的道德价值提取挑战,以及行为伦理学中的“有限伦理”理论所揭示的人工智能学习的数据信息可能具有内在道德缺陷的道德价值来源合道德性挑战。这两大伦理挑战揭示了基于机器学习的人工智能价值对齐路径所具有的深刻伦理缺陷,故而若想真正实现人工智能价值对齐,必须探究如何消解上述两大伦理挑战。

关键词: 人工智能价值对齐, 机器学习, “是”到“应该”的逻辑推导鸿沟, 有限伦理

袁旭亮. 人工智能价值对齐的伦理挑战及其消解路径[J]. 伦理学研究, 2024(6): 89-96.

Yuan Xuliang. The Ethical Challenges of Artificial Intelligence Value Alignment and Their Mitigation Paths[J]. Studies in Ethics, 2024(6): 89-96.

导出引用管理器 EndNote|Ris|BibTeX

参考文献

[1] WIENER N.Some Moral and Technical Consequences of Automation: As Machines Learn They May Develop Unforeseen Strategies at Rates that Baffle Their Programmers[J].Science,1960,131(3410).
[2] RUSSELL S, DEWEY D, TEGMARK M.Research Priorities for Robust and Beneficial Artificial Intelligence[J].AI Magazine, 2015, 36(4).
[3] ACHIAM J, ADLER S,AGARWAL S,et al. GPT-4 Technical Report[J/OL].Arxiv Preprint,(2024-03-01)[2024-03-04].https://arxiv.org/abs/2303.08774.
[4] 闫坤如.人工智能价值对齐的价值表征及伦理路径[J].伦理学研究,2024(4).
[5] 休谟. 人性论[M].关文运,译.北京:商务印书馆,2016.
[6] 韦伯. 社会科学方法论[M].朱红文,陈亚明,邓建平,等译.北京:中国人民大学出版社,1992.
[7] 摩尔. 伦理学原理[M].陈德中,译.北京:商务印书馆,2017.
[8] 陈晓平.“是—应该”问题及其解答[J].现代哲学,2002(3).
[9] 程仲棠.从“是”推不出“应该”吗?(上):休谟法则的哲学根据质疑[J].学术研究,2000(10).
[10] KIM T W, HOOKER J, DONALDSON T.Taking Principles Seriously: A Hybrid Approach to Value Alignment in Artificial Intelligence[J].Journal of Artificial Intelligence Research, 2021, 70.
[11] 肖峰.人工智能与认识论的哲学互释:从认知分型到演进逻辑[J].中国社会科学,2020(6).
[12] 薛桂波,赵建波.从“应当”到“是”:人工智能伦理规范实践策略探析[J].自然辩证法研究,2023(1).
[13] 孙伟平.价值哲学视域中的算法歧视与社会公正[J].哲学研究,2023(3).
[14] ANDERSON S L, ANDERSON M.A Prima Facie Duty Approach to Machine Ethics: Machine Learning of Features of Ethical Dilemmas, Prima Facie Duties, and Decision Principles Through a Dialogue with Ethicists[M]//ANDERSON S L, ANDERSON M(eds.). Machine Ethics. Cambridge: Cambridge University Press, 2011.
[15] CHUGH D, BAZERMAN M H, BANAJI M R.Bounded Ethicality as a Psychological Barrier to Recognizing Conflicts of Interest[M]//MOORE D A,CAIN D M, LOEWENSTEIN G, et al(eds.). Conflicts of Interest: Challenges and Solutions in Business, Law, Medicine, and Public Policy. Cambridge: Cambridge University Press, 2005.
[16] 刘易斯-伯克,布里曼,廖福挺.社会科学研究方法百科全书精编版A-D[M].沈崇麟,赵锋,高勇,译.重庆:重庆大学出版社,2022.
[17] SIMON H.Reason in Human Affairs[M].Stanford:Stanford University Press,1983.
[18] 倪梁康.意识现象学与无意识研究的可能性[J].中国社会科学,2021(3).
[19] 卢毅.“无意之罪”何以归责?:哲学与精神分析论域下的“无意识意愿”及其伦理意蕴[J].哲学研究,2020(1).
[20] BARGH J A,CHARTRAND T L.The Unbearable Automaticity of Being[J].American Psychologist,1999,54(7).
[21] SEZER O, GINO F, BAZERMAN M H. Ethical Blind Spots: Explaining Unintentional Unethical Behavior[J].Current Opinion in Psychology,2015(6).
[22] DUNNING D.A Newer Look: Motivated Social Cognition and the Schematic Representation of Social Concepts[J]. Psychological Inquiry,1999, 10(1).
[23] BAZERMAN M H,CHUGH D.Bounded Awareness: Focusing Failures in Negotiation[M]//Negotiation Theory and Research. New York: Psychology Press,2006.
[24] 闫宏秀,李洋.价值对齐是人类通往未来的“必经之路”吗?[J].科学·经济·社会,2024(2).
[25] 龚群.论弱人工智能体的道德性考察[J].哲学研究,2023(3).
[26] ROFF H M. Expected Utilitarianism[J/OL].Arxiv Preprint,2008[2024-03-04].https://arxiv.org/abs/2008.07321.
[27] 闫坤如.人工智能体价值对齐的分布式路径探赜[J].上海师范大学学报(哲学社会科学版),2024(4).