中国伦理学会会刊
国家社科基金资助期刊
中文社会科学引文索引(CSSCI)来源期刊
全国中文核心期刊
中国人文社会科学核心期刊

Studies in Ethics ›› 2024(6): 89-96.

Previous Articles     Next Articles

The Ethical Challenges of Artificial Intelligence Value Alignment and Their Mitigation Paths

Yuan Xuliang   

  • Online:2024-11-10 Published:2024-12-17

人工智能价值对齐的伦理挑战及其消解路径

袁旭亮   

  • 作者简介:袁旭亮,大连理工大学大数据与人工智能伦理法律与社会研究中心、哲学系讲师,硕士生导师,南开大学哲学博士。
  • 基金资助:
    *国家社会科学基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”(17ZDA023)的阶段性成果

摘要: 人工智能自主性的增强使其具有了“主动”制造伦理问题的能力,这进一步凸显了确保高度自主的人工智能的价值观与人类的价值观保持一致的必要性,即实现人工智能与人类的价值对齐。当前基于机器学习的人工智能价值对齐研究与实践有蓬勃发展之势,但是这一对齐路径将会面临由规范伦理学中的“是”到“应该”的逻辑推导鸿沟导致的人工智能不能从数据信息中提取出价值规范的道德价值提取挑战,以及行为伦理学中的“有限伦理”理论所揭示的人工智能学习的数据信息可能具有内在道德缺陷的道德价值来源合道德性挑战。这两大伦理挑战揭示了基于机器学习的人工智能价值对齐路径所具有的深刻伦理缺陷,故而若想真正实现人工智能价值对齐,必须探究如何消解上述两大伦理挑战。

关键词: 人工智能价值对齐, 机器学习, “是”到“应该”的逻辑推导鸿沟, 有限伦理