人工智能道德顾问的合理性反思

伦理学研究 ›› 2022 (5): 119-126.

人工智能道德顾问的合理性反思

刘星

出版日期:2022-09-10 发布日期:2022-11-15
作者简介:刘星,中南大学湘雅医院副教授。
基金资助:
*本文系湖南省科技重大专项项目（2019SK1011）、长沙市自然科学基金项目（kq2202362）、中南大学湘雅医院管理研究基金（2021GL13）、中南大学研究生教学改革课题（2022JGB126）的阶段性成果

Online:2022-09-10 Published:2022-11-15

摘要/Abstract

摘要： 作为理想观察者的准相对论版本,人工智能道德顾问（AMA）技术能够根据个体道德标准和道德价值观提供最好的道德建议,以道德顾问和劝导者的形式改善人类的道德决策,增强个体道德自主性和道德自由,保存个体的道德理性和道德权威。AMA能够独立于情感的扭曲影响并保持情感的积极作用,从而执行不需要情感作用的认知功能以实现其启发式影响。作为一种外部的道德增强技术,AMA既不存在内部干预措施预期结果的伦理争议,也没有干预手段自身的内在错误,在道德自由、道德增强和道德责任等方面都具有合理性。

刘星. 人工智能道德顾问的合理性反思[J]. 伦理学研究, 2022(5): 119-126.

参考文献

[1] HAIDT J,JOSEPH C.The moral mind:how five sets of innate intuitions guide the development of many culture-specific virtues,and perhaps even modules// CARRUTHERS S,et al (eds.). The innate mind,foundations and future (evolution and cognition)[M].Oxford:Oxford University Press,2007,3.
[2] GIUBILINI A,SAVULESCU J.The artificial moral advisor. The “Ideal Observer” meets artificial intelligence[J].Philosophy & technology,2018,31(2).
[3] JASON K.Virtue theory and ideal observers[J].Philosophical Studies,2002,109.
[4] SAVULESCU J,MASLEN H.Moral enhancement and artificial intelligence:Moral AI?// ROMPORTL J,ZACKOVA E,KELEMEN J(eds.). Beyond artificial intelligence:the disappearing human-machine divide[M].New York:Springer,2015,6.
[5] 金炳华,等.哲学大辞典[Z].上海:上海辞书出版社,2001.
[6] 易小明.道德自由概念探原[J].道德与文明,2021(2).
[7] 甘绍平.意志自由与神经科学的挑战[J].哲学研究,2013(8).
[8] 甘绍平.意志自由的塑造[J].哲学动态,2014(7).
[9] 胡永文,柯文.道德增强与人的自由:自主原则的视角[J].自然辩证法通讯,2021(9).
[10] WEISBERG J.The bootstrapping problem[J].Philosophy Compass,2012,7(9).
[11] HAIDT J,GRAHAM J.When morality opposes justice:Conservatives have moral intuitions that liberals may not recognize[J].Social Justice Research,2007,20(1).
[12] DANIELS N. Reflective equilibrium[EB/OL].ZALTA E N (ed.).[2011-01-12].http://plato.stanford.edu/archives/win2013/entries/reflective—equilibrium/.
[13] 聂文军.道德相对主义的多重合理性、挑战与续思[J].道德与文明,2014(1).
[14] 陈真.道德相对主义与先天道德客观主义[J].道德与文明,2014(1).
[15] 徐向东. 自由意志与道德责任[M].南京:江苏人民出版社,2006.
[16] 刘星.道德责任判断的合理依据及其界定假说:以神经科学为视角[J].华中科技大学学报(社会科学版),2013(3).
[17] KAWALL J.On the moral epistemology of ideal observer theories[J].Ethical Theory and Moral Practice,2006,9(3).