前言
毋庸置疑，机器人在发展和应用的过程中肯定会带来一些社会风险，那么这些风险危险到什么程度？人类是否可以对此进行恰当的评估呢？关于药品安全、建筑工程以及复杂技术的风险评估，通常是基于大量的数据信息，然后据此做出有价值的判断。
而往往这一价值判断与某种利益相联系，并且由于未来的不可预见性，或希信息的廣乏，人类对某一事物的预见很有可能变得不可靠。风险评估的过程就是衡量不同利益的过程，并在其中消弹可预见的风险。如果不通过这种过程，人们可能倾向于过度强调突出的利益或者不利因素。我们应该认识到对风险的识别反过来可以促进对风险的处理。它具有两方面的作用：首先，执行某一系统，个人和社会存在着风险。
比如，家庭服务机器人可能会对进入该家庭的陌生人造成身体或生理的风险，但对家庭内部的人不会造成伤害。另外，互联网中的自动财务系统，或许不大可能引起直接的生理伤害，但是却有深远的社会影响，并有可能会间接地影响个体的身体。其次，风险评估能够预测出某一行为造成的后果以及达到的程度。也就是说，风险分析能够在基本的数据下，潜在地帮助人工智能体挑选最好的行为方式，或者帮助人工智能体分析他们行为的后果。这有助于机器人在未来的研究和应用中充分发挥其向善的一面，而有效抑制其不利方面。
大众认为核武器应该是最危险的。而专业的风险评估师则认为核武器比其它方面造成的伤害相对较低，外科手术则相对较高。这些专家与大众认识的不同，并非意味着专家们的正确和大众的无知。而是说，不同的因素和视角可能会影响风险评估的结果。
通常，科幻小说让人们感觉到人工智能系统或机器人将会灭亡人类。那么，工程师们是否还要继续沿着灭绝人类的道路前进呢 如果我们认为这种风险是极低的，那么人类是否可以去冒险呢 克服诸如此类的问题，我们认为在机器人或人工系统中融入伦理和道德的因素还是必要的。
人类应该在智能体开发过程中植入“预先警戒规则’，，如果某一行为的结果不确定，但是经判断可能有潜在的消极结果，那么最好就是避免这种行为。预先警戒规则的困难在于什么时候在机器中建立。我们不可能因为机器人给人类造成的恐惧而牺牲过去五十多年从电脑技术中得到的好处。同时需要进一步明确的是运用预先警戒规则并非是减弱人们对警惕性的关注。
人工智能的发展引起了人们极大的关注，它固然存在一些危险，但我们是否应该停止有关人工智能方面的应用，这可能非常困难。世界卫生组织在1999年发布的一个报告里称，在15——45岁的人群里，交通事故是主要的杀手。1998年，机动车事故在世界范围内引起了1,170,694人的死亡。这个数据还不包括与汽车相关联地间接死亡的人数，空气污染及全球变暖导致的死亡。如果在汽车发明之始，人们己经知道了机动车的危害，那么他们是否愿意停止发展这种大众热爱的交通方式呢 或许不会。绝大多数人相信机动车辆的优点是大于它们的潜在危害的。
人们关注人工智能系统的潜在危害性，这由此激发了人们对人工智能道德规范的兴趣。我们相信人工智能体在赋予其道德性以后，其弊大于利的问题应该会降低或消失。下面我们将从人工智能体尤其是机器人在发展过程中面临的伦理困惑进一步分析智能体道德建构的重要性。
人类所打造的环境越来越多被具有自动活动能力的人工智能体所占据。迄今为止，由软件控制的这些自动化系统，在两个方面存在“伦理缺陷”。第一，这一系统的决策做出能力不包含任何道德理性的特征；第二，这个系统的感官能力与伦理方面的普遍特征没有明显的连接。
例如，汽车上的酒精测试装置可能会阻止你发动机器，但是它不能够告诉你汽车在行进过程中由于车祸会流血身亡，也不能够意识到拒绝发动机器在人类道德上所产生的重要意义。智能体的这一表现引起了人们的一系列思考。
在机器人的道德建构过程中，我们认为研发人员有必要加机器人自动化系统，这样可以确保它们有能力把伦理和道德的因素融入到决策系统中。设计者在编程过程中，对于敏感的道德考量系统，他们的设计策略是检测伦理理论在决策控制体系内所扮演的角色。社会中的很多领域都强调对于人工智能体道德的需求。比如为了吸引公众的注意，在模拟战争剧场中对军用机器人部署的说明以及在家庭或健康护理中对服务型机器人的介绍。
然而，基于计算机自动化系统中的机器人做出的决定，无论利弊与否，都已经影响到人类。在很多科幻小说中关于“机器人”道德的主题已经广为介绍。诸如，阿西莫夫关于机器人的三大定律；还有在电视节目中，诸如《星际迷航》，另外在好莱玛的电影中也有很多的介绍。然而，我们的这一工程无论是在过去还是在将来都不是为了发展科幻小说，恰恰相反，我们强调的是人工道德工程在计算机科学和机器人发展中的建立。为什么要建立具有道德决策能力的机器？
毋庸置疑，在薄弱的感官领域，人工道德的建立还是很有必要的，因为我们在这一领域不是技术上的棺命论者。个体可能不会选择研发原子弹。同样，人类也不可能会宣布终止发展或部署自动化机器人。然而，这两方面却完全不同。自从指出”机器的自由程度越高，就越需要道德标准”之后，人工道德的发展就变得尤为必要。技术革新聚合了很多复杂的系统，这种情况下就更需要发展道德决策方而的能力。伴随着无人驾驶机车的出现，空屮无人机也己经普遍，自动机器开始在更为复杂的状况下出现，诸如伦敦、巴黎以及哥本哈根的地铁系统。
处于道德两难境地的伦理学家虚构的“失控电车案例”可能代表了人工道德在目前所应承受的挑战。这个系统中对于设计者来说最为困难的任务是目标的定位。也就是说，人工道德“好的一而”究竟是什么？在软件代理中计算机病毒己经对人类造成了伤害。以信用卡支付系统为例，它是自动化系统的一个典型，但由于它缺乏道德决策方而的能力，因而已经对我们的生活产生了很大的影响。
在当今社会，电脑信息处理方面的技术应用已经深入到我们生产生活的各个领域，包括在家庭中负责照顾老年人的服务型机器人，以及具有射击功能的军用机器人，它们缺乏伦理维度的考量，从而可能会对人类造成伤害。
结语
人工智能的发展包括两个方面：自动化系统和技术革新。这两个方面都要求增加人类道德决策能力。而每一个方面都面对不同的伦理考量。在本节中，我们首要关注的是自动化系统中道德决策能力的发展。
