前言
机器人在军事领域的应用，或者机器人的杀戮行为给人类带的灾难是显而易见的。人类本希望机器人的设计者构建的这一系统是防卫性然而它已脱离了这一界限，并逐渐成为我们人类生活中的一部分。这样一来，它所隐含的危险因素在未知事件中也可能随时出现。
随着事件的发生，专家注意到如果美国电网遭受黑客攻击，鉴于电网主要依赖的旧的硬件和软件系统，很有可能造成一周甚至一个月的电网事故。为了防止这样的事情发生，这些旧的软件和硬件已经进行了更新。
然而，这种完全依靠电脑控制的电网系统在面对紧急情况时，并没有一个可以预防的措施，而且不同电力系统之间沟通和协调不足更加剧了这种不确定性。而电力公司的操作人员，通过协调工业用电和居民用电来保证必要的电力运行，在切换之间，他可以发挥更大的自主权利。
不管决定者是机器还是人类，都面临着保护机器和降低伤害两个方面的考虑。如果设备破坏了，损害将会增加，这种损害包括保养机器所使用的时间。由此引发的思考或决定就包括了价值的判断。随着系统变得越来越自动化，这些判断不再完全由操作员控制。如果系统对那些本来应该在某些不确定的情况下起到指导作用的价值判断视而不见，那么很有可能会引起大的宋难。甚至在今天，单个机器所引发的事故可能较少，但谷歌研究中心的负责人注意到，机器累积起来的事故行为还是非常严重的。
在美国每天都会有人因为医疗事故而死亡，这些医疗事故中很多和电脑存在关系。这人中，有些人是给错药，有些人是给错剂量。我们不能确定电脑失误的比重有多大，但是这些事故中因电脑的失误而造成的损害确实严重，甚至每到个月因电脑操作引发的医疗事故死亡的人数与美国恐怖袭击事件死亡的人数是相等的。
自动化系统在医疗中引起的危险与科幻小说中掐述的危险存在很大的差距。因为这个系统不是动漫中的“HAL"，它不能够杀死飞行员，也不是“骇客帝国”中的Martrix，一心想奴役人类。而有争议的是，现在大部分机器人引起的伤害均归咎于零件的失误或者错误的设计。2007年，、卜自动大炮在使用时一个零件的损害，导致了9个士兵的死亡，而从设计者的角度考虑，则归咎于没有建立足够的应急防卫机制。这些错误，比如错误的零件、不准确的设计、不合理的系统致使人机之间的问题越来越难区分。而往往在问题出现之后，都可能归结为机器人的问题。
Rosalind Picard认为:一个机器拥有的自由越多，它所需要的道德标准就越多。在机器人的设计或制造上，设计者或生产者认为，如果把精力集中在关注伦理建构的问题上，那么将会增加成本或减少成品。而今人们对自动化的认识己经达到了一定程度，要想完全实现全自动化，比如自动财政系统等等，还有很长的路要走。科技的不断进步，使得工程师的每一个决定都可能影响人类的生活。
伴随着系统的复杂化和在不同的环境中运用自动系统能力的不断扩展，机器的道德属性变得越来越重要。人类需要这些机器自我控制、自我调节，同时自主做出道德决定。
人工智能技术已成为人类社会不可或缺的一部分。随着科学技术，尤其是生物科技的不断进步，人工智能逐渐表现出更加自主的活动能力，尽管人工智能体在目前还存在很多认识上的局限以及技术上的限制，但未来机器人很有可能发展成真正自主的道德主体，它们具有理解力以及意识能力，这样一来，机器人作为道德主体很有可能会与我们人类在传统的道德关系中分一杯羹。
那么这也就加剧了人类对机器的一些恐惧情绪，尤其是随着军事机器人杀戮行为的透明化，人类对智能体技术的担忧更逐步增加。人类在是否赋予机器人以自主行为以及自主道德决策能力的问题上左右徘徊，很显然，机器自主能力的幵发已成为社会和技术发展不可逆转的潮流，那么这就迫使人类赋予机器以责任。这种观念的转变进一步增强了人类渴望开发机器人道德自主能力的愿望。
一方面，人类渴望技术的不断进步并享受由此带来的更加便利的生活与工作环境；另一方面，我们也在担心技术发展会压缩人类的生存空间，抢夺人类资源，甚至会受到机器的奴役。这种矛盾的存在集中体现在本文提到的“恐怖谷”思想，而如何解决这种道德上的冲突成为人工智能技术发展过程中亟需面对的问题。
随着机器人技术的不断进步，人们对机器人的理解已不仅仅停留在机器或工具的层面，类人型机器人，生物型机器人以及其它仿真机器人越来越深入地融入到人类的生活中。机器人通过图灵测试的能力也逐步加强，这样史加剧了机器人在人类生活中应用的广泛性。伴随着人类对机器人应用中所凸显的伦理方面的问题，人们试图从权利与义务的角度，以及机器人伦理与人类道德的层面去寻找答案，并期待可以在机器人应用所引起的权利与义务关系中深化机器人伦理问题。
机器最终可能会具有人类的特性，从而变得非常复杂，这个想法由来己久。而事实上这种想法目前尚无法实现，那些从文学作品中演化出来的机器特性，并以此指出机器具备人类类似的能力是指日可待的说法，只会增加人的忧虑感。当然，这并非让我们无所顾忌地设计或使用智能机器，随着技术水平的不断提高，如果人类成功设计出类似于人类的机器人，那么相关伦理和道德方面的问题也确是值得思考的。
那么在这种情况下我们就需要面对一些问题，特别是当智能机器人具有人类智力水平时，人类对此应该负有什么样的义务，或者更为直接一些，我们是否可以随心所欲地控制它们，甚至是销毁它们。然而，在面对这个问题之前，我们首先应该做的是确认此类型的机器人什么时候能够出现，以此来避免我们在无意中销毁第一个具有智能一十：物大脑的机器人。因此，在人工智能研究领域，如何确认机器人能够具有道德性成为非常重要的问题。
在《Ethics and Information Technology》中曾刊发过题为“图灵分流测试”的一篇论文，它描述了这样一个情况，可以按照机器智能图灵测试，检测机器是否具有人类的道德水平。
结语
并表明了这样做的几方面意义:1、解释为什么图灵分流测试在当今有关人工智能的争论中具有十分重要的意义;2、解决一些可能在应用这个测试过程中使其复杂化的问题;并且3、通过这样做，来确认智能机器可以具有道德属性，并且在方法上具有可行性。最后一个目的，揭示尽管观念与技术发展之间存在差距，但哲学的目的在很大程度上即是对技术存在和应用的反思，并能够在反思中促进技术和观念的进步与融合。
