身体各个器官都是为整体健康服务的，手术只是手段。通常情况下，对患者实施手术时应遵循不伤害、有益、公正、尊重等基本医学伦理原则。
人体的数字化改造是一个比较特殊的场景，目前还处于探索阶段。尤其是在思维表达和情感输出方面，技术难度远远大于我们的想象。
风险评估需要在人机结合的全过程中引入伦理委员会的审查机制。
文|《瞭望》新闻周刊记者于雪·贾文静
在与渐冻人抗争了近5年后，6月15日，世界上第一个真正的“电子人”彼得·斯科特·摩根的生命被定格在了64岁。
2017年11月，彼得被确诊为肌萎缩侧索硬化症，俗称渐冻症。渐冻症被世卫组织列为五大绝症之一。其发病率不高，但仍无法治愈。随着运动神经的退化，患者的行走、说话、吞咽、呼吸等功能会慢慢丧失，大多数患者在症状首次出现后的三到五年内死于呼吸衰竭。
作为全球机器人研究领域的知名科学家，彼得决定用现有的技术改造自己——用机械代替自己的部分器官。在他看来，只要活着，有自由思考的能力，生命就有存在的意义。
彼得的离开并不是结束。很多人相信，他为人类开启了新的征程。多位受访专家认为，这是一次围绕人类生活质量的科技探索，是一次科技为人服务的前沿实验。
当人机融合的触角深入到生活本身，人们想知道:未来人类被困在身体里的意义如何定义？人类进化还有新的可能吗？如何理性认识生活的复杂性？
2021年世界机器人大会上展示的脑机接口技术，照片由李欣/本刊拍摄
一次“史无前例”的医学尝试
据了解，为了维持生命的正常运转，用现有技术改造彼得的第一步是在各种并发症出现之前，进行“三重造口术”，即胃造口术、膀胱造口术和结肠造口术，以满足可能逐渐丧失的食物和排泄物的需要。
四川省脑科学与类脑智能研究院院长、电子科技大学信息医学研究中心主任姚德忠告诉《瞭望》新闻周刊记者，造口技术的发展在医学上已经比较成熟，三个手术本身并不难。挑战在于将之前的独立操作结合起来。目前世界上还没有病人同时做这三种手术。
彼得“史无前例”的手术面临诸多争议，核心问题是能否对未受伤的器官进行破坏性手术。
北京大学健康科学中心医学伦理与法律部副主任刘瑞双表示，身体的各个器官都是为人的整体健康服务的，手术只是一种手段。通常情况下，对患者实施手术时应遵循不伤害、有益、公正、尊重等基本医学伦理原则。
受访专家提醒，无伤害原则需要厘清伤害与伤害的关系。在医疗实践中，伤害是客观存在的。比如大部分手术都会造成皮肤损伤。不是，伤害主要是指在医疗服务中没有对患者造成不应有的伤害。
受益原则的核心是权衡手术的风险收益比。如果手术的好处大于风险，医生有义务帮助病人。
公正原则意味着医生应该公平地对待每一个病人。在稀缺医疗资源的配置上，要根据每个人的实际需求，合理配置医疗资源。
尊重的原则是充分尊重患者和受试者的自主权。这意味着，是否接受某种治疗方案，是否参与某种医学实验，应该完全由患者或受试者自己决定，医生不能代替做出任何判断。
刘瑞双说:“医疗实践需要根据临床情况具体分析，符合四项原则才能进行相关手术治疗。即使不能同时满足，即使其中一个能在伦理上得到充分辩护，也是可行的。”
公开资料显示，很多医生一开始都不同意给彼得做手术。受访专家推测，医生的出发点可能主要是基于无伤害原则——一方面担心全身麻醉会阻碍呼吸，另一方面担心手术可能会导致病情发展更快。最终，给彼得做手术的医生主要遵循了有利和尊重的原则。
在刘瑞双看来，如果不做手术，彼得只能慢慢“等死”，生活质量会严重下降，对他来说可能更痛苦。更重要的是，彼得作为一名科学家，思想先进、开放，对器官改造的利与弊一清二楚。医生不仅尊重彼得的意愿，也维护病人的生命尊严。
彼得的“三重造口术”耗时3小时40分钟。关于手术的医学论文入选2019牛津年度医学案例报告，其前瞻性和重要性可见一斑。
多位受访专家表示，彼得的手术是一次很好的尝试。未来在没有其他替代方法的情况下，针对渐冻人患者的“三联造口术”可能会规范化。
人类数字化转型技术任重道远。
在完成基本的物理改造后，彼得决定用智能机器来解决行动和交流等问题。
为了保持他的行动能力，科学家团队为他定制了一个高端轮椅，配备了电脑屏幕，可以通过眼球追踪技术控制电脑，然后控制轮椅帮助他站立、平躺和走动。
为了能够与外界交流，彼得依靠技术团队，留下了大量的语言和影像资料，创作了自己的3D影像。他可以通过眼睛控制电脑，并通过他的3D化身与外界互动。
2019年10月，彼得进行了最后一次手术——全喉切除术，以避免因无法控制喉咙的运动而导致危及生命的唾液进入肺部。这个月，医生原本估计了彼得的死亡时间。
手术后，彼得完全失去了声音，但他可以通过储存在电脑中的合成声音表达自己的想法。于是，一个“彼得2.0”诞生了，它依靠大脑、眼睛、人工智能和各种电子设备与命运抗争。多亏了科技的加持，彼得成为了人类历史上第一个“电子人”。
但是现实版的“电子人”和影视作品中科幻人物的全能有很大的区别。据媒体报道，彼得在变身后经历了难以想象的痛苦。比如智能设备不能完全理解他的意图，说一句话需要很长时间。
清华大学人工智能国际治理研究院副院长郑良表示，这些细节表明，相关智能技术的应用仍存在瓶颈。
姚德忠说，彼得的身体机能在不断退化，技术学习和更新的速度远远跟不上身体的变化。对于渐冻人患者来说，如何利用唯一的身体功能向机器传达正确的信号，是决定技术能否很好地为他们服务的关键。就技术本身的发展而言，能否持续跟踪身体退化的过程并同步做出相应的调整和变化，能否找到技术适应变化的规律，仍有待探索。
郑良介绍，目前语音合成、虚拟化身等技术在娱乐和生活服务方面有很多应用场景，比如智能客服、虚拟偶像等。相关技术已经逐渐成熟，但是人体的数字化改造是一个比较特殊的场景，还处于探索阶段。尤其是在思维表达和情感输出方面，技术难度远远大于我们的想象。
以脑机接口为例，姚德忠表示，未来这项技术将在脑损伤的治疗中发挥重要作用，包括重度抑郁、病态肥胖、睡眠质量低下等。，但是这个技术估计会很好，很难实践。因为大脑信号是不断变化的，很难收集到信号。即使能准确提取信号，由于目前可获得的数据很少，也很难准确理解信号的含义，世界上成功的案例也不多。
受访专家提出，人工智能技术的发展主要靠学习。未来可以考虑增加样本量，鼓励更多的专家、患者甚至健全人参与到人体运动和生理变化的跟踪和学习中来。当学习样本足够多，技术性能稳定时，技术可能提供更多的机会来改善患者的生存状态。
如何深度融合人机
作为“机器人人”的现实范例，彼得的自我改造为人机深度融合提供了更多的想象空空间。
浙江大学马克思主义学院教授潘说，自18世纪60年代以来，现代机器的发明和使用掀起了多次“机器换人”的高潮。
据了解，在“机器换人”时代，随着自动化、信息技术和数字技术的发展，部分人力资源被替代，这在一定程度上造成了人机关系的对立。然而，机器在取代一些传统工作的同时，也催生了许多新职业，如自动化培训师、数字化管理者、互联网营销人员等。“人机是互补关系而不是替代关系，会逐渐走向深度合作。”郑良说。
尤其是随着深度学习技术将人工智能推向新阶段，再次深度改造人机关系，让“机器人化的人类”逐渐成为可能。
潘说，如果说传统的“机器换人”是机器介入人与人之间，那么“机器-人”就是机器介入人类生活本身所形成的“后人类”——cyber g。
在刘瑞双看来，在“机器人化的人”时代，人类的思维可能会永存，在云端实现永生。
美国特斯拉首席执行官埃隆·马斯克(Elon musk)近日表示，他已经将自己的“大脑”上传到了云端，并与它展开了对话。对此，受访专家提出，所谓的“意识上传”只是一个噱头，技术上还有很多局限。
在云端与“大脑”对话依赖于很多技术，其中机器学习是关键。郑良介绍，与目前基于深度神经网络和大规模数据训练的机器学习不同，下一步人机交互甚至“融合”的技术路线主要有两条:一条是模拟人类的学习方式，但由于目前还无法准确还原人类的学习过程，且其中的因果关系尚不明确，因此机器学习的深度和准确度有限；另一个试图建立一个知识库，穷尽所有人类的知识，注入机器。但由于数据量巨大，很难顺利调用各种数据。
显然，与某些人的美好愿景相比，以机器学习为代表的人工智能技术的成熟度还远远不够。“比如还在细胞阶段，离复杂的生命还很远。也不是完全没有可能，只是路还很长。”郑良说。
总的来说，人机融合还是在外围领域，比如给运动障碍患者换假肢。对于更深层次的人机融合，国际上很少有成功的案例。
在姚德忠看来:“除了技术不够成熟，更重要的是人机一体化还没有达成共识。比如机器会不会取代人类，能在哪些方面取代人类，机器会不会有自己的意识，是否允许有意识等等。”
“和谐的人机关系永远离不开人的尊严，它应该以人的自由意志为中心。如果脱离了为人民服务的根本原则，技术将是非常危险的。”刘瑞双说。
人机一体化的边界怎么划定？
彼得的生命已经结束，但他关于人机融合边界的讨论还在继续。
技术是一把双刃剑。新一轮科技革命在帮助传统产业转型升级、带动智能经济快速发展的同时，当人机融合的触角深入人类生活时，也可能引发一些社会风险。
受访专家表示，相关技术一旦投入使用，可能会伴随着不公平现象，比如是否所有人都有平等的机会享受数字化转型的资源，以及转型后的人类在某些领域可能具有天然优势，更容易造成两极分化等。因此，人机一体化的相关制度规范必须领先于技术发展，以保障社会治理。
梁在建议，定义人机融合的边界首先需要定义使用目的。当人机结合用于治疗疾病和提高个体生活质量时，通常满足四个基本的医学伦理原则。
姚德忠表示赞同:“对于一些罕见病群体来说，技术可能是他们获得新生的唯一途径，所以我们应该为他们打开这扇门。”
在使用人机融合增强物理功能时，专家建议设置更多的红线，并遵循根据使用场景的具体分析，风险可以知晓和控制的原则，即风险可控的增强技术可以适当发布，不可预知或难以控制的技术应严格限制。
郑良说，例如，很明显，在体育竞赛领域，人体不能被增强和改造，否则就与体育的公平目的背道而驰。在教育领域，增强智能的技术可能造成不公，未来风险难以估计，需要限制类似场景的使用。如果技术能够帮助人们在学习中摆脱重复性的操作，这种类型的人机一体化应用或许是可行的，但如何准确科学地划定界限，必须经过严格的论证。
刘瑞双、郑良等。说风险评估需要在整个人机结合过程中引入伦理委员会的审查机制。伦理委员会的一般成员包括医生、伦理学家、社会学家、法律专家、社区成员和普通民众。对于涉及重大社会利益的典型案件，甚至需要法院介入和相关行政机关审批。
不可否认，机器比人更理性、更高效、工作时间更长、应用场景更广，但也正是人类的不完美，给生活带来了更丰富的体验，给文明的进步带来了更多的可能性。很多时候，正是因为人类无法决定生命的长度，才能够努力提高生命的广度、深度和高度。
从这个意义上说，我们需要的可能不是一个理想的“超人”，而是一个独特而自由的自我。■
