来源:中国经营报
文依林
近日，马斯克表示“已经做到了”，引发关注和热议。这句话回答的问题是:“如果你能把你的大脑上传到云端，和你自己的虚拟版本对话，你们会成为朋友吗？”
马斯克多半是在开玩笑，但前阵子谷歌确实有一个程序员与AI对话，认定AI已经有了自我意识，并试图为他的“AI朋友”争取权利。
目前意识上传和AI觉醒应该都还没有发生，但是我们可以先做一个思想实验:如果AI的自我意识觉醒了会怎么样？
比如已经有数字版的马斯克了……等一下，“一个”？问题马上就出现了。如果一个智能体可以以数字形式存在于计算机中，它就可以像其他数据一样被复制。所以，一旦我们可以“上传”一次，我们就可以制作多个副本；一旦有了数字版的马斯克，就可以有无数个数字版的马斯克。
所以，与其去思考如何与实体麝香和数字麝香对话，不如先考虑如何与数字麝香沟通。
AlphaGo杀出各方的时候，看到有网友问:如果AlphaGo和AlphaGo下棋会怎么样？这些网友恐怕不太了解深度学习技术的基本原理。其实现在主流的人工智能已经不是人类程序员可以一劳永逸的编辑策略然后执行了。程序员只是设定初始状态，然后计算机程序会通过内部竞争不断完善策略。总的来说，就像一个物种的进化，不断复制自己，每个后代随机“变异”一点点，然后略有不同的后代互相竞争。胜者继续复制繁殖成为下一个亲本，循环不息。
在那之后，更成熟的人工智能不再需要被喂食人类棋手的棋谱。它从无到有，经历了无数次的自我游戏，迅速超越了人类玩家的最高水平。
简而言之，自我复制和自我博弈是“深度学习”技术的运行模式。因为数字世界中的复制和淘汰只是消耗电能，一切都以光速运动，人工智能迭代比生物进化快得多。一个AI程序从不懂游戏规则到打败顶级人类只需要几个小时。
但如果我们想象人工智能具有自我意识，那么上述过程似乎极其残酷。为了不断提高智能，一个智能AI还需要不断制造自己的副本，然后迭代繁殖，自我对抗，最终消除数百万个被打败的“自我”。这些同样有自我意识的次枝，很快就湮灭了，不留痕迹。
当然，这些副本也可以随时保存并复制到另一台机器上，或者在同一台机器上构建无数个虚拟机同时运行无数个副本。
那么这些副本会成为彼此的朋友吗？他们会互相毁灭还是互相保护？另外，如果AI真的有自我意识，他还会想继续复制自己吗？如果他要复制，会不会故意设置“变异”？被复制的AI会愿意随时被合并或淘汰吗？
也许我们永远想不通唤醒AI的想法，但站在我们人类的立场上，我想我们都非常重视意识的“一”。从某种意义上说，就人类的经验而言，自我意识觉醒的关键环节是“一”的意识。我们有时把有自我意识的人称为“个体”，有时把自我意识的觉醒称为“独立”。所谓“个体”或“独立”不就是指“一”吗？意识到自己是独一无二、不可替代的个体，就是自我意识的觉醒。
从这个角度看，AI的“觉醒”不仅仅是一个“智能”的问题，更是一个如何建立“一”的问题。前一个问题可能是定量的——alpha go甚至恒温器都有一定程度的“智能”，只是能力不同而已。但后一个问题是定性的，需要一个决定性的边界。
就人而言，我与非我的界限首先是由“身”所奠定的，“身”的界限就是“我”的界限。研究表明，裂脑人也具有人格认知的统一性。左脑无法和右脑分享信息，所以不知道右脑为什么会做出一些反应，但是左脑还是会强行对另一半的行为做出合理的解释，不会把这种行为当成异类。所以，对于人来说，“硬件”的统一性甚至强于“软件”。
或许我们也可以想象一下，虽然在软件方面可以同时存在无数个复制品，但是硬件上的边界才是AI意识的关键。然而，问题并没有这么简单。从图灵机开始，软件和硬件的界限就被打破了，因为所谓的硬件无非就是把数据输入计算机程序。只要提供数据接口，硬件可以是虚拟的，也可以是多个。如果一个AI连上互联网，它可能同时拥有遍布全球的无数套硬件，它的“边界”总是难以确定。
当然，也许未来的AI智能体根本不需要建立所谓的个体的统一性，觉醒AI也不会适合用“一”做量词。无论如何，我们至少可以肯定的是，如果真的存在一个觉醒的AI智能体，它的自我认知可能会和人类有很大的不同。
所以，人和AI交朋友恐怕不容易。也许人会被AI的甜言蜜语抚慰，但人永远无法走进AI的内心深处，因为人不可能“把一个手指心当做自己的心”，把自己对孤独的心的理解推给AI。
这样的AI会不会很可怕？会不会奴役人类？也许吧。但是我们真的不需要考虑那么远。因为人工智能想要奴役人类，不需要自我意识。其实这种事情早就发生了。恩格斯早就说过，“大工厂的自动化机器比任何雇佣工人的小资本家都专制得多。至少就劳动时间而言，你可以在这些工厂的大门上写下这句话:请为进门的人放弃一切自主权！”今天看看智能调度系统监控指挥的外卖骑手，智能推荐算法不断喂饭的社交媒体用户...越来越多的人从精神到肉体都听从“人工智能”的安排。这不是“奴役”吗？即使没有AI觉醒，这种“奴役”恐怕也在愈演愈烈。与其害怕八字AI还没有觉醒，不如认真对待这些在各个领域已经成为现实的AI独裁。
