让第424位发言人余哲俊。
复旦大学哲学学院副教授大家好。我叫余哲军，来自复旦大学哲学系。这次他找到我，给我出了一个特别难的演讲题目:是不是应该给创意设限？
而作为一名教师和学术工作者，当我第一次听到这个话题时，我的反应是这样的:
我想，人类的创造力如此有限，为什么还要给创造力设限？我们应该让它发挥出最好的水平！
但是由于我的职业习惯，我觉得这句话结构不完整。于是我为它完成了句子结构，把它所有的主谓宾都放在上面。把这句话改成:是否应该给创意划一个界限？
看，这句话完成后，就不仅仅是口号了，还是祈使句。就变成了一个完整的句子。
主题是我们是谁。接下来，应该，应该是一个哲学问题，但不是真正的问题。我们永远不能从我们是什么来推断我们应该是什么。那么，为什么要限制呢？接下来是什么样的创意，大家肯定会关心。如何给创意划一个界限？
当然，最重要的问题，作为每一个最终消费者，都会问这个问题:如果我们为创意画出这样的边界，那么这些边界会影响到谁？
不同人类文明对创新的不同态度
我将分别为你分析这五个问题。第一个问题是:我们应该限制哪种创造力？
人类的创造力是多元的，如果我们看看人类文明史和文化史，就会发现不同的时间段和文明对创造力的态度是完全不同的。我只是给你两个极端的概括:一个叫弑父文化，一个叫克子文化。
有什么区别？
弑父文化就是下一代总觉得上一代对你有意见。我不喜欢你。我不一定要在肉体上杀死你，但我想在精神上杀死你。我想超越你，创造更新更好的东西。这就是弑父文化。
另一方面，某些国家在特定时期存在所谓的“克孜文化”，即下一代人看到上一代人时，总会处于紧张不安、唯诺诺马首是瞻的态度。
你可以想象一下，弑父和克子哪个更有利于创新？
肯定是弑父文化。但是，一旦弑父文化走得太远，颠覆了整个人类文明的底线，创新就无法完成。
所以我就脑洞大开，以几个人物为代表，对创意做一点归纳和总结。
从左到右，第一是莎士比亚，人类文学的创造力；贝多芬，音乐的创造力；达芬奇，艺术绘画的创造力。
最后两位，图灵和爱因斯坦，完全勾了？
滴答意味着我认为没有必要限制莎士比亚这样的文学巨匠，贝多芬这样的音乐家，达芬奇这样的艺术家的创造力。
为什么？因为这样的创意有一个特点，他们创作的作品，如果我们不听他的音乐，不看他的作品，他对你没有直接的影响。
但是最后两个，稍微犹豫一下，图灵。我们知道他是数学家的代表。但是，如果他是现代计算机和人工智能之父，这种科技产品对我们的影响可能和以前的文艺作品不一样，它会影响到我们每一个人。
如果把爱因斯坦放进去，会发现问题更大。
我们知道爱因斯坦是一位著名的物理学家，但是他的物理理论在现实中的应用，实际上深刻地影响了每个人的生活，甚至是人类历史的演变。
科林·格里茨的技术发展困境
所以前几种创意，我觉得没必要限制。但是对于后面的科技，我觉得有必要限制一下。那么接下来的问题就是:为什么要限制技术和技术的创造性？
在哲学上，我们经常会有这样的想法，科学和技术是完全不同的东西，虽然在我们的日常语言中，它们经常被混合在一起，被称为科学和技术。它们之间的基本区别是什么？
科学家，虽然还在研究科学，但基本上处于完全旁观者、置身事外的状态。他想更好地了解世界、宇宙及其内部运行的规则和条例。
但是技术不一样。当我们谈论技术时，人是一个实际的行动者，甚至是一个利益相关者。我们想通过改造世界来获得一些优势，避免一些劣势。
所以我在这里写了两行:科学可能是中性的，但技术的应用绝对不是中性的。就像这个公式，爱因斯坦著名的相对论公式E=mc。
这一公式的技术应用不仅可用于和平发电----一种所有人都能接受的公用事业。但如果用在军事上，也可以制造核武器，毁掉很多人的生活。当然也要看谁持有这种核武器，哪些国家使用。
所以在我们整个哲学学科里面有一个比较小的分支，叫做伦理学，或者道德哲学——伦理学或者道德哲学。伦理学下面有一个比较小的分支，前沿分支，来考虑这些问题，叫做技术伦理学。
在技术伦理学中，它实际上提出了一个关于当代技术的非常有趣的问题。这个问题是由一位名叫科林·格里茨的英国哲学家提出的，所以后来的学者以他的名字命名，叫做科林·格里茨的困境。这个概念是在1980年的《技术的社会控制》一书中提出的。
科林·格里茨的困境是这样的:一方面，除非一项技术被广泛应用，否则其影响无法完全预测；但另一方面，如果一项技术被广泛使用，它将很难控制。
这就像踩刹车的程度。刹车踩得过猛，技术创新就会被完全遏制；但如果你不踩刹车，车速太快，在高速公路上大家都已经在超速的情况下，你踩刹车控制它甚至变道几乎是不可能的。
所以今天人类的技术创新基本处于科林里奇所说的困境。
如果我们回过头来看，人类的技术发明有很多不可预见和意想不到的后果，用英语叫做unteen ed/un预见的共识。一个技术专家，一个发明家，他提出这个技术的时候，完全没有想到可能会带来这样的后果。
举个简单的例子，我们知道在19世纪，德国科学家发明了橡胶硫化技术。橡胶本身粘性很大，长时间暴露在空气体中会老化、变脆、变硬，而橡胶硫化技术可以保持其弹性。
这种技术生产出一种商品，对我们每个人的生活，对家庭，对人类的社会结构，甚至对人口结构都有着致命的影响。这是什么商品？
避孕套。
这是典型的，不可预测的，意想不到的技术后果。所以在人类技术史上，从启蒙运动开始，其实就有这样一种深深的担忧——我们担心技术会失控，因为会产生这些意想不到的结果。
如我上图所示，历史上发生过一些案例:如协和式超音速飞机坠毁，前苏联切尔诺贝利核电站失控爆炸。
科幻作品中也有类似的题材，比如冷战时期的《奇异爱情博士》。因为这种机械的操作模式，整个人类不得不被拖入核战争的危险之中。
包括电影《终结者》，我们大多数人看《终结者》的时候，只知道是一部动作片，甚至有些惊悚片。但是请不要忘记，《终结者》的背景设定是什么？北美防务空司令部的超级计算机失控。用现在流行的话说，超级人工智能已经失去了对人类最基本的关怀。它决定消灭地球上的人。
所以这种技术失控，无论是现实中发生过的，还是科幻作品中设想的技术灾难，都体现了这种基本的人性关怀。
所以，我们来分析一下，是哪些根本的力量在驱动着我们的现代科技？
在我个人的总结中，我总结为三个驱动力，第一个是资本，第二个是权力，第三个是情欲。
其实这三股势力的诉求是很不一样的。资本要求不断增值和回报，而权力要求更大的控制权。许多自私的欲望可能与我们人类心中的基本生物力量有关，饮食男女。
那么在这三种力量的驱动下，技术是什么样子的呢？就像大海中的小船，没有动力，也没有帆。它不知道要驶向何方，但外面吹来的强风和汹涌的海浪在推它。
在科幻作品中，人类多次提出这种担忧。最早的例子是雪莱夫人描述的弗兰肯斯坦，一个科学家创造的怪物，直到近年来热议的人工智能，从弱人工智能到强人工智能再到超级人工智能。但背后的根本母题并没有改变，那就是“生物开始反击”。
在这里，我们人类似乎是一个造物主，而这样的造物主按照西方传统其实是一个生物，人是上帝创造的。但是我们，作为一个生物，现在正处在历史的节点上。我们有能力创造一个生物，我们害怕这个生物有一天会反抗我们的造物主。不仅仅是反抗，它可能会从根本上颠覆我们引以为豪的一些最基本的能力。
一个典型的案例，我们肯定都知道，就是去年11月底，原南科大副教授何建奎向媒体披露，他自己编辑了两个婴儿的基因。很多人说，这是不是说明科学家的自律失效了？
当然，我个人认为没那么严重，但是这样的潘多拉魔盒已经打开了。这件事发生后，我曾经在课堂上问过我的一些学生，我说:“如果有一天，这个基因编辑技术成熟了，你支持不支持？”
他们都说:“不行，绝对不行，余老师。这是不道德的，我不会这么做的。”
但我问了一个更进一步的问题:“请你考虑一下。总有一天你会为人父母，你会有一个自己的宝宝，假设是经济上可以承受的，没有副作用，没有脱靶问题。你会让这样的科学家给你造一个超级宝宝吗？这个超级宝宝可能智商300，百米7秒以下。强化后的骨骼永不断裂，对所有疾病免疫。”
当我提出这个问题的时候，大家应该想一想。我想要正常宝宝还是超级宝宝？这就是困境来了。
人站在道德制高点上是非常容易的，但是你要想回避技术带来的所有好处却是极其困难的。
所以这个问题已经部分涉及到创造力的限制了，会影响到谁呢？
事实上，我们每一个人都会受到它的影响。
最后，谁来给创造力设限？
我也做了一个总结，基本可以归纳为以下四个方向:政府、学术界、企业、终端消费者。
但是他们的要求还是很不一样。比如政府可能更关心全民的福利和保障。
对于我们的终端消费者来说，我们可能更关心个人福利、健康、收入和下一代的教育。所以很多人说，一定要考虑这些当事人的所有诉求，才能给创意设限。
所以我引用了一个西方学者提出的分析框架，叫做利益相关者分析。即与技术创造相关的人大致分为三类:从技术中获利的人，对技术做出决策的人，承担技术风险的人。这三个圆正好可以画出七个象限。
我们在思考问题的时候，大多数人往往更多考虑的是自己能从中获得什么样的收益。但是我经常忘记我可能会冒什么风险。
但是在这七个象限中，你想想。哪个象限是最难控制的人或组织？其实就是获利方与决策方交叉的地方。
因为在这里面，有很多组织，甚至国家，还有一些超国家的团体，他们不是自然人，也不是个人。他们一方面是政策制定者，另一方面是这项技术的直接推动者和投资者，可以从中获得巨大的利益。
所以这样的分析模式让我们更加担心。个人有必要经常改变思维方式吗？因为不是每个人都能一直从技术创新中获得直接利益。
如果你是决策者，你会对技术施加什么限制？或者你随时可能暴露在一个你无法预测的风险中，那么如何防控这样的风险呢？
我们时代的精神困境
但就像超人类主义这个词一样，我们现在的技术不仅可以改造外部世界，还可以改造我们自己，改造整个阶级，甚至可以把未来的人类改造成和现在非常不同的物种。人类正处在这样一个十字路口。
我甚至觉得未来不能只谈所谓的后人类。我觉得可能有N种不同的人类，他们处于互相竞争的状态。
于是我找到了文艺复兴时期意大利哲学家皮科的一段话。他有一本书叫《论人的尊严》。当然，他以有神论的口吻，从上帝的角度对亚当说话。他的话很有意义。让我们来看看:
我特意在这里标注了自由选择的四个字的颜色。生物教科书告诉我们，所有的物种都在接受自然选择。但是，让我们回想一下，人类在多大程度上还在接受自然选择？
在很大程度上，人类可以自由选择。我为自己规划一个未来，设计自己的身体甚至未来精神的样子。
正是人类突破了自然界的整个进化史，达到了这种自由选择的境界。
所以很多人经常给我看这张图——人类的进化，从类人猿到直立人，再到智人，我们这个物种。
但是以后会怎么样呢？未来我们会变成硅基生物，还是走向赛博人？
结合今天的主题“创意”，我来总结一下。首先，看看人类在宇宙中的地位，或者说人类能够产生如此辉煌发达的文明，这本身就说明人类的创造力是好的。
然而，在创意中，目前特别需要我们关注和反思的是技术上的创意。因为技术的应用绝对不是中立的。
当然最重要的还是第三句。事实上，当我们作为终端消费者，作为自然人和个人，选择技术的应用时，我们并不是在选择一种商品或者仅仅是一种生活方式。
从根本上说，技术的使用是对一种人性和人类未来发展方向的选择。
编辑:李颖
校对:很奇怪。
Make:做一个戏剧般的演讲，发现创意。
更多精彩内容，请点击文末蓝字“了解更多”。
