本文转自:查看新闻
7月21日，市十五届人大常委会第四十二次会议通过了《上海市消费者权益保护条例》。其中一剑指的是“杀死大数据”，即不允许运营商通过自动化决策实施不合理的差别待遇。
这个硬核条款不是第一个。盘点一年来发布的法律法规，无论是国家层面的《个人信息保护法》、《消费者权益保护法》，还是去年市人大通过的《上海市数据条例》，都对“扼杀大数据”做出了限制性规定。有人说，这给大数据时代的消费者吃了一颗定心丸。如果他们再次遭遇类似“价格歧视”的侵权风险，他们将拥有“方上之剑”来保护自己。
所谓“大数据杀熟”，从经济学的角度来说，是生产者的利润和消费者的剩余之间的博弈。电子商务通过挖掘消费者不同数据之间对算法的“化学反应”，揭示用户的消费能力、消费偏好、价格敏感度等隐性信息，刻画消费者“千人千面”的现实形象，从而实施差别定价。
事实上，“差别定价”是商业领域一直存在的销售策略。你和小摊贩讨价还价是一种，但是这个时候，你要做好心理准备。就算知道自己贵，也只能怪自己在砍价上不如别人。但是，当你被互联网平台“杀死”的时候，你会发现自己很被动，没有意识到。这种用户体验很差。这也是消费者如此痛恨“大数据杀熟”的原因。科技在不断进步，但如果互联网公司利用技术创新只是为了“看人吃饭”，榨取最大利润，这种创新是不会被所有人接受的。
如果算法使用合理，可以实现平台运营商和消费者的双赢。比如电子商务可以清晰的把握消费者需求，提高效率，降低成本。精准的私人定制也可以节省消费者的时间。推荐的算法用得好，也能造福人类。比如在医学应用中，每个人对药物的反应可能千差万别。如果你通过大数据找到一些与你的生理数据、健康状况、生活习惯、性格背景高度相似的个体，看看他们的身体对特定药物和治疗方案的反应，那么，医生就可以推荐更适合你的治疗方案。
这也提出了一个问题:大数据时代，我们需要什么样的算法？如果实行算法监管，立法能管住吗？
有人说算法不透明，有些算法本身就是黑箱。如果实行监管，那些互联网巨头肯定会想办法绕过去。有人认为，面对“大数据杀戮”的技术伦理困境，应该考虑如何用更好的技术来解决。在这些法规的立法调研和审议中，有很多类似的博弈讨论。立法过严，不利于技术创新；如果太宽松，不利于个人消费者。可见，这种程度的算法监管并不好处理，很考验立法者的智慧。
技术专家克兰兹·伯格(Kranz Berg)曾经说过，“技术没有好坏，也没有中立。”虽然技术本身没有好坏，但是影响很大。掌握技术的科技公司有义务预测一项新技术会带来什么样的影响。你可以用大数据为用户提供便利，也可以用大数据“杀人”。科技不一定会带来更好的生活，但是善用科技的人会。
从这个意义上说，我们立法的初衷是很明确的，就是给算法的“目标函数”划一个底线。科技向善不是可有可无的个人感受，而是必须履行的社会责任和法律义务。当然，立法不是万能的。有了这个条款之后，不可能马上杜绝不合理的算法。但从监管对象上给互联网经营者一个警示，也给了消费者敢于起诉的法律依据。
