来源:北国财经
原标题:“黑匣子状态”结束倒计时互联网算法应备案并向社会公布。
本报记者于佩珠海报道
如今，对公众社会生活环境影响巨大的互联网领域迎来了全面而专业的监管。现在，这种监管正在延伸到互联网平台的所有关键领域和技术环节。作为互联网深度影响社会生活的核心，“算法”也正迎来更加严格和具体的监管。
《互联网信息服务算法推荐管理规定》8月27日向社会公开征求意见一个多月后，国家网信办等九部门发布了《关于加强互联网信息服务算法综合治理的指导意见》，围绕“加强互联网信息服务算法安全治理”提出了多项基本手段。其中，强化互联网企业在算法安全合规领域主体责任的意图非常明显。
“我们认为，9月1日开始施行的个人信息保护法、征求意见稿、9部门刚刚出台的指导意见，在算法监管和规范领域是一脉相承的，是一个不断具体化和可视化的过程。”9月30日，在内部会议间隙，一家总部位于北京的大型互联网平台企业合规部负责人对《第一财经日报》记者表示。
他参加的内部会议的主题之一是研究指导意见，并比较他所工作的公司的业务，评估影响和检查合规情况。他认为，个人信息保护法涉及法律性、基础性、原则性问题，而征求意见稿“谈的是标准和路径”，这份指导意见给出了责任认定和实施办法。“一个环节一个环节，逻辑很严密。”他对记者评论道。
《指导意见》由国家网信办牵头，中共中央宣传部、教育部、科技部、工业和信息化部、公安部等9部门联合发布。“九个部门涵盖了资质监管、内容安全管理、接口管理、执法管理、应用场景管辖等各个方面。我们觉得《指导意见》对我们的平台算法有最直接的规范作用。”另一家大型电商平台企业合规部人士告诉记者。
“我们正与业务团队合作进行自我合规性审查。毕竟其中涉及的很多问题都非常专业。”她告诉记者。
多位受访的互联网平台合规部门人士告诉记者，他们对《指导意见》最直接的感受是，在算法安全合规领域，平台的主体责任界定非常直接。总部位于北京的某大型互联网平台企业法务部负责人告诉记者，他们正在考虑如何在企业内部成立一个负责算法安全的部门。一是对算法的安全性和合规性进行自我监控和审核，以满足当前监管环境对平台算法的要求。
这个组织，在此之前，还没有在企业内部明确设置。一位为多个平台从事合规咨询服务的法律机构资深人士告诉记者，在最初的形式下，这些功能大多是算法设计和运营的团队自控。后来合规部参与提意见，指出法律和监管的针对性影响，再由业务团队进行调整。然而，企业内部没有专门的组织。“熟悉合规，了解算法，作为内部第三方身份来管理算法安全，这是机制设计的问题。”他说。
《指导意见》明确提出:“企业应当建立算法安全责任制度和科技伦理审查制度...提高应对算法安全突发事件的能力和水平。企业要加强责任意识，对算法应用的结果负主要责任。”
“在平台企业中，建立健全算法安全管理的组织机构，对于企业自身来说也是消除风险的举措。毕竟《指导意见》明确，企业对算法应用的结果负主要责任。通俗地说，出了问题，平台企业要承担责任。”前述法律人士表示。
一位大型平台企业的技术人员告诉记者，在相当长的一段时间里，算法都是“黑盒算法”——业内通俗的称呼，用来描述算法的组成机制、推送逻辑等。没有对外公布，外界和用户能看到的结果也是“刚推”，但并不清楚这个结果背后的运行机制。“现在，这也是监管的重点。我们的合规部门和我们一起，正在让算法变得透明。”他告诉记者。
此前的《征求意见稿》已经明确算法推荐将增加“透明度”，具体包括制定并公开算法推荐相关的服务规则，优化搜索、排序、选择、推送、展示等规则的透明度和可解释性，以显著方式告知用户其提供的算法推荐服务的信息，并以适当方式公开算法推荐服务的基本原理、目的、运行机制等。
“以前只说有几千人。现在，把它解释清楚，或者让用户有可能理解为什么这一面在你面前。”上述电商平台合规部人士向记者解释了这一监管要求。在《征求意见稿》中，涉及舆论属性和社会动员能力的服务提供者严重违法时，将面临吊销互联网信息服务许可证、关闭网站、终止服务甚至注销备案等处罚。
这份指导意见更加具体，其第九条明确要求建立“算法备案”制度，并要求主动公布备案情况，接受社会监督。
“从实际合规工作的角度，我们需要清楚了解算法备案的范围。现在相关监管部门也在推进这项工作，应该会有一个分级分类的体系。我们相信在这方面，平台合规工作也会得到相关监管部门的指导和帮助。”前述电商平台合规部人士告诉记者。
记者了解到，根据《指导意见》，相关监管部门将组织成立专业技术评估小组，深入分析算法机理，评估算法设计、部署、使用等应用环节的缺陷和漏洞，研判算法应用中产生的思想、社会公平、道德伦理安全风险，提出有针对性的应对措施。
