聚焦算法推荐的混沌问题，构建算法安全治理体系。
杨建军
中国电子技术标准化研究所党委书记
随着大数据和人工智能技术的快速发展，算法推荐技术在互联网信息服务中得到了广泛应用。与此同时，一些混乱的问题，如非法和不良的信息传播，侵犯用户权益，操纵舆论等。也经常出现。2021年12月31日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐与管理规定》。《规定》作为互联网信息服务领域贯彻落实网络安全法、数据安全法、个人信息保护法的重要举措，聚焦算法推荐服务乱象，构建算法安全治理体系，有效规范互联网信息服务的算法推荐活动。
第一，《规定》为处理算法推荐乱象提供了指引和规范。
聚焦违法不良信息传播问题，引导算法应用合理规范。
目前，算法推荐服务商在开展新闻信息推送、热榜、信息发布等活动时，存在违法不良信息传播乱象:一是通过生成合成算法自动合成新闻、帖子，虚假信息被夸大传播，无明显标识；二是利用定向推送算法，在首页首屏和弹窗推送恶性案件、灾害等负面信息，诱发社会恐慌；三是利用排序和选择算法生成热搜、榜单等。，片面追求流量，炒作娱乐八卦、低俗、庸俗等违背社会主义核心价值观的内容。
针对违法和不良信息传播问题，《规定》明确了算法推荐服务应当向上向善的原则，提出算法推荐服务提供者应当建立健全识别违法和不良信息的特征库、显著标注算法生成合成信息、加强版面页面生态管理、在关键环节主动呈现主流价值导向信息等措施，鼓励符合主流价值导向的正能量传播。
聚焦侵犯用户权益乱象，引导算法公平应用。
目前，算法推荐服务商在开展排班决策、个性化推荐等活动时，存在侵害用户权益的乱象:一是大数据杀熟问题，即根据消费者的喜好、交易习惯等特征，在交易价格等交易条件上实施不合理的差别待遇；二是沉迷网络问题，即设置算法模型诱导用户沉迷和过度消费，特别是利用算法推荐诱导未成年人沉迷网络；第三，劳动权益保护。使用调度决策算法调度作业时，平台内员工在劳动报酬、休息休假等方面的劳动权益得不到保障。第四，偏见歧视问题，在用户兴趣点中记录违法、不良信息关键词，或者设置歧视性、有偏见的用户标签推送信息内容；第五，未成年人和老年人权益保护，向未成年人推送可能影响其身心健康的信息，没有充分考虑老年人的老龄化需求。
针对侵害用户权益的乱象，《规定》明确了算法推荐服务的公平公正原则，提出算法推荐服务提供者应当定期审核评估算法，加强用户模型和用户标签管理，公示算法推荐服务相关规则，保障用户选择或退出使用算法推荐服务的权利，建立用户投诉渠道， 等措施保护未成年人、老年人、劳动者权益，引导算法应用遵守社会公德、商业道德、职业道德。
聚焦舆论乱象，引导算法应用公开透明。
目前，算法推荐服务商在开展个性化推荐、热榜、信息发布等活动时，舆情操纵存在混乱:一是利用个性化推荐算法，根据用户喜好频繁推荐感兴趣的内容，久而久之，形成用户意见两极分化的“信息茧房”；二是利用算法注册虚假账号，雇佣网络水军，实施虚假好评、转发等流量欺诈，或鼓励“饭圈”粉丝互撕、刷量控评等饭圈乱象；三是利用算法屏蔽信息，过度推荐、操纵和干预热搜、榜单或搜索结果排序；四是实施自我优待，影响网络舆论，逃避监管，如恶意屏蔽其他企业网站链接等。
针对舆情乱象操纵，《规定》明确了算法推荐服务的公开透明原则，鼓励算法推荐服务提供者综合运用内容去重、分散干预等策略。，增强规则的透明度和可解释性；明确禁止算法推荐服务，如不得利用算法对其他互联网信息服务提供者进行不合理限制，以保护国家安全、公共利益和组织、个人的合法权益。
二、《规定》为国家建立系统的算法安全治理体系奠定了制度基础。
强化企业主体责任，建立多方参与的算法推荐服务治理机制。
《规定》围绕算法推荐服务，建立政府、企业、行业组织和网民多方参与的治理机制。一是明确政府监管职责。《规定》明确国家网信部门负责统筹协调全国算法推荐服务治理和监督管理工作，工信、公安、市场监管等有关部门依据各自职责负责监督管理工作，同时通过《关于加强互联网信息服务算法综合治理的指导意见》建立网信、宣传、教育、科技等多部门协同联动长效机制，共同开展算法安全治理工作；二是强化企业主体责任。《规定》要求算法推荐服务提供者应当落实算法安全主体责任，建立健全算法安全管理制度和技术措施，配备相应的专业人员和技术支撑；三是鼓励行业自律。《规定》鼓励相关行业组织加强行业自律，建立健全行业准则，督促指导算法推荐服务提供者接受社会监督；四是倡导社会监督。《规定》鼓励广大网民积极参与算法安全治理工作，要求算法推荐服务提供者设置公众投诉
