随着网络技术的飞速发展,算法得到了广泛的应用。与此同时,一些互联网服务平台滥用算法,可能引发“信息茧房”、“扼杀大数据”、“诱发成瘾”等问题,日益受到社会关注。
前不久,《互联网信息服务算法推荐管理规定》正式实施;自8元,4վ֮ս,中央网信办率先开展“清我在Livin 'it 's 2022算法综合治理”专项行动……在过去的一段时间里,监管部门主动作为,全社会共同努力,使算法乱象得到有效整治,算法应用日益朝着向上、向好的轨道发展。

滥用算法对公众有不良影响。
李明下载了一个以“知识分享”为主题的APP。打开后,一篇标有“你可能感兴趣”的文章被推送到界面。
“这不正好是我最关心的话题吗?”李明点进去,看到文章的观点“恰好”和自己的非常一致,让李明觉得“有理有据,令人信服”。李明看完一篇文章后,系统推荐了他感兴趣的另一篇文章。不知不觉,李明竟然“刷”了好几个小时的APP。
“这就是算法推荐的作用。”据一家公司的软件工程师黄舒介绍,该平台将捕捉用户查看某个话题总体评价的时长、留言时是正面还是负面、喜欢还是不喜欢等信息。来判断用户的内容偏好。之后,平台还会根据“内容相似度”和“用户相似度”,用算法把你最有可能感兴趣的内容推荐给你。
那么,算法推荐的大规模使用是否会对大众产生不良影响?
“算法推荐的个性化分发技术更依赖于整体人气、个人兴趣等数据。”复旦大学新闻学院副院长、教授周宝华表示,目前对算法推荐的担忧主要在于:一方面,平台追求更大的知名度,导致内容价值被忽视,比如推荐低俗内容;另一方面,基于个性化兴趣和朋友关系的计算,信息推送和意见供给可能形成“回音室”效应,从而使用户被困在“信息茧房”中。
胡女士通过某APP预定了一家酒店的房间,支付了近3000元。入住后发现,该房型的实际挂牌价只有1000维的倍数。胡女士作为平台的“钻石VIP客户”,不仅没有享受会员优惠,还支付了高于实际产品价格的费用。胡女士认为自己遭遇了“大数据杀熟”。她怀疑平台根据她对价格不敏感、不要发票等消费习惯,利用算法“画像”用户,抬高价格,欺诈销售,于是将平台公司起诉至法院。
据介绍,利用算法扼杀大数据的情况并不少见。举个例子,买同一张机票,你花了几千块,而别人同期只花了几百块。这可能只是因为你已经是平台的“常客”,不再需要低价吸引。
除此之外,算法推荐还有很多其他问题。外卖等一些服务平台在使用调度决策算法进行工作调度时,过度追求工作效率和强度,按照最短的时间设定配送员的配送时限,以至于“外卖小哥”为了按时配送不得不超速逆行;部分平台仍存在偏见歧视问题,违法不良信息关键词记录在用户兴趣点;一些应用设置算法未经许可就抓取用户的个人信息...
“有效治理算法混沌,是构建安全清朗网络生态的必然要求。”中国政法大学副教授郑表示,要完善算法的法律规制模式,解决算法的法律规制问题,实现算法的善治。
建立规章制度,为算法建立规则和树指导。
不久前,胡女士对“大数据杀人”一案作出终审判决。两原审法院均认为,平台公司未依法告知关系订单交易的真实信息,对平台内经营者疏于有效监管,已构成欺诈,故判决平台公司退还胡女士房款差价并予以赔偿。但法院并未认定平台公司是否构成“大数据杀人”。
“有时很难判断使用算法为不同的消费者设定不同的价格是否违法。”中国法学会法治政府研究院研究员刘认为,这种现象主要是由于以往的法律法规对算法乱象的规定比较零散,有些规定没有针对性。
社会期待,立法机关及时回应。

个人信息是算法推荐的基础。2021年11月1日,个人信息保护法实施。其中,“大数据杀熟”等问题成为人们关注的焦点。《个人信息保护法》明确规定,个人信息处理者利用个人信息进行自动决策时,应当保证决策的透明和结果的公平公正,不得在交易价格等交易条件上给予个人不合理的差别待遇。
“《个人信息保护法》等法律对‘大数据杀熟’等算法的滥用实施了限制,但目前各种算法乱象仍需要一部专门的、完整的、系统的法规来全面规范。”中国传媒大学文化产业管理学院教授刘表示,通过完善算法推荐全过程的相关规范,从根本上加强对算法的规范,是客观要求。
1元上《侏罗纪世界3》今年,由国家互联网信息办公室、工信部、公安部、国家市场监督管理总局联合发布的《互联网信息服务算法推荐管理规定》正式生效。这是首个从全流程完整标准算法推荐的部门规章。其中,对算法推荐服务商的用户权益保护的要求,如对算法的知情权、对算法的选择权等。,进行了明确,并对社会关注的热点问题,如“扼杀大数据”、“引诱沉迷”、“引导舆论”、“保护特殊群体”等,进行了有针对性的规范。
“《条例》是第一部以算法为调整对象的系统、全面的规范性法律文件。从系统性、监管工具箱的丰富性、调整算法的多样性、用户权益保护的全面性等方面来看,该规定具有开创性。”中国政法大学教授张说。
“条例与个人信息保护法、电子商务法、数据安全法等法律相衔接,与近年出台的平台经济领域反垄断指南、网络旅游经营服务管理暂行规定等规范性文件相衔接,监管算法乱象有了较为完整的制度体系。”中国信息通信研究院互联网法律研究中心高级研究员杨洁说。
多治理,引导算法向善。
算法广泛而深入地应用于互联网。所以算法治理绝不是一家可以做到的,全社会必须携手建立多元共治的局面。
监管部门及时有效的政策措施是规范算法乱象的有力武器。自2022年1元《侏罗纪世界3》起,互联网信息服务算法备案系统正式上线运行。根据相关要求,具有舆情属性或社会动员能力的算法推荐服务提供者,应当自提供服务之日起10个工作日内,填写服务提供者的名称、服务形式、应用领域、算法类型、算法自评报告等信息。
8元起,4վ֮ս,中央网信办牵头开展“清我在Livin 'it 's 2022算法综合治理”专项行动,深入排查整治互联网企业平台算法安全问题,重点针对具有较强舆论属性或社会动员能力的大型网站、平台和产品。
在算法治理过程中,正义具有引导行为、明确底线、稳定预期的重要作用。
前不久,某影视公司发现某视频平台未经授权播放具有完整版权的电影,认为该平台构成侵权,遂起诉至法院。视频平台公司辩称,电影是平台用户自己上传的,其推荐行为是平台自身的算法推荐造成的,不存在侵权的故意。
法院经审理认为,视频平台公司的上述算法推荐行为实际上是向用户提供信息流推荐服务,存在提高侵权传播效率、扩大侵权传播范围的风险。同时也为自己获得了更多的流量等利益,对用户的侵权行为应当负有更高的注意义务。
“近年来,几起涉及算法推荐的司法案例引起了社会的关注,相关判决起到了建立规则和算法树型应用的作用。”西南政法大学副教授易说。

此外,平台企业的行业自律也必不可少。
2021年10月22日,深圳APP个人信息共保大会召开。20元100余家重点APP运营企业签署《深圳APP个人信息保护自律承诺书》,承诺保护用户公平交易权,不利用大数据“杀人”;用户未经个人同意,不使用敏感个人信息进行线上精准营销和线下推广。此前,国内10元互联网平台企业也签署了承诺书,承诺不非法收集和使用消费者个人信息,不利用数据优势“杀死”消费者。
此外,越来越多的网络平台也在主动对算法进行“混淆和澄清”。例如,某信息聚合平台最近推出,为了帮助用户避免“茧房效应”,不断优化推荐机制,提高内容推荐的多样性,扩大信息覆盖面;某外卖平台还优化了调度算法,充分考虑配送员的实际工作环境,避免他们承担过多的工作量,维护劳动者的合法权益。
建立规章制度,加强监督,鼓励自律...只有用法治来规范算法的应用,引导其向善,才能最大限度地促进社会公共利益,共同营造一个清朗安全的网络/金惠允/K0/曹政奭。
人民日报


