图片:新民晚报记者刘伟摄
新民晚报讯在2022 WAIC世界人工智能大会“伦理治理与科技可持续发展亚洲论坛”上，商汤科技正式发布了《人工智能治理平衡发展白皮书——商汤人工智能伦理与治理年度报告》。
报告指出，目前，人工智能治理已经进入基于技术验证的落地实践阶段。今年以来，新加坡、欧盟、美国、中国等国家的监管机构和第三方机构发布了AI治理测试工具箱和技术监管沙盒，以推动AI治理的实施。
从发展过程来看，AI治理经历了以原则讨论为主的1.0阶段和以政策讨论为主的2.0阶段。2022年，随着全球人工智能治理进程的不断推进，以及可信、负责任的人工智能等相关理念的不断渗透，关于如何验证人工智能治理实施的倡议越来越多。人工智能治理开始进入基于技术验证的3.0阶段，即落地实践阶段。
目前，人工智能治理的实践仍面临诸多挑战。各行各业需要重点处理好“理念与行动”、“政策与实践”、“技术与用户”三组关系，即将人工智能伦理的共同原则付诸实践；将政策要求转化为技术和业务团队可执行的实际标准；处理好技术和用户的关系，促进用户对AI治理的认知，最终推动AI治理向前发展。
基于对全球AI治理需求的分析以及自身对技术和市场的理解，尚科技在白皮书中提出“AI治理应该是一个价值牵引、技术推进、多方参与、层级推进的动态过程”，为AI治理的实施确立了有效路径。
从治理效果来看，人工智能治理的实现可以分为可用、可靠、可控、可信四个层次。其中，“可用”是指人工智能系统在功能和性能上应能满足应用场景的要求；“可靠”是指人工智能系统在安全性和健壮性方面应能满足部署环境和可持续运行的要求；“可控”是指人工智能系统应该能够充分保护人类的独立意志和权利，保证人类在功能层面对系统的控制；“可信”是指人工智能系统的设计和应用要符合人类的价值观和伦理观。
据介绍，作为业内较早成立AI伦理与治理委员会，并将伦理治理作为公司战略方向的科技创新企业，商汤自2020年1月起在内部开展了大量治理创新实践，形成了一套可评估的AI治理方案，将伦理原则嵌入产品设计、开发、部署的全生命周期，初步形成了AI治理闭环。
【延伸阅读】标准化会让AI算法创造无限可能。
