“数据安全问题仍然非常严重，尤其是信息的恶意获取、篡改、伪造和滥用。成本极低，大规模数据泄露时有发生。数据安全应该受到全世界的广泛关注。”
“人工智能在行业内的大规模应用亟待解决，如安全可信、协同共识、复杂关联分析、存储和计算规模爆炸、降低能耗等。需要在AI大规模应用的“根技术”上深入探索，如隐私计算、区块链、图计算、分布式数据库和计算基础设施、绿色计算等。”
今天，数据已经成为一个重要的生产要素。此前，中共中央、国务院发布《关于构建更加完善的要素市场化配置体制机制的意见》，要求加快培育数据要素市场，加强数据资源整合和安全保护，特别提出制定数据隐私保护制度和安全生产制度。
“数据安全问题仍然非常严重，尤其是信息的恶意获取、篡改、伪造和滥用。成本极低，大规模数据泄露时有发生。数据安全应该受到全世界的广泛关注。”9月3日，中国科学院院士、清华大学教授王小云在2022世界人工智能大会可信隐私计算高峰论坛上表示。
数据安全也影响着人工智能的发展。蚂蚁集团副总裁兼首席技术安全官陶伟认为，人工智能在行业的大规模应用需要解决安全可信、协同共识、复杂关联分析、存储计算规模爆炸、能耗降低等问题需要在隐私计算、区块链、图计算、分布式数据库和计算基础设施、绿色计算等AI大规模应用的“根技术”上深入探索。
他用实践进一步解释，这五大挑战分别是:在大规模数据流通和AI应用中，如何捍卫用户隐私和数据安全？如何在行业协作中建立信任机制，促进价值创造？如何解决大规模实体和数据关系中结构复杂的问题？随着数据的几何级增长，如何解决存储计算的性能和成本瓶颈？数据爆炸，如何降低计算能耗，更好地保护环境？
“安全风控领域是一个天然的开放空强对抗游戏场景，需要与世界上最狡猾的黑色产业团伙进行高强度的对抗。在这个领域，目前的数据驱动智能系统无法有效应对。一方面，需要深入研究机器智能和专家智能高效协作的融合对抗智能；另一方面，需要加强AI的可信保障机制，包括可解释性、健壮性、公平性和隐私保护。”魏巍举例说。
陶伟认为，隐私计算、区块链、图计算、分布式数据库和绿色计算是支撑AI在数字时代大规模应用的五大重要“根技术”。
关于隐私计算，上海市经信委副主任张颖表示，“近年来，隐私计算从前沿技术落地，成为应用实践的一部分。人工智能技术正朝着卓越、安全、可信的方向发展，技术创新有诸多突破。多方安全计算、联邦学习、可信执行环境、插值隐私、同态加密等关键技术日益成熟和安全，充分挖掘和利用数据元素，实现真正可用和不可见场景的创新持续推进。隐私已经应用于政务、金融、医疗等领域。，并且正在向交通、教育等多个行业延伸。”
隐私计算正在走向规模化阶段。张颖表示，未来，可信隐私计算的上海解决方案将在城市数字化转型的实践探索中不断形成:
1.完善技术创新体系，依托核心创新和科研平台，带动高校、科研院所和科技企业协同合作，加强信息安全技术研究，形成可信隐私计算创新政策源体系。
2.建立评估测试体系，加快可信AI相关标准建设和完善，研发创新测试评估技术，推动可信AI评估和产业落地。
3.完善制度规范，加快研究探索，制定生物信息安全、数据安全和各种隐私安全的法律法规，界定法律边界，明确各主体、各环节的责任和义务。
