封面新闻记者张跃曦
当前，人工智能技术加速演进，深刻改变着人们的生产生活方式，随之而来的数据隐私、算法歧视、安全风险等人工智能治理问题也引起了各方的共同关注，尤其是人工智能的大规模应用催生了对AI安全更加迫切的要求。
9月1日，在上海“2022世界人工智能大会”上，中国信通院、清华大学、蚂蚁集团联合发布了ai安全检测平台“蚂蚁健”，这是业界首个面向工业场景所有数据类型的AI安全检测产品。
记者了解到，该平台搭载了1000多项可信AI专利，并融入了自主研发的智能游戏对抗技术，可实现文本、图像、表格、序列等不同数据类型的自动测试、量化评分和安全增强。
据蚂蚁集团大安全技术部总裁李俊奎介绍，该平台嵌入了自主研发的AI安全计算引擎，计算性能提升了数十倍；内置40多种国内外主流和自主研发的攻击算法模型。通过模拟黑产和自动进化攻击手段，“检测-防御-升级”AI模型，可以有效发现AI模型的漏洞，降低系统性风险；此外，平台涵盖了模型未知时的“随机噪声”和“迁移攻击”等攻击样本，更符合业界应用的攻击评测基准。
中国信通院云计算与大数据研究所内容科技部副主任石林表示，人工智能技术与制造、医疗、能源、交通、城建等领域深度融合，AI算法问题不断涌现。算法黑箱、算法设计缺陷、数据依赖、反样本攻击等问题给智能技术的产业应用带来了极大的安全隐患。对于AI在工业场景的大规模应用，需要实现全链路的安全可信，不断加强模型的鲁棒性。
清华大学副教授李奇表示，人工智能算法的通用自动检测是研究和解决人工智能安全问题的核心。此次推出的AI安全检测平台，首次全面解决AI算法在不同场景下的系统化、自动化评测，提供AI行业应用的量化评测指标，有助于为AI算法在行业内的大规模应用提供安全保障。
记者了解到，当天，除了AI安全检测平台“蚂蚁认证”正式发布并向行业开放之外，中国信通院华东分院与JD.COM研究院共建的“可信AI联合实验室”揭牌仪式也正式举行。
“可信AI联合实验室”将构建一套测试和评估人工智能算法和平台安全性的方法、技术、规范和工具。将围绕AI应用管理、AI算法模型、平台系统和硬件产品构建系统化的可信评估规范，协同开展算法模型测试和标准研究，引导企业参与可信人工智能研发，构建和完善AI生态，加快AI算法可信评估能力建设，构建AI应用生态。
相关负责人表示，推动人工智能的透明、安全、可控和多样性已经成为全球共识，融合可信元素的人工智能产业生态将成为新时代人工智能发展的必由之路。
