“衡量人工智能发展的标准有很多，但从安全的角度来看还处于初级阶段。”在9月1日举行的2022世界人工智能大会上，蚂蚁集团副总裁兼首席技术安全官陶伟表示，新一代人工智能的发展和大规模应用，不仅要解决数据驱动的问题，还要解决安全可靠的问题。
陶伟认为，安全风控领域是一个天然的开放空强对抗游戏场景，需要与世界上最狡猾的黑色产业团伙进行高强度对抗。在这个领域，目前的数据驱动智能系统无法有效应对。一方面，需要深入研究机器智能和专家智能高效协作的融合对抗智能；另一方面，需要加强AI的可信保障机制，包括可解释性、公平性和隐私保护。
以反诈骗为例，今年8月，中国司法大数据研究院发布的《信息网络犯罪特点与趋势司法大数据专题报告》显示，2017年至2021年，我国共发生信息网络犯罪案件282起，其中诈骗案件占比最高，占36.53%；其次是帮助信息网络犯罪，案件数量占23.76%。在实施网络诈骗案件时，被告人往往采取贷款、冒充他人、发布虚假招聘、征婚交友、诱导其参与赌博、编造网购问题、投放虚假广告等方式对被害人实施诈骗。其中，贷款案件占比最高，约占16.71%。
在2022世界人工智能大会展区，蚂蚁集团展示了基于自主研发的“智能风险感知与响应联合反欺诈系统”的互动产品“反欺诈盲盒”。观众可以点击盲盒，体验AI唤醒机器人主动呼出来电提醒骗局。用户选择任意盲盒后，会看到由真实案例改编的诈骗短片，将用户带入骗子的套路；看完骗局，如果用户模拟支付宝扫码转账，会收到风险弹窗提示诈骗，甚至会收到客服的叫醒电话；如果用户深受欺骗，坚持付费，技术人员还开发了“15分钟冷静期”和“24小时延迟到账”功能。
蚂蚁集团表示，这套智能反欺诈系统基于交互风控、全地图风控、可信人工智能，可实现风险控制自动驾驶和异常感知的事前防控、事中识别和干预、事后智能处置的跨行业联防联控。已应用于支付宝及其合作伙伴，可在0.01秒内完成一笔交易的所有风险判断。
此外，蚂蚁集团当天公布了开源图数据库TuGraph的单机版，并成立了图计算开源技术委员会。
图形数据库不同于关系数据库。它基于图模型，用点和边来表示、存储和处理数据。它具有灵活的数据抽象模型，可以更好地表达“关系”的概念。Ant TuGraph是一个分布式图数据库系统，可以支持万亿级边缘的实时查询。开源的TuGraph单机版还拥有完备的图形数据库基础功能和成熟的产品设计，可支持TB级数据和百亿级大图，足以满足大部分业务场景的需求。与市面上常见的开源产品相比，TuGraph单机版的性能高出10倍以上。
