“人工智能技术前沿与治理”主论坛线下专家与主主办方代表合影。主办方供图
中新网12月5日电2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛于12月5日在清华大学以线上线下相结合的方式举行。国内外人工智能领域的专家学者围绕人工智能技术前沿与治理这一主题，发表主题演讲，建言献策，进行了深入的探讨和交流。
美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖获得者、斯坦福大学商学院技术经济学教授、以人为本的人工智能研究所副所长苏珊·阿西(Susan Assi)认为，大学可以在引导人工智能创新方面发挥关键作用。由于私营部门的技术人员缺乏伦理和哲学培训，很难开发出可解释的算法框架。深化这类研究可以在人工智能治理的问题识别、开发实践框架的建立和提供指导方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，目前“软件即服务”的平台经济模式已经非常流行。人工智能和数据需求可能导致“伪”市场集中。所以预测未来“机器换人”是很有挑战性的。有必要重新聚焦和思考如何利用人工智能应对老龄化等公共管理问题，让基于人工智能的公共服务更加高效。
国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员尤兰达·吉尔(Yolanda Gill)指出，由于人类对智能机制的认知不足、智能行为的复杂性、观察手段的局限性以及个体知识、职业、信仰和文化背景的差异，当前人工智能研究面临一系列挑战。因此，必须加强人工智能的基础研究，这需要跨学科、跨领域的共同努力。目前，理解人工智能的机制和构建人工智能的世界模型是人工智能研究面临的两大挑战。一方面，要理解人工智能的机制，需要构建“感知-思维-行动”的智能模型，加强对大脑思维机制的理解。建议借鉴神经科学研究联合体的有益经验，建立全球人工智能研究数据库，形成全球共享的研究共同体。另一方面，构建人工智能世界模型需要基于人类的经验、社会习俗和专业技能。建议建立一个类似于自由协作的知识库，通过全民参与，促进全球层面的知识共享。
中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张忠表示，由于深度学习等算法的不精确性，前两代人工智能算法存在公平性、安全性、不可靠性、可信性等缺陷。第三代人工智能发展的关键，在于发展可解释、健壮的人工智能理论和方法，发展安全、可信、可靠、可扩展的人工智能技术，构建“数据驱动+知识驱动”支持可解释人工智能算法的深度学习平台，赋能人工智能安全与防御的优化。真正从数据中获取智能，有赖于知识的帮助和引导，需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和计算能力的结合，推动人工智能的创新发展。
中国工程院院士、eecs院长、鹏程实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展正处于新一代人工智能向强人工智能发展的关键阶段。到2030年，我国人工智能发展总体达到世界领先水平。从战略问题来看，中美欧在人工智能的人才、研发、应用、硬件、数据等方面竞争激烈。目前，我国人工智能发展在战略政策、数据资源、应用场景、潜在人才等方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面存在短板。从战术上看，AI 2.0需要采用基于大数据的统计AI来解决大规模AI应用的需求，鼓励一切可能的强AI探索。“可解释的机器学习+推理”和“仿生系统+AI计算能力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来自于模型的不可解释性、算法和硬件的不可靠性以及自我感知的不可控性。人工智能2.0应采用DPI和“防水堡技术”解决数据安全和隐私保护，重视探索人工智能的伦理问题，并根据“理论-技术研究-应用”的阶段采取不同的风险防范策略。
美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用到生活和工作的方方面面，目前甚至在法律方面也有一定的应用。例如，美国的许多法院已经使用机器学习和人工智能方法来帮助量刑，包括决定刑期等非常重要的问题。但我们仍然无法理解一些AI决策的原因。未来，我们不能只看到AI决策的“黑匣子”，而要打开“黑匣子”，去探究和了解具体的内容和因果关系。我们必须是可解释的人工智能。同时，他提到，负责任的AI应该具备公平、可靠、隐私、包容、透明、负责的特征。作为一个新兴领域，它也需要向其他领域学习，以便更好地为人类服务。
中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次革命。“碳中和”不仅是可持续发展的必然选择，也是产业结构调整和发展的重大机遇。在“碳中和”的背景下，企业面临着转型和增效的压力。人工智能+物联网是智能网络，可以赋能绿色计算，助力“碳中和”。智能网对“碳中和”的辅助主要包括三个环节:一是通过数据驱动和人工智能优化引擎实现智能决策。第二，多参数全链条系统的配置优化。最后通过多源多维异构感知融合实现智能感知。智能网络可用于能源整合，减少ICT产业的碳排放，促进新兴产业的发展。他还介绍了智能网联绿色计算平台的框架，该平台包括人工智能驱动的节能减排和高能效人工智能系统，其应用路径包括绿色园区和工业节能。
2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，联合国开发计划署支持。为期两天的论坛由三个主论坛、一个专题论坛和七个专题论坛组成。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。
