清华课堂

核心提示深度学习三巨头之一Yann LeCun清华开讲,现场挤破脑袋都进不去。智东西 文 | Lina在智东西对话页回复“FaceBook”,免费获取YannLeCun在清华大学的完整版PPT,大神演讲触手可及!请叫我“杨立昆”,谢谢!这位自称“杨

深度学习三巨头之一的Yann LeCun在清华做讲座,因为人头挤不进去。

文志|莉娜

在智慧东方对话页面回复“FaceBook”,免费获取清华大学YannLeCun完整PPT。大神的演讲触手可及!

请叫我“杨丽坤”,谢谢!

这个自称“杨丽坤”的真名叫Yann LeCun,被业界称为“卷积神经网络之父”。同时也是深度学习三巨头之一。他目前是脸书人工智能学院的院长和纽约大学的教授。

3月23日,这位深度学习大牛来京,在清华经管学院、清华x-lab、脸书联合开设的一门课程中,做了主题为深度学习与AI的未来的2小时英语演讲。知止也来到了现场。在演讲开始时,Yann LeCun在幻灯片上打出了他的新中文名字“杨丽坤”,引来了观众的一阵清脆笑声。Yann LeCun自己也忍不住笑了。在国内AI圈里,经常有人说Yann LeCun的外号叫“杨乐康”,有时候还会被嘲讽LeCun在拼音里直接读作“杨乐村”。不知道这件事有没有传到这个搞笑可爱的技术大神耳朵里。

知止梳理了本次演讲的要点和脉络,辅以相关背景知识,带你详细了解深度学习的发展现状、成就、困境和前沿突破尝试。此外,Yann LeCun亲自回应了知止关于脸书削减人工智能预算的报告,以及十年前的两次赌博。

1.脸书人工智能研究院和卷积神经网络

脸书人工智能研究所,全称FAIR,主要研究人工智能相关的科学技术及其在各个领域的应用——如计算机视觉、对话系统、虚拟助手、语音识别、自然语言识别等。据悉,它是一个学术氛围浓厚的研究所,研究方向相对自由轻松,没有近期的产品压力,可以专注于长期的难点和本质性的研究问题。

Yann LeCun不仅是FAIR的领导者,也是卷积神经网络的发明者之一。卷积神经网络是深度学习的一个重要分支,是第一个真正的多层结构学习算法——而深度学习中对“深度”最简单的理解就是“有很多层”。

“深度学习的深度是指不止一层的非线性特征变换。”

目前常见的深度学习模型有牛津大学视觉几何组的VGG网络、谷歌的GoogLeNet、脸书的ResNet等。

随着近年来深度学习的不断兴起,擅长处理图像的卷积神经网络也被视为开发可扩展的自动自然语言理解和图像识别工具,甚至语音识别和视觉搜索系统的基础组件。在YannLeCun和许多大牛的帮助下,脸书的人工智能实验室也在快速进步。

然而,在3月初,根据信息显示,尽管脸书一直在开发Messenger聊天机器人的相关内容,但结果并不理想。在没有人类干预的情况下,Messenger能够正确处理人类请求的概率不到30%。因此,脸书目前正在削减RD在机器学习和人工智能方面的支出。

知止还就这个问题直接询问了扬·勒村教授本人。作为脸书人工智能研究院院长,他坚决拒绝了。“没有,根本没有这回事。”

2.卷积神经网络在脸书的应用

作为脸书人工智能研究所所长,Yann LeCun的演讲自然少不了卷积神经网络和深度学习在脸书的应用。

第一个提到的是DeepFace。Face是FAIR开发的一套人脸识别系统,主要利用卷积神经网络提取人脸特征,完成识别。现在,脸书用户每天上传的图片数量已经达到8亿,有大量的数据用于机器训练和学习。

此外,Yann LeCun还提到了FAIR开发的一项技术,用于检测、分割和识别单个图像中的每个对象,例如检测、分割和识别一个盘子中的西兰花或分割一群羊中的每只羊。其核心流程如下:

1)使用DeepMask的新框架来检测和分割对象,并生成初始对象遮罩;

2)使用SharpMask模型来优化这些对象的掩模;

3)使用多路径网络卷积网络来识别每个掩模框住的物体。

值得一提的是,MutiPathNet使用了一种新的对象实例分割框架:Mask R-CNN。这是深度残差网络ResNet的作者之一,公平研究员何最近发表的研究成果。它是更快的R-CNN的扩展形式,可以有效地检测图像中的目标,并为每个实例生成高质量的分割掩模。

3.常识是个好东西。希望大家都有。

此外,Yann LeCun还提到了当今AI发展中遇到的几个困难:

1)机器需要学习/理解世界的运行规律。

2)机器需要学习很多背景知识。

3)机器需要了解世界的状态

4)机器需要更新和记忆对世界状态的估计。

5)机器需要逻辑分析和规划。

目前机器学习最大的挑战之一就是如何让机器拥有常识——也就是让机器拥有填充空白色的能力。例如,“约翰拿起他的包离开了房间。”因为人类是有常识的,我们可以知道约翰在这个过程中需要站起来,打开门出去——他不会躺着从关着的门出去,但是机器不知道这一点。或者即使只看到半张脸,我们也能认出那个人是谁,因为在人类的常识中,左右脸通常是相似的,但机器也没有这个能力。

下面说的无监督/预测学习可以让机器获得常识,但是现在我们常用的监督学习做不到这一点。本质上,生物大脑在无监督学习方面远胜于我们的模型。

4.无监督学习就是蛋糕本身。

“是的,是的,我知道你在想什么——蛋糕的比喻又来了,”Yann LeCun在切到这张幻灯片时笑着说。“这已经是我在人工智能领域过不去的坎了。”

在无数大大小小的演讲中,Yann LeCun不止一次,甚至十多次做过这样的类比:如果说人工智能是一块蛋糕,强化学习就是蛋糕上的一颗樱桃,有监督学习是一层锦上添花,但无监督学习/预测学习就是蛋糕本身。目前只知道做糖霜和樱桃,不知道做蛋糕。

目前,我们对深度神经网络的训练大部分是通过监督学习。给系统看一张图片,告诉它这是一辆车,它会相应调整参数,下次说“车”。然后你给它看一张桌子,一个人。经过数百个例子和几天到几周的计算时间,事情变得很清楚。“这其实不是一个很复杂的概念。”

其次,对于一个AI系统来说,预测+规划=逻辑分析。如果想让机器理解和预测世界的规律,强化学习需要搭建一个世界模拟器,模拟真实世界的逻辑、原理和物理规律。但是现实世界太复杂了,有大量的参数代表学习,使得机器学习的计算相当多余。听起来很诱人,但是在有限的时间内学习上亿个参数是不可能的。

但是,无监督学习需要机器处理大量未标记的数据,就像给它一堆狗的图片,却不告诉它这是一只狗。机器需要找到自己的方式来区分不同的数据子集、聚类或相似的图像,有点像婴儿学习世界的方式。

5.无监督学习的一些突破性尝试和成果。

无监督学习的难点之一在于对不确定性的预测。比如你把一支笔笔直的立在桌面上,松开手,你不知道笔会往哪个方向掉。如果系统回答这支笔会掉,但是判断掉的方向不对,我们需要告诉系统,你虽然不完全正确,但是你本质上是正确的,我们不会惩罚你。这时候就有必要引入曲面的代价函数了。只要系统回答了表面下的数据,就是正确答案。

传统的神经网络需要一个由人类科学家精心设计的代价函数来指导学习,而无监督学习成为解决这一问题的关键答案,即利用生成式对抗网络来训练机器。

生成对抗网络是一种无监督学习的神经网络:它有一个生成器,从随机输入中生成某种虚假数据;来自世界的虚假数据和真实数据会一起输入一个鉴别器,等待鉴别器的判断。

两者的关系就像骗子和测谎仪。甄别器测谎仪要不断优化自己,尽可能甄别生成器生成的“假象”,防止自己被骗;而生成器,一个骗子,为了骗过鉴别者,必须不断改进。在这种动态对抗中,生成器会被训练,最后开始生成非常真实的图片,这意味着生成器已经掌握了图像的特征和自己的代价函数——某种意义上,这就是无监督学习。

6.人工智能的未来

技术说完了,再说行业。

在演讲结束后的问答环节,Yann LeCun回答了几个与人工智能行业应用相关的问题。他认为,未来人工智能应用和快速变革的行业包括:自动驾驶、语音通讯、工业制造、医疗健康领域。

此外,Yann LeCun认为,我们真的不必过于担心很多科幻小说中提出的“超级智能”,它最终可以“推翻”和“统治”人类。

人类的大部分行为,如占领、统治、斗争,都是在世代进化的过程中,以“希望得到资源”为目的所驱动的。如果我们想让机器做一些事情,我们需要赋予它这种能力,并为此制造一台机器。现在我们制造出了在特定领域比人类更聪明的机器,但人工智能不会真的统治世界,因为我们不会为此而去做。

7.十年合同和两个小赌注

早在20世纪80年代末,Yann LeCun作为贝尔实验室的研究员,提出了卷积网络技术,并展示了如何使用它来大大提高手写识别能力。在演讲中,他还提到了1995年贝尔实验室的两个有趣的打赌。

赌博双方是贝尔实验室前负责人拉里·杰克尔(Larry Jackel)和SVM创始人之一弗拉基米尔·瓦普尼克(Vladimir Vapnik)。

第一个赌注:拉里·杰克尔认为,最迟到2000年,我们将对神经网络为什么有效有一个成熟的理论解释。

第二个赌注:弗拉基米尔·瓦普尼克认为,到2000年,人们将不再使用神经网络的结构。

而打赌的结果呢?-他们都输了。到目前为止,我们仍然没有一个成熟的解释,可以告诉我们为什么神经网络工作得这么好。同时,我们还在使用神经网络架构。

最后,在2005年,他们吃了一顿昂贵的赌博晚餐,由于两人都各输了一局,账单是五五开。

标签

作为脸书人工智能实验室主任,卷积神经网络之父,深度学习公司三巨头之一,Yann LeCun的演讲比文章中反映的内容要学术得多。除了以上亮点,Yann LeCun教授的演讲还涉及了深度学习从1957年至今的发展,在神经网络结构中引入能量函数的无监督学习,基于能量的生成对抗网络,深度卷积生成对抗网络,视频内容预测等。东西方对话页面回复“FaceBook”即可获取YannLeCun在清华演讲的所有PPT,这里就不展开了。

东西方起源也促成了这篇文章。

每日头条

趋势,深度,犀利,干货,最专业的行业解读

 
友情链接
鄂ICP备19019357号-22