斯坦福大学网络公开课

核心提示机器之心报道参与:思源、晓坤你知道怎么入门自然语言处理么?当然是大名鼎鼎的斯坦福公开课 CS224N 了,它和计算机视觉方面的课程 CS231n 堪称绝配。但是自 2017 年以来,NLP 有了很多重大的变化,包括 Transformer

机器心脏报告

参与:思远、肖坤

你知道怎么介绍自然语言处理吗?当然是大家熟知的斯坦福公开课CS224N,与计算机视觉课程CS231n绝配。但是从2017年开始,NLP有了很多显著的变化,包括Transformer和预训练语言模型。目前开放视频还是17年初的课程,很多精彩的前沿模式都没有引入。但是在最近推出的CS224N 2019课程中,显示这次课程视频会放在YouTube上!

课程地址:http://web.stanford.edu/class/cs224n/

CS224N是一门关于自然语言处理的专业课。虽然有很多公开课会涉及递归神经网络或语言建模,但很少有像它这样系统介绍自然语言处理任务的。包括单词嵌入、依存分析、神经机器翻译、语音识别和语义消歧。此外,在19年的新课程中,还会重点介绍最近比较流行的变形金刚和训前表象。这些系统化的新内容,真的很精彩。

17年的课程,CS224N采用了TensorFlow,今年采用了更简洁的PyTorch。不过今年没有专门针对PyTorch的课,读者需要提前了解PyTorch。

此外,在CS224N 2019的主页上,表示一旦课程完成,斯坦福计划将这些视频放到YouTube上。不过3月14日课程结束后,斯坦福还需要一些时间来处理视频,读者可以先看看17年的视频。其他的PPT和作业会随着课程的进行而发布,所以我们也可以先看看课程资料。

讲师阵容

视频地址:https://www.youtube.com/playlist list = pl 3 fw 7 Lu 3 i5 jsn 1 rnu wq _ tcylnr 7 eker 6

关于CS224n

自然语言处理是信息时代最重要的技术之一,也是人工智能的关键部分。NLP的应用无处不在,因为人们几乎用语言交流:网络搜索、广告、电子邮件、客户服务、语言翻译、医疗报告等。近年来,深度学习方法在许多不同的NLP任务中取得了非常高的性能。它只需要使用单一的端到端神经模型,不需要传统的特定任务特征工程。在本课程中,学生将深入了解NLP深度学习的前沿研究。通过讲座、作业和期末项目,学生将学习设计、实现和理解自己的神经网络模型所需的技能。今年,CS224n将首次使用PyTorch代替TensorFlow。

基本原理

精通Python: Python是所有课程的必修课。如果你有很多编程经验,但是使用不同的语言,可能问题不大。

本教程可能对那些不熟悉Python和/或NumPy:http://cs231n.github.io/python-numpy-tutorial/的人有用

大学微积分和线性代数:需要熟悉使用导数,理解矩阵/向量符号和运算。

以及概率的统计基础:你需要熟悉概率、高斯分布、均值、标准差等基础知识。

机器学习基础:建模过程涉及设计损失函数,求导数,梯度下降优化。如果你已经有了机器学习和/或深度学习的基础知识,课程会容易一些,但是即使你不知道这些,你也可以学习CS224n。哈尔多姆的机器学习课程提供了一个平易近人的介绍。读完书的前五章可以获得很好的背景知识,读完前七章会更好。

参考数据

以下书籍对本课程非常有用,但不是必须的。有兴趣的读者可以自由选择,所有书籍都可以免费在线阅读。

丹·茹拉夫斯基和詹姆斯·马丁。语音和语言处理地址:https://web.stanford.edu/~jurafsky/slp3/

雅各布·艾森斯坦。自然语言处理地址:https://github.com/Jacob·艾森斯坦/gt-NLP-class/blob/master/notes/Eisenstein-NLP-notes . pdf

约夫·戈德堡。自然语言处理的神经网络模型入门地址:http://u.cs.biu.ac.il/~yogo/nnlp.pdf

伊恩·古德菲勒、约舒阿·本吉奥和亚伦·库维尔。深度学习的地址:http://www.deeplearningbook.org/

尤金·查尼克。深度学习简介地址:https://mitpress.mit.edu/books/introduction-deep-learning

本文由机器之心报道,授权请联系本微信官方账号。

 
友情链接
鄂ICP备19019357号-22