合聚咖

合聚咖

课堂深度学习的四个步骤

admin

学习深度学习的基本知识,建议从Andrew Ng的机器学习课程开始,该课程涵盖了许多机器学习算法的介绍以及一般程序/机器学习的方法,如数据预处理和参数调优。

深入了解深度学习,可以观看Nando de Freitas的Deep Learning at Oxford 2015讲座视频,从讲座9开始,适合对神经网络有一定了解的学员,使用了火炬框架。Geoff Hinton的课程虽然由一位杰出的研究者教授,但课程组织欠佳,课程测试较多。Hugo Larochelle教授的课程也是极好的选择。

如果你想深入了解理论,可以学习Yaser Abu-Mostafa的机器学习课程。在线书籍《Neural Networks and Deep Learning》提供了一些交互式Java元素,适合实践。《Deep Learning》书密集,适合对深度学习有深刻理解的读者。

选择专注领域,计算机视觉领域已经受到深度学习的极大影响。斯坦福大学的CS231课程非常适合入门,涵盖基础知识和卷积,还有如何在AWS上建立GPU实例。Mofstafa S,Ibrahimz的课程《Getting Started in Computer Vision》也是很好的选择。

自然语言处理(NLP)领域则需要理解自然语言的算法和基础计算属性。CS224N/Ling284课程是一个很好的起点,David Socher教授的CS224d:Deep Learning for Natural Language Processing课程则覆盖了所有关于自然语言的最新深度学习研究。

记忆网络(RNN-LSTM)领域则涉及到将LSTM复发神经的注意机制与外部可写内存相结合,这项研究始于Dr.Yann Lecun的facebook实验室,原始文字在arxiv上。这个研究领域有许多研究变体、数据集和标准,如Metamind的Dynamic Memory Networks for Natural Language Processing。