复旦博导邱锡鹏教授新书《神经网络与深度学习》,正式开源发布!

2019 年 4 月 12 日 大数据技术

来自:CVer(微信号:CVerNews)


前言


Amusi 在2019年4月6日逛知乎时,发现关注的邱锡鹏教授发了一篇推文《神经网络与深度学习》,点进去一看,发现了”宝藏“!


于是便立即联系了邱教授,询问是否可以将这份资源转发或者介绍给大家。邱教授也很爽快,没过多久就给了肯定的答复。


这里简单介绍一下邱锡鹏教授



副教授,博士生导师,复旦大学计算机科学技术学院,自然语言处理与深度学习组。目前主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文。


个人信息来源:https://xpqiu.github.io/


下面看看邱锡鹏教授介绍《神经网络与深度学习》的知乎原文

https://zhuanlan.zhihu.com/p/61591812


正文


整本书终于写完了,虽然还有很多不足。但先告一段落,不然就得无限期拖延下去。感谢众多热心网友的意见和建议。全书的内容可以从这里(nndl.github.io/)下载。个人能力有限,书中难免有不当和错误之处,还望读者海涵和指正,不胜感激。

本书最早是我三年前放在网上的一本很粗浅的讲义。2015年复旦大学计算机学院开设了《神经网络与深度学习》课程,当时还没有关于深度学习的系统介绍。讲好深度学习并不是一件容易的事,课程涉及知识点非常多并且比较杂乱,也和实践结合十分紧密。作为任课教师,我尝试将梳理了深度学习的知识体系,并写了一本讲义放在网络上。虽然现在看起来当时对深度学习的理解仍然十分粗浅,且讲义存在很多错误,但依然受到了很多热心网友的反馈和鼓励。写书不是一件容易的事,一方面是深度学习的发展十分迅速,而自己关于深度学习的认知也不断变化,导致已写好的内容经常需要修改,另一方面是平时的科研工作十分繁忙,很难抽出大段的时间来静心写作,因此断断续续的写作一直拖延至今。

本书主要介绍神经网络与深度学习中的基础知识、主要模型(前馈网络、卷积网络、循环网络等)以及在计算机视觉、自然语言处理等领域的应用。全书共15章,可以作为一学期的课程进行讲授。

第1章是绪论,介绍人工智能、机器学习、深度学习的概要,使读者对相关知识进行全面的了解。
第2、3章介绍了机器学习的基础知识。
第4、5、6章分别讲述三种主要的神经网络模型:前馈神经网络、卷积神经网络和循环神经网络。在第6章中略提了下图网络的内容。
第7章介绍神经网络的优化与正则化方法。
第8章介绍神经网络中的注意力机制和外部记忆。
第9章简要介绍了一些无监督学习方法。
第10章中介绍一些和模型独立的机器学习方法:集成学习、协同学习、自学习、多任务学习、迁移学习、终身学习、小样本学习、元学习等。这些都是目前深度学习的难点和热点问题。
第11章介绍了概率图模型的基本概念,为后面的章节进行铺垫。
第12章介绍两种早期的深度学习模型:玻尔兹曼机和深度信念网络。
第13章介绍最近两年发展十分迅速的深度生成模型:变分自编码器和对抗生成网络。
第14章介绍了深度强化学习的知识。
第15章介绍了应用十分广泛的序列生成模型。

神经网络与深度学习

这里再结合官网信息,扩充介绍一下《神经网络与深度学习》资源

《神经网络与深度学习》既开放了书籍PDF下载,还配套了PPT等课件,而且书籍中每个章节还有相应课程练习题,很可贵的配套了示例代码,真的良心之作。(全文都是中文原语,一本很适合国人的书籍资源)

关于本书

github项目:https://github.com/nndl/nndl.github.io

示例代码:https://github.com/nndl/nndl-codes

课程练习:https://github.com/nndl/exercise

概要

《神经网络与深度学习》3小时课程概要 ppt(72M) pdf (12M)

全书内容 pdf (updated 2019-4-6)

章节内容

  1. 绪论[ppt] (updated 2019-4-4)

  2. 机器学习概述 [ppt] (updated 2019-4-4)

  3. 线性模型 [ppt] (updated 2019-4-4)

  4. 前馈神经网络 [ppt] (updated 2019-4-4)

  5. 卷积神经网络 [ppt] (updated 2019-4-4)

  6. 循环神经网络 [ppt] (updated 2019-4-4)

  7. 网络优化与正则化 [ppt] (updated 2019-4-4)

  8. 注意力机制与外部记忆 [ppt] (updated 2019-4-4)

  9. 无监督学习 [ppt] (updated 2019-4-4)

  10. 模型独立的学习方式 (updated 2019-4-4)

  11. 概率图模型 [ppt] (updated 2019-4-4)

  12. 深度信念网络 [ppt] (updated 2019-4-4)

  13. 深度生成模型[ppt] (updated 2019-4-4)

  14. 深度强化学习 [ppt] (updated 2019-4-4)

  15. 序列生成模型 (updated 2019-4-4) 一个过时版本:词嵌入与语言模型

  16. 数学基础 (updated 2019-4-4)

反馈意见

如果您有任何意见、评论以及建议,请通过GitHub的Issues页面进行反馈。你的名字将会出现的本书的致谢列表。

致谢列表:感谢王利锋、张钧瑞、李浩、胡可鑫、韦鹏辉、徐国海等同学指出书中的错误。

书籍部分内容

第5章:卷积神经网络部分内容



第5章:卷积神经网络习题


第13章:深度生成模型部分内容



下载
为了方便各位CVer访问,Amusi 已经《神经网络与深度学习》开源书籍PDF和配套PPT打包并上传至百度云。关注CVer公众号,后台回复:神经网络与深度学习,即可获得。

致谢

在此感谢邱锡鹏教授开源这么棒的书籍,这份资料 整理不易,欢迎大家多多star!点击阅读原文即可访问github资源。
https://github.com/nndl/nndl.github.io




●编号797,输入编号直达本文

●输入m获取文章目录

推荐↓↓↓

程序员书库

更多推荐25个技术类公众微信

涵盖:程序人生、算法与数据结构、黑客技术与网络安全、大数据技术、前端开发、Java、Python、Web开发、安卓开发、iOS开发、C/C++、.NET、Linux、数据库、运维等。

登录查看更多
6

相关内容

复旦大学计算机科学技术学院副教授,博士生导师。于复旦大学获得理学学士和博士学位。主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文,引用 1900余次。开源中文自然语言处理工具FudanNLP作者,FastNLP项目负责人。2015年入选首届中国科协人才托举工程,2017年ACL杰出论文奖,2018年获中国中文信息学会“钱伟长中文信息处理科学技术奖—汉王青年创新奖”。 个人主页:https://xpqiu.github.io/
【新书】图神经网络导论,清华大学刘知远老师著作
专知会员服务
361+阅读 · 2020年6月12日
《迁移学习简明手册》,93页pdf
专知会员服务
134+阅读 · 2019年12月9日
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
49+阅读 · 2019年11月12日
复旦大学邱锡鹏老师《神经网络与深度学习》书册最新版
神经网络与深度学习,复旦大学邱锡鹏老师
专知会员服务
117+阅读 · 2019年9月24日
Arxiv
3+阅读 · 2019年9月5日
Arxiv
11+阅读 · 2019年6月19日
Arxiv
26+阅读 · 2019年3月5日
Arxiv
11+阅读 · 2018年7月8日
Arxiv
4+阅读 · 2018年4月26日
Arxiv
4+阅读 · 2018年2月19日
VIP会员
相关论文
Arxiv
3+阅读 · 2019年9月5日
Arxiv
11+阅读 · 2019年6月19日
Arxiv
26+阅读 · 2019年3月5日
Arxiv
11+阅读 · 2018年7月8日
Arxiv
4+阅读 · 2018年4月26日
Arxiv
4+阅读 · 2018年2月19日
Top
微信扫码咨询专知VIP会员