【复旦大学邱锡鹏老师】面向自然语言处理的深度学习基础,199页ppt

2019 年 9 月 8 日 专知
【复旦大学邱锡鹏老师】面向自然语言处理的深度学习基础,199页ppt

【导读】复旦大学邱锡鹏老师在中国文信息学会前沿技术讲习班给了《面向自然语言处理的深度学习基础》讲座,总共199页ppt,讲述自然语言处理的理论与实践,是非常好的学习资料。


报告摘要:


本报告主要介绍在自然语言处理中使得的深度学习基础知识,具体内容分为两部分:(1)理论部分:深度学习的基础知识、主要模型(卷积神经网络、循环神经网络、注意力机制等)以及将这些模型应用到具体的自然语言处理任务上;(2)实践部分:通过文本分类、序列标注、文本生成为例来讲述如何实现具体的自然语言处理模型。


个人介绍

邱锡鹏,复旦大学计算机科学技术学院副教授,博士生导师。于复旦大学获得理学学士和博士学位。主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文,引用1700余次。开源中文自然语言处理工具FudanNLP项目作者,FastNLP项目负责人。2015年入选首届中国科协人才托举工程,2017年ACL杰出论文奖,2018年获中国中文信息学会“钱伟长中文信息处理科学技术奖—汉王青年创新奖”。


地址:

https://xpqiu.github.io/slides/20190712-面向自然语言处理的深度学习基础.pdf


便捷下载


请关注专知公众号(点击上方蓝色专知关注

  • 后台回复“NLPDL2019” 就可以获取PPT下载链接~ 






-END-

专 · 知


专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!

欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询

请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成!560+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!

点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程

登录查看更多
126

相关内容

复旦大学计算机科学技术学院副教授,博士生导师。于复旦大学获得理学学士和博士学位。主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文,引用 1900余次。开源中文自然语言处理工具FudanNLP作者,FastNLP项目负责人。2015年入选首届中国科协人才托举工程,2017年ACL杰出论文奖,2018年获中国中文信息学会“钱伟长中文信息处理科学技术奖—汉王青年创新奖”。 个人主页:https://xpqiu.github.io/

报告主题:面向自然语言处理的深度学习基础

报告摘要:深度学习是人工智能领域的前沿热点,已在自然语言处理领域取得了令人瞩目的成绩,本篇报告从自然语言处理着手,以机器学习、网络模型为基础,并结合自然语言处理的实例,以及最新研究进展,全方面多层次地进行讲解,为感兴趣的学者、学生和工程师,提供了一个快速了解相关基础知识、研究内容、发展趋势的窗口。

嘉宾介绍:邱锡鹏,男,复旦大学计算机科学技术学院副教授,中国中文信息学会青年工作委员会委员,中国人工智能学会青年工作委员会常务委员,主要从事自然语言处理、深度学习等方向的研究,在 ACL、EMNLP、AAAI、IJCAI 等计算机学会 A/B 类期刊、会议上发表 50 余篇学术论文。开源自然语言处理工具 FudanNLP [GitHub] [Google Code] 项目开发者,FastNLP [GitHub] 项目负责人。 2015 年入选首届中国科协人才托举工程,2018 年获中国中文信息学会 “钱伟长中文信息处理科学技术奖—汉王青年创新奖”

成为VIP会员查看完整内容
CIPS_SSATT_2019_面向自然语言处理的深度学习基础_邱锡鹏.pdf
0
34

神经网络与深度学习,复旦大学邱锡鹏老师。近年来,以机器学习、知识图谱为代表的人工智能技术逐渐变得普及。从车牌识别、人脸识别、语音识别、智能问答、推荐系统到自动驾驶,人们在日常生活中都可能有意无意地使用到了人工智能技术。这些技术的背后都离不开人工智能领域研究者们的长期努力。特别是最近这几年,得益于数据的增多、计算能力的增强、学习算法的成熟以及应用场景的丰富,越来越多的人开始关注这一个“崭新”的研究领域:深度学习。深度学习以神经网络为主要模型,一开始用来解决机器学习中的表示学习问题。但是由于其强大的能力,深度学习越来越多地用来解决一些通用人工智能问题,比如推理、决策等。目前,深度学习技术在学术界和工业界取得了广泛的成功,受到高度重视,并掀起新一轮的人工智能热潮。

本课程主要介绍神经网络与深度学习中的基础知识、主要模型(前馈网络、卷积网络、循环网络等)以及在计算机视觉、自然语言处理等领域的应用。

本书的写作目的是使得读者能够掌握神经网络与深度学习技术的基本原理,知其然还要知其所以然。全书共 15 章。第 1 章是绪论,介绍人工智能、机器学习、深度学习的概要,使读者对相关知识进行全面的了解。第2、3章介绍机器学习的基础知识。第4、5、6章分别讲述三种主要的神经网络模型:前馈神经 网络、卷积神经网络和循环神经网络。第7章介绍神经网络的优化与正则化方法。第8章介绍神经网络中的注意力机制和外部记忆。第9章简要介绍一些无监督学习方法。第10章介绍一些模型独立的机器学习方法:集成学习、自训练、协同训练多任务学习、迁移学习、终身学习、元学习等,这些都是目前深度学习的难点和热点问题。第11章介绍概率图模型的基本概念,为后面的章节进行铺垫。第12章介绍两种早期的深度学习模型:玻尔兹曼机和深度信念网络。第13章介绍最近两年发展十分迅速的深度生成模型:变分自编码器和生成对抗网络。第14章介绍深度强化学习的知识。第15章介绍应用十分广泛的序列生成模型。

  • 绪论
  • 机器学习概述
  • 线性模型
  • 前馈神经网络
  • 卷积神经网络
  • 循环神经网络
  • 网络优化与正则化
  • 注意力机制与外部记忆
  • 无监督学习
  • 模型独立的学习方式
  • 概率图模型
  • 深度信念网络
  • 深度生成模型
  • 深度强化学习
  • 序列生成模型 一个过时版本:词嵌入与语言模型
  • 数学基础
成为VIP会员查看完整内容
0
68
小贴士
相关VIP内容
专知会员服务
45+阅读 · 2020年6月8日
专知会员服务
133+阅读 · 2020年4月26日
清华大学张敏老师,个性化推荐的基础与趋势,145页ppt
专知会员服务
65+阅读 · 2019年11月27日
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
33+阅读 · 2019年11月12日
复旦大学邱锡鹏老师《神经网络与深度学习》书册最新版
神经网络与深度学习,复旦大学邱锡鹏老师
专知会员服务
68+阅读 · 2019年9月24日
相关论文
Memory Augmented Graph Neural Networks for Sequential Recommendation
Chen Ma,Liheng Ma,Yingxue Zhang,Jianing Sun,Xue Liu,Mark Coates
12+阅读 · 2019年12月26日
Zi-Yi Dou,Keyi Yu,Antonios Anastasopoulos
5+阅读 · 2019年8月27日
Kazuki Irie,Albert Zeyer,Ralf Schlüter,Hermann Ney
5+阅读 · 2019年7月11日
Sequential Scenario-Specific Meta Learner for Online Recommendation
Zhengxiao Du,Xiaowei Wang,Hongxia Yang,Jingren Zhou,Jie Tang
14+阅读 · 2019年6月2日
Yingtian Zou,Jiashi Feng
6+阅读 · 2019年4月19日
Yu Cheng,Mo Yu,Xiaoxiao Guo,Bowen Zhou
11+阅读 · 2019年1月26日
Antoine J. -P. Tixier
10+阅读 · 2018年8月30日
Zhanxiang Feng,Jianhuang Lai,Xiaohua Xie
7+阅读 · 2018年3月30日
Parisa Naderi Golshan,HosseinAli Rahmani Dashti,Shahrzad Azizi,Leila Safari
6+阅读 · 2018年3月15日
Afroze Ibrahim Baqapuri
3+阅读 · 2015年9月14日
Top