自然语言处理技术试图用计算机模拟人类语言,解决从自动翻译到问答等各种各样的问题。CS11-711高级自然语言处理(在卡耐基梅隆大学的语言技术研究所)是一门自然语言处理的入门级研究生课程,目标是有兴趣在该领域进行前沿研究的学生。其中,我们描述了自然语言处理的基本任务,如句法、语义和篇章分析,以及解决这些任务的方法。本课程着重于使用神经网络的现代方法,并涵盖基本的建模和学习所需的算法。课程以一个项目结束,在这个项目中,学生试图在他们选择的主题中重新实施和改进一篇研究论文。
http://phontron.com/class/anlp2021/schedule.html
高级自然语言处理是一门关于自然语言处理的入门级研究生课程,面向有志于在该领域进行前沿研究的学生。其中,我们描述了自然语言处理的基本任务,如句法、语义和篇章分析,以及解决这些任务的方法。本课程着重于使用神经网络的现代方法,并涵盖基本的建模和学习所需的算法。课程以一个项目结束,在这个项目中,学生试图在他们选择的主题中重新实施和改进一篇研究论文。
目录内容:
引言
Intro 1 - NLP 概述 Overview of NLP (8/31/2021) Intro 2 - 文本分类 Text Classification (9/2/2021) Intro 3 - 语言建模 Language Modeling and NN Basics (9/7/2021) Intro 4 - 神经网络基础 Neural Network Basics and Toolkit Construction (9/9/2021)
建模
Modeling 1 - 循环神经网络 Recurrent Networks (9/14/2021) Modeling 2 - 条件生成 Conditioned Generation (9/16/2021) Modeling 3 - 注意力机制 Attention (9/21/2021)
表示
Representation 1 - 预训练方法 Pre-training Methods (9/23/2021) Representation 2 - 多任务多领域Multi-task, Multi-domain, and Multi-lingual Learning (9/28/2021) Representation 3 - 提示学习Prompting + Sequence-to-sequence Pre-training (9/30/2021) Representation 4 - Interpreting and Debugging NLP Models (10/5/2021) Modeling 4 - 序列标注 Sequence Labeling (10/7/2021)
分析
Analysis 1 - Word Segmentation and Morphology (10/12/2021) Break -- No Class! (10/14/2021) Analysis 2 - Syntactic Parsing (10/19/2021) Analysis 3 - Semantic Parsing (10/21/2021) Analysis 4 - Discourse Structure and Analysis (10/26/2021)
应用
Applications 1 - 机器阅读Machine Reading QA (10/28/2021) Applications 2 - Dialog (11/02/2021) Applications 3 - Computational Social Science, Bias and Fairness (11/4/2021) Applications 4 - Information Extraction and Knowledge-based QA (11/9/2021)
学习
Learning 1 - Modeling Long Sequences (11/11/2021) Learning 2 - Structured Learning Algorithms (11/16/2021) Learning 3 - Latent Variable Models (11/18/2021) Learning 4 - Adversarial Methods for Text (11/23/2021) Thanksgiving -- No Class!! (11/25/2021) Poster Presentations (11/30/2021 and 12/2/2021)