今晚直播 | 清华大学高天宇:对比学习及其在NLP中的应用

2020 年 4 月 16 日 PaperWeekly


「PW Live」是 PaperWeekly 的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。

对比学习(contrastive learning)作为一种高效的无监督表示学习方法,近几年来得到了计算机视觉和自然语言处理领域的大量关注。


本期 PW Live,我们邀请到来自清华大学自然语言处理组的本科生高天宇,为大家带来对比学习及其在 NLP 中的应用的主题分享。


对本期主题感兴趣的小伙伴,4 月 16 日(本周四)晚 8 点,我们准时相约 PaperWeekly B 站直播间。




分享提纲




在这次分享中,我们将介绍对比学习的来龙去脉,数学机理,近年发展,同时结合自然语言处理领域的最新进展,以对比学习的视角进行分析和展望。

本次分享的具体内容有:

  • 对比学习(contrastive learning)简介

  • 对比学习与互信息

  • 对比学习最新进展

  • 对比学习与自然语言处理



嘉宾介绍



 高天宇 / 清华大学本科生 

高天宇,清华大学计算机系大四本科生,清华大学自然语言处理实验室成员。曾在 AAAI、EMNLP 等国际会议上发表多篇文章。研究兴趣为预训练语言模型,关系抽取等。


直播地址 & 交流群




本次直播将在 PaperWeekly B 站直播间进行,扫描下方海报二维码点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「PW Live」,即可获取入群通道


B 站直播间:

https://live.bilibili.com/14884511




合作伙伴






🔍


现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧



关于PaperWeekly


PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。



登录查看更多
3

相关内容

通过潜在空间的对比损失最大限度地提高相同数据样本的不同扩充视图之间的一致性来学习表示。对比式自监督学习技术是一类很有前途的方法,它通过学习编码来构建表征,编码使两个事物相似或不同
专知会员服务
42+阅读 · 2020年7月7日
【ICML2020-浙江大学】对抗性互信息的文本生成
专知会员服务
43+阅读 · 2020年7月4日
【新书】图神经网络导论,清华大学刘知远老师著作
专知会员服务
359+阅读 · 2020年6月12日
【CCL 2019】ATT-第19期:生成对抗网络 (邱锡鹏)
专知会员服务
48+阅读 · 2019年11月12日
Arxiv
4+阅读 · 2019年12月2日
Embedding Logical Queries on Knowledge Graphs
Arxiv
3+阅读 · 2019年2月19日
Arxiv
3+阅读 · 2018年8月27日
Arxiv
23+阅读 · 2017年3月9日
VIP会员
Top
微信扫码咨询专知VIP会员