本文约658字,建议阅读2分钟
本文
介绍
了9月1日 19:30~20:30举办的沈志强博士主题分享,欢迎扫码观看直播。
9月1日晚 7:30-8:30
AI TIME特别邀请了沈志强博士,为大家带来报告——《理解自监督学习,知识蒸馏和二值化网络 》
沈志强:
卡耐基梅隆大学和穆罕默德·本·扎耶德人工智能大学博士后,在Eric Xing教授以及Marios Savvides教授实验室从事深度学习、计算机视觉、机器学习等研究工作。他是复旦大学和伊利诺伊大学香槟分校联合培养博士,师从Thomas Huang教授等。
他的早期研究工作主要聚焦于传统的计算机视觉任务,比如目标检测 (detection from scratch),细粒度分类,小样本、视频描述等。目前他也关注如何为这些视觉任务通过机器学习算法进行加速和优化,最近一些工作更多的关注于二值化网络,知识蒸馏,网络压缩,自监督学习等工作机制的研究以及和视觉任务结合的方向。
他希望自己的研究能够使视觉应用在现实场景中更加高效的部署和运行,使用更少的数据(few-shot)和更少的标注(self-supervision),同时保证模型精度。他是CSIG 2019优秀博士毕业论文获得者。他的一作工作发表于TPAMI、IJCV、ICLR、ICML、CVPR、ICCV、AAAI等机器学习和计算机视觉领域顶级期刊和会议,同时也是这些期刊会议的审稿人,他总发表的论文数目超过30篇,google scholar 2200+。
个人主页:http://zhiqiangshen.com/
报告简介:
主要会介绍最近在ICLR 2021,ICML 2021以及CVPR 2021上的几个工作,包括:
(1)一个全新的基于蒸馏的自监督学习框架
(2)知识蒸馏和标签平滑的深度理解
(3)如何高效的通过监督或者自监督的方式训练二值化网络等等。