把复杂模型或者多个模型Ensemble(Teacher)学到的知识 迁移到另一个轻量级模型( Student )上叫知识蒸馏。使模型变轻量的同时(方便部署),尽量不损失性能。
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注) 后台回复“KD94” 就可以获取《 MIT韩松《知识蒸馏》课程,94页ppt》专知下载链接
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“KD94” 就可以获取《 MIT韩松《知识蒸馏》课程,94页ppt》专知下载链接