【迁移学习】中科院计算所王晋东：迁移学习的发展和现状

2017 年 11 月 21 日 产业智能官 AI科技评论

伴随着最近几年的机器学习热潮，迁移学习 (Transfer Learning)也成为目前最炙手可热的研究方向。

迁移学习强调通过不同领域之间的知识迁移，来完成传统机器学习较难完成的任务。它是解决标定数据难获取这一基础问题的重要手段，也是未来更好地研究无监督学习的重要方法。

在近日AI研习社的公开课上，来自中国科学院计算技术研究所的在读博士王晋东带来了题为《迁移学习的发展和现状》的分享。

王晋东，现于中国科学院计算技术研究所攻读博士学位，研究方向为迁移学习和机器学习等。他在国际权威会议ICDM、UbiComp等发表多篇文章；同时，也是知乎等知识共享社区的机器学习达人（知乎用户名：王晋东不在家）。他还在Github上发起建立了多个与机器学习相关的资源仓库，成立了超过120个高校和研究所参与的机器学习群，热心于知识的共享。个人主页：http://jd92.wang

分享内容：

各位听众各位同学大家晚上好，很荣幸收到AI研习社的邀请，这次的主题是《迁移学习的发展及现状》。

我是中国科学院计算技术研究2014级直博生王晋东，主要研究方向是迁移学习及其应用，下面是我的一些基本资料。今天主要是来分享知识，欢迎大家批评指正。

今天主要分为五部分。

一是迁移学习的基本介绍，即为什么要用迁移学习；

二是迁移学习方法的常见分类；

三是把迁移学习与深度学习结合起来的研究；

四是迁移学习的一些最新进展；

五是学习资源的推荐以及总结。

迁移学习基本介绍

先做一个小小的引子，吴恩达曾经说过，迁移学习将会是机器学习的下一个驱动力。

我们先来看一下背景：在智能大数据时代，面对数据量以及数据类型的不断增加，需要能快速构建具有强泛化能力的机器学习模型。大部分数据往往没有标注，收集标注数据或者从头开始构建模型，代价高昂且费时。

这时候就产生了一个问题：如何基于已有的数据和模型，对新数据快速构建相应的模型？

这个问题引出了迁移学习，迁移学习可以解决上述标定数据难以获取的问题。

迁移学习基本思想是利用学习目标和已有知识之间的相关性，把知识从已有的模型和数据中迁移到要学习的目标上去，如下图中所示。目前，迁移学习已被广泛应用于机器学习的许多应用中。

从数据、模型和应用这三个角度来说，迁移学习都很有必要。

总的来说，迁移学习可以减少对标定数据的依赖，通过和已有数据模型之间的迁移，更好地完成机器学习任务。

迁移学习常见方法分类

下面是迁移学习的集中方法，目前常用的主要是同构和异构迁移学习，最常用的是下图右边的几种方法。

先看基于实例的迁移学习方法。假设是源域中的一些数据和目标域会共享很多共同的特征。方法是对源域进行instance reweighting，筛选出与目标域数据相似度高的数据，然后进行训练学习。

下面为大家介绍几个经典的基于实例的迁移学习方法，方法比较简单，容易实现。

第二是基于特征的迁移学习方法。

假设是源域和目标域含有一些公共的交叉特征，方法是通过特征变换，将两个域的数据变换到同一特征空间，然后进行学习。

下面是几种比较经典的方法。

第三种是基于模型的迁移学习方法。

特点是模型相同部分直接进行迁移，好处是可以直接把已有的模型拿来用，针对目标任务做相应的修改。

代表工作有下面几个比较经典的，优点是充分利用模型之间的相似性。

最后是基于关系的迁移学习方法，可以由师生关系类比上下级关系，也可以从生物病毒的传播规律类比计算机病毒的传播。

假设是如果两个域是相似的，那么它们会共享某种相似关系。方法是利用源域学习逻辑关系网络，再应用于目标域上。这部分的研究工作比较少。

深度迁移学习

下面来分析深度迁移学习。深度学习可以学习到更鲁棒的、泛化能力更强的特征表达，迁移学习能学习到领域无关的特征表达，这和深度学习不谋而合，将两者结合，能充分利用神经网络的表达能力，学习域不变的特征表示。

下面看下最近的一些工作，14年有一篇论文探讨了神经网络的可迁移性，横轴是层数，纵轴是精度。

第二篇也是14年的，这篇文章是在AlexNet的分类器层前加入domain loss层，目前引用量也比较多。

15年发表的DAN网络对AlexNet网络的后三层都进行了域适配，还利用了Multi-kernel MMD进行距离度量，这是核心的亮点贡献。

17年的ICML提出了JAN网络，两个核心贡献如下：一是联合适配x和y的分布(JMMD度量)，二是在网络中加入了adversarial学习。

这个工作加了soft labels，同时进行domain和task transfer，网络看起来比较复杂，大家可以看原文，也可以看我的专栏链接。

ADDA提出用adversarial的思想去进行domain adaptation，这篇文章也特别新，代码也开源了。

以上介绍都是我认为的比较经典的方法，是目前来说在深度迁移学习里面比较好的工作。

迁移学习的最新进展

下面来谈谈迁移学习的最新发展。

做迁移学习最重要的点是找到相似度，当源域和目标域相似度减少，如何进行成功迁移呢。15年的Transitive transfer learning给我们在这个领域开辟了道路。17年的Distant domain transfer learning是对15年的论文的延伸。

第二个比较新的进展是利用物理学知识辅助学习任务。实验效果是实线部分，作者的想法非常具有开创性。

第三个是学习迁移。我的理解是把迁移学习和增量学习进行结合，作者提出从已有的知识里自动学习比较适合的算法和参数，这个很有前瞻性，也非常有意义。

学习资源推荐及总结

下面给大家推荐一些学习资源，前面是比较经典的两个综述，第一个是杨强老师的。下面也给大家推荐一些比较知名的学者、会议、期刊等。最后是我的GitHub，在持续更新，我的知乎专栏是《小王爱迁移》，欢迎大家投稿。

今天主要是希望大家了解到迁移学习，知道迁移学习的常用方法，大概了解到深度迁移学习以及一些最新的方向。

人工智能赛博物理操作系统

AI-CPS OS

“人工智能赛博物理操作系统”（新一代技术+商业操作系统“AI-CPS OS”：云计算+大数据+物联网+区块链+人工智能）分支用来的今天，企业领导者必须了解如何将“技术”全面渗入整个公司、产品等“商业”场景中，利用AI-CPS OS形成数字化+智能化力量，实现行业的重新布局、企业的重新构建和自我的焕然新生。

AI-CPS OS的真正价值并不来自构成技术或功能，而是要以一种传递独特竞争优势的方式将自动化+信息化、智造+产品+服务和数据+分析一体化，这种整合方式能够释放新的业务和运营模式。如果不能实现跨功能的更大规模融合，没有颠覆现状的意愿，这些将不可能实现。

领导者无法依靠某种单一战略方法来应对多维度的数字化变革。面对新一代技术+商业操作系统AI-CPS OS颠覆性的数字化+智能化力量，领导者必须在行业、企业与个人这三个层面都保持领先地位：

重新行业布局：你的世界观要怎样改变才算足够？你必须对行业典范进行怎样的反思？
重新构建企业：你的企业需要做出什么样的变化？你准备如何重新定义你的公司？
重新打造自己：你需要成为怎样的人？要重塑自己并在数字化+智能化时代保有领先地位，你必须如何去做？

AI-CPS OS是数字化智能化创新平台，设计思路是将大数据、物联网、区块链和人工智能等无缝整合在云端，可以帮助企业将创新成果融入自身业务体系，实现各个前沿技术在云端的优势协同。AI-CPS OS形成的数字化+智能化力量与行业、企业及个人三个层面的交叉，形成了领导力模式，使数字化融入到领导者所在企业与领导方式的核心位置：

精细：这种力量能够使人在更加真实、细致的层面观察与感知现实世界和数字化世界正在发生的一切，进而理解和更加精细地进行产品个性化控制、微观业务场景事件和结果控制。
智能：模型随着时间（数据）的变化而变化，整个系统就具备了智能（自学习）的能力。
高效：企业需要建立实时或者准实时的数据采集传输、模型预测和响应决策能力，这样智能就从批量性、阶段性的行为变成一个可以实时触达的行为。
不确定性：数字化变更颠覆和改变了领导者曾经仰仗的思维方式、结构和实践经验，其结果就是形成了复合不确定性这种颠覆性力量。主要的不确定性蕴含于三个领域：技术、文化、制度。
边界模糊：数字世界与现实世界的不断融合成CPS不仅让人们所知行业的核心产品、经济学定理和可能性都产生了变化，还模糊了不同行业间的界限。这种效应正在向生态系统、企业、客户、产品快速蔓延。

AI-CPS OS形成的数字化+智能化力量通过三个方式激发经济增长：

创造虚拟劳动力，承担需要适应性和敏捷性的复杂任务，即“智能自动化”，以区别于传统的自动化解决方案；
对现有劳动力和实物资产进行有利的补充和提升，提高资本效率；
人工智能的普及，将推动多行业的相关创新，开辟崭新的经济增长空间。

给决策制定者和商业领袖的建议：

超越自动化，开启新创新模式：利用具有自主学习和自我控制能力的动态机器智能，为企业创造新商机；
迎接新一代信息技术，迎接人工智能：无缝整合人类智慧与机器智能，重新
评估未来的知识和技能类型；
制定道德规范：切实为人工智能生态系统制定道德准则，并在智能机器的开
发过程中确定更加明晰的标准和最佳实践；
重视再分配效应：对人工智能可能带来的冲击做好准备，制定战略帮助面临
较高失业风险的人群；
开发数字化+智能化企业所需新能力：员工团队需要积极掌握判断、沟通及想象力和创造力等人类所特有的重要能力。对于中国企业来说，创造兼具包容性和多样性的文化也非常重要。

子曰：“君子和而不同，小人同而不和。” 《论语·子路》云计算、大数据、物联网、区块链和人工智能，像君子一般融合，一起体现科技就是生产力。

如果说上一次哥伦布地理大发现，拓展的是人类的物理空间。那么这一次地理大发现，拓展的就是人们的数字空间。在数学空间，建立新的商业文明，从而发现新的创富模式，为人类社会带来新的财富空间。云计算，大数据、物联网和区块链，是进入这个数字空间的船，而人工智能就是那船上的帆，哥伦布之帆！

新一代技术+商业的人工智能赛博物理操作系统AI-CPS OS作为新一轮产业变革的核心驱动力，将进一步释放历次科技革命和产业变革积蓄的巨大能量，并创造新的强大引擎。重构生产、分配、交换、消费等经济活动各环节，形成从宏观到微观各领域的智能化新需求，催生新技术、新产品、新产业、新业态、新模式。引发经济结构重大变革，深刻改变人类生产生活方式和思维模式，实现社会生产力的整体跃升。