【CMU博士论文】《多任务环境下的学习原则：概率论的视角》

今天，机器学习正在从研究过渡到广泛的部署。这一转变需要能够从异质数据集中学习的算法和能够在复杂的多任务环境中运行的模型。那么，在为这种情况设计模型和算法时，我们是否有一套原则可以遵循？在这篇论文中，我们从概率的角度来探讨这个问题，开发了一个声明性的框架来表示、分析和解决不同的多任务学习问题，并考虑了多个案例研究，从多智能体游戏、多语言翻译到联合学习和个性化。

本论文中提出的观点组织如下。首先，我们介绍我们的核心概率多任务建模框架。从学习任务的一般定义开始，我们展示了如何将多个相关的任务集合到一个联合概率模型中并加以表示。然后，我们阐述了多任务环境中的不同概括概念，并展示了如何推导出实用的学习算法和一致的目标函数，从而利用概率学习和推理的技术实现某些类型的概括。接下来，我们通过多个具体的案例研究来说明我们提出的框架。我们的每一个案例研究都是独立的，都集中在一个特定的领域，展示了我们框架的多功能性。我们不仅从概率的角度重新解释了不同的问题，而且还开发了新的学习算法和推理技术，在每个考虑的领域中改进了当前的最先进技术。