今天,机器学习正在从研究过渡到广泛的部署。这一转变需要能够从异质数据集中学习的算法和能够在复杂的多任务环境中运行的模型。那么,在为这种情况设计模型和算法时,我们是否有一套原则可以遵循?在这篇论文中,我们从概率的角度来探讨这个问题,开发了一个声明性的框架来表示、分析和解决不同的多任务学习问题,并考虑了多个案例研究,从多智能体游戏、多语言翻译到联合学习和个性化。

本论文中提出的观点组织如下。首先,我们介绍我们的核心概率多任务建模框架。从学习任务的一般定义开始,我们展示了如何将多个相关的任务集合到一个联合概率模型中并加以表示。然后,我们阐述了多任务环境中的不同概括概念,并展示了如何推导出实用的学习算法和一致的目标函数,从而利用概率学习和推理的技术实现某些类型的概括。接下来,我们通过多个具体的案例研究来说明我们提出的框架。我们的每一个案例研究都是独立的,都集中在一个特定的领域,展示了我们框架的多功能性。我们不仅从概率的角度重新解释了不同的问题,而且还开发了新的学习算法和推理技术,在每个考虑的领域中改进了当前的最先进技术。

成为VIP会员查看完整内容
28

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【牛津大学博士论文】元强化学习的快速自适应,217页pdf
【CMU博士论文】通过记忆的元强化学习,118页pdf
专知会员服务
45+阅读 · 2022年6月23日
【博士论文】多任务学习视觉场景理解,140页pdf
专知会员服务
88+阅读 · 2022年4月5日
【ETH博士论文】贝叶斯深度学习,241页pdf
专知会员服务
123+阅读 · 2022年1月16日
【CMU博士论文】通过记忆的元强化学习
专知会员服务
53+阅读 · 2021年10月16日
专知会员服务
16+阅读 · 2021年7月27日
【CMU博士论文】机器人深度强化学习,128页pdf
专知会员服务
125+阅读 · 2020年8月27日
【CMU硬核书】数理逻辑与计算,526页pdf
专知
8+阅读 · 2022年9月14日
国家自然科学基金
36+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
7+阅读 · 2008年12月31日
VIP会员
相关VIP内容
【牛津大学博士论文】元强化学习的快速自适应,217页pdf
【CMU博士论文】通过记忆的元强化学习,118页pdf
专知会员服务
45+阅读 · 2022年6月23日
【博士论文】多任务学习视觉场景理解,140页pdf
专知会员服务
88+阅读 · 2022年4月5日
【ETH博士论文】贝叶斯深度学习,241页pdf
专知会员服务
123+阅读 · 2022年1月16日
【CMU博士论文】通过记忆的元强化学习
专知会员服务
53+阅读 · 2021年10月16日
专知会员服务
16+阅读 · 2021年7月27日
【CMU博士论文】机器人深度强化学习,128页pdf
专知会员服务
125+阅读 · 2020年8月27日
相关基金
国家自然科学基金
36+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
7+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员