尽管科学领域的机器学习已获得显著关注,但现有方法通常需要定义明确且无误差的专家输入,或将专家降格为机器的单纯数据提供者。然而,在科学进步的前沿,即便是人类专家在其研究过程中也面临不确定性,这需要人类与算法之间建立一种均衡的协作关系。在本论文中,我们将科学视为科学家基于客观证据更新其信念的人类努力,而算法则代表被编码的观点。

本论文通过概率数值计算这一用于黑箱优化、积分和推断等任务的原则性框架,研究如何将算法与人类信念及期望相对齐。它采用计算智能体,通过多样化的策略将这些任务作为机器学习问题来处理。在此框架内,对齐挑战转化为在策略和建模层面实现计算智能体与人类智能体高效同步的问题。

从策略视角,我们聚焦于贝叶斯求积法作为一种统一求解器。我们将此求解器概念化为贝叶斯数据压缩,它可将数据集压缩成更小、具代表性的点,同时在其分布估计中传播它们的确定性与不确定性。这一视角通过将不同任务和策略框架化为目标信念分布的差异,实现了它们的统一。此种统一在提升跨各类任务(包括近似贝叶斯推断(第3章)、贝叶斯优化与主动学习(第4章)、电池控制问题中的应用(第5章)、时间序列预测及贝叶斯持续学习)的灵活性和适应性的同时,简化了策略对齐。

在建模方面,我们开发了计算智能体与人类用户之间更高效的通信方式,以对齐他们的信念。这既涉及将算法与人类对齐,也包含帮助人类与算法信念对齐。前者需要算法方法能忠实获取人类信念(包括其不确定性),而后者则需要算法解释来将算法的当前知识传达给人类。我们利用经济学方法,特别是期望效用理论(涵盖先验信念获取与算法解释(第6章))以及其与信息论方法的联系(第7章),应对了这些挑战。

成为VIP会员查看完整内容
1

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
【MIT博士论文】优化理论与机器学习实践
专知会员服务
94+阅读 · 2022年6月30日
最新《计算机体系结构和系统的机器学习》综述论文
专知会员服务
55+阅读 · 2021年2月17日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
14+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Arxiv
171+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
484+阅读 · 2023年3月31日
Arxiv
79+阅读 · 2023年3月26日
Arxiv
175+阅读 · 2023年3月24日
Arxiv
25+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
14+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员