机器学习与求解器

机器学习(ML)和逻辑推理自人工智能(AI)诞生以来一直是其两个基础支柱,但只有在过去十年里,这两个领域之间的互动才变得日益突出。特别是,机器学习对SAT和SMT求解器产生了巨大影响,正如获奖的SATzilla、MapleSAT和Z3alpha求解器所示。本教程旨在通过弥合机器学习和逻辑推理研究社区之间的鸿沟,激发新的跨学科研究。我们将向更广泛的AI社区介绍已经应用于逻辑推理求解器中的机器学习技术,重点介绍那些成功且有前景的方法。我们还将举办一个小组讨论,探讨大型语言模型(LLMs)如何在未来塑造这一领域。 与纯粹的端到端学习不同,成功的机器学习方法往往与符号求解器紧密集成。我们教程的核心论点是,机器学习最有效的应用场景是用来对求解器实现的证明/重写规则进行排序、选择、初始化和配置,这一点得到了许多成功案例的支持。我们将重点介绍一个典型例子,即使用机器学习来学习分支启发式方法,既可以通过强化学习(RL)在线地为特定实例进行训练,也可以通过离线训练神经网络策略来处理来自特定应用的代表性实例。 本教程假设参与者具有基本的机器学习知识,并从逻辑求解器的基本背景知识开始。我们将探索主要的机器学习求解范式——算法选择、算法配置和启发式方法的强化学习,重点介绍每个领域中的成功应用。我们还将讨论为什么图神经网络(GNNs)是用神经网络建模逻辑公式的合适架构。教程部分最后,我们将通过实践编码演示,展示如何为特定应用配置参数化求解器,使用SMAC微调MapleSAT中的在线学习参数。鼓励参与者带上自己的求解器和应用程序,测试这种方法是否对他们的工作有效。 最后,我们将与领域内的专家进行小组讨论,探讨大型语言模型对逻辑推理的影响,这是AI社区中意见往往非常分歧的一个话题。小组将探讨大型语言模型在推理任务中的有效性,并反过来讨论如何将形式化的逻辑推理融入到大型语言模型中,从而增强其可信度。

成为VIP会员查看完整内容
0

相关内容

【新书】AI工程:基于基础模型构建应用
专知会员服务
53+阅读 · 2024年12月30日
【KDD2024教程】RAG遇上LLMs:迈向检索增强的大语言模型
专知会员服务
61+阅读 · 2024年9月7日
【WWW2024教程】大型语言模型驱动智能体,附slides
专知会员服务
62+阅读 · 2024年5月14日
【CIKM2023教程】会话人工智能的数据增强,170页ppt
专知会员服务
45+阅读 · 2023年11月11日
【AAAI2023教程】嵌入式机器学习教程,
专知会员服务
35+阅读 · 2023年2月18日
【COLING2022教程】自然语言处理的不确定性估计教程
专知会员服务
30+阅读 · 2022年10月17日
【硬核书】可扩展机器学习:并行分布式方法
专知会员服务
86+阅读 · 2020年5月23日
【KDD2020】图神经网络生成式预训练
专知
22+阅读 · 2020年7月3日
【数字孪生】从CAD数据到数字孪生
产业智能官
22+阅读 · 2019年11月11日
图神经网络火了?谈下它的普适性与局限性
机器之心
21+阅读 · 2019年7月29日
【迁移学习】迁移学习在图像分类中的简单应用策略
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
434+阅读 · 2023年3月31日
Arxiv
22+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【新书】AI工程:基于基础模型构建应用
专知会员服务
53+阅读 · 2024年12月30日
【KDD2024教程】RAG遇上LLMs:迈向检索增强的大语言模型
专知会员服务
61+阅读 · 2024年9月7日
【WWW2024教程】大型语言模型驱动智能体,附slides
专知会员服务
62+阅读 · 2024年5月14日
【CIKM2023教程】会话人工智能的数据增强,170页ppt
专知会员服务
45+阅读 · 2023年11月11日
【AAAI2023教程】嵌入式机器学习教程,
专知会员服务
35+阅读 · 2023年2月18日
【COLING2022教程】自然语言处理的不确定性估计教程
专知会员服务
30+阅读 · 2022年10月17日
【硬核书】可扩展机器学习:并行分布式方法
专知会员服务
86+阅读 · 2020年5月23日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员