分子表示预训练在药物和材料发现的各种应用中至关重要。沿着这一研究方向,大多数现有工作集中在2D分子图的预训练上。与此同时,3D几何结构预训练的能力最近得到了探索。在本教程中,我将首先介绍分子几何表示方法(群不变和等变表示)以及用于预训练的自监督学习。之后,我将结合这两个主题,全面介绍用于分子表示的几何预训练,并详细讨论最新的研究成果。关键词:人工智能、机器学习、深度学习、药物发现、图表示学习、几何表示学习、几何预训练、自监督预训练、群对称性、不变性、E(3)-等变性、SE(3)-等变性。 1. 基于物理启发的几何建模

预训练

密度估计与生成建模 1. 基于物理启发的几何预训练

正面效果 * 负面效果

分子2D-3D * 分子3D * 蛋白质3D * 材料3D

基于物理启发的无监督预训练 * 基于物理启发的监督预训练 1. 基于物理启发的几何预训练与大语言模型(LLM)

分子 * 蛋白质 * 材料 1. 结论

成为VIP会员查看完整内容
4

相关内容

《图Mamba》最新综述,探索图学习中的状态空间模型
专知会员服务
30+阅读 · 2024年12月26日
【伯克利博士论文】通过视频生成学习关于世界的知识
专知会员服务
29+阅读 · 2024年12月19日
自监督预训练图基础模型综述:基于知识的视角
专知会员服务
40+阅读 · 2024年3月28日
【PODS2023】从查询语言的视角看图学习,111页ppt
专知会员服务
26+阅读 · 2023年7月22日
【ICML2022教程】智能交互式学习,80页ppt
专知会员服务
46+阅读 · 2022年7月21日
初学者的 Keras:实现卷积神经网络
Python程序员
24+阅读 · 2019年9月8日
【CVPR2019教程】视频理解中的图表示学习
专知
43+阅读 · 2019年6月20日
论文浅尝 | 区分概念和实例的知识图谱嵌入方法
开放知识图谱
17+阅读 · 2019年1月19日
下载 | 384页NLP多任务联合学习教程(PPT)
机器学习算法与Python学习
20+阅读 · 2018年11月22日
【深度强化学习教程】高质量PyTorch实现集锦
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
435+阅读 · 2023年3月31日
Arxiv
73+阅读 · 2023年3月26日
Arxiv
157+阅读 · 2023年3月24日
Arxiv
22+阅读 · 2023年3月17日
VIP会员
相关资讯
初学者的 Keras:实现卷积神经网络
Python程序员
24+阅读 · 2019年9月8日
【CVPR2019教程】视频理解中的图表示学习
专知
43+阅读 · 2019年6月20日
论文浅尝 | 区分概念和实例的知识图谱嵌入方法
开放知识图谱
17+阅读 · 2019年1月19日
下载 | 384页NLP多任务联合学习教程(PPT)
机器学习算法与Python学习
20+阅读 · 2018年11月22日
【深度强化学习教程】高质量PyTorch实现集锦
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员