本文研究了预训练模型的生物序列反向设计。设计具有特定生物功能的蛋白质序列是蛋白质工程的一个长期挑战。本文研究了模型指导下的序列设计的探索机制。本文利用了蛋白质fitness landscape的一个自然属性,即在野生型序列上的一组简单突变通常足以增强所需的功能。利用这一特性,本文提出了近端探索PEX算法,该算法在蛋白预训练语言模型TAPE的基础上采用近端优化框架,优先寻找突变次数少的功能突变体。此外,本文构建了一个专门的模型架构MuFacNet来预测低阶突变效应,这进一步提高了模型引导的进化搜索的样本效率。本文在一套蛋白质序列设计任务中对本文的方法进行了广泛的评估,并证明了比基线算法的实质性改进。

论文下载:https://doi.org/10.1101/2022.04.12.487986

成为VIP会员查看完整内容
10

相关内容

国际机器学习大会(International Conference on Machine Learning,简称ICML ) 是由国际机器学习学会(IMLS)主办的机器学习国际顶级会议,也是CCF-A类学术会议。ICML 2022 共收到5630 投稿,接收1117 篇 short oral,118篇 long oral,录用率为21.94%。
基于几何结构预训练的蛋白质表征学习
专知会员服务
14+阅读 · 2022年8月21日
Nat Mach Intel|用语言模型进行可控的蛋白质设计
专知会员服务
14+阅读 · 2022年7月14日
【ICML2022】基于少样本策略泛化的决策Transformer
专知会员服务
36+阅读 · 2022年7月11日
专知会员服务
15+阅读 · 2021年9月15日
专知会员服务
21+阅读 · 2021年8月23日
专知会员服务
33+阅读 · 2021年8月16日
专知会员服务
81+阅读 · 2021年5月10日
综述:使用语言模型进行可控的蛋白质设计
机器之心
2+阅读 · 2022年7月25日
深度学习预测蛋白质-蛋白质相互作用
机器之心
5+阅读 · 2022年1月15日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2022年8月30日
Arxiv
0+阅读 · 2022年8月26日
已删除
Arxiv
32+阅读 · 2020年3月23日
How to Fine-Tune BERT for Text Classification?
Arxiv
13+阅读 · 2019年5月14日
Arxiv
10+阅读 · 2018年3月22日
VIP会员
相关VIP内容
基于几何结构预训练的蛋白质表征学习
专知会员服务
14+阅读 · 2022年8月21日
Nat Mach Intel|用语言模型进行可控的蛋白质设计
专知会员服务
14+阅读 · 2022年7月14日
【ICML2022】基于少样本策略泛化的决策Transformer
专知会员服务
36+阅读 · 2022年7月11日
专知会员服务
15+阅读 · 2021年9月15日
专知会员服务
21+阅读 · 2021年8月23日
专知会员服务
33+阅读 · 2021年8月16日
专知会员服务
81+阅读 · 2021年5月10日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
相关论文
Arxiv
0+阅读 · 2022年8月30日
Arxiv
0+阅读 · 2022年8月26日
已删除
Arxiv
32+阅读 · 2020年3月23日
How to Fine-Tune BERT for Text Classification?
Arxiv
13+阅读 · 2019年5月14日
Arxiv
10+阅读 · 2018年3月22日
微信扫码咨询专知VIP会员