这一届科研计算人赶DDL红宝书

2021 年 11 月 16 日 学术头条
问:实验室的硬件条件好坏对你的科研有多大影响?
答:啥条件都行,没有影响。


我们坚信以下三点:
1、科学家就是专门负责搞科研的;
2、不依赖别人,你的研究效率和节奏必须掌握在你自己手里;
3、不管是尝试有风险的新颖项目,还是运用深度学习手段,科研多试错才能出好东西。

有老师跟我们吐槽说,一天天地忙着维护环境,整得跟运维工程师一样了,太耽误事儿。想找学生帮忙吧,他们很多也不懂啊~

老师们的硕博后们也苦不堪言,本专业要学的东西已经多到爆炸,又要理论还要搞实验,还要学大量计算机专业知识……
你这边数据刚拿到手,别人文章都发了……救救孩子吧。

守着大把机器的,不见得有恃无恐;
得不到的,永远在骚动,甚至还会掉头发。。。


我们为这一届科研计算人准备的赶DDL红宝书分为上下两篇 ,有兴趣可以扫描二维码添加小F微信(ID:imfastone)获取:

《学生篇》


一、你们具体怎么帮我们搞科研的?展开说说
二、在云上和在本地跑任务有什么区别?
三、我自己也会上云,为啥要选你们?
四、你们跟超算比怎么样,有区别吗?


《老师篇》


五、我是一个老师,你们对我的科研工作/团队管理有什么帮助?
六、我是药物/生物/化学专业方向的,你们能做到什么程度?
七、我是集成电路/微电子专业方向的,你们能做到什么程度?
八、我是力学/热能/机械工程专业方向的,你们能做到什么程度?


你想问的,这里都有答案。
你想要的,我们能提供更多。

先来看看下面这些效果:
这样跑COMSOL,是不是就可以发Nature了
Auto-Scale这支仙女棒如何大幅提升Virtuoso仿真效率?
1分钟告诉你用MOE模拟200000个分子要花多少钱
LS-DYNA求解效率深度测评 │ 六种规模,本地VS云端5种不同硬件配置
揭秘20000个VCS任务背后的“搬桌子”系列故事
155个GPU!多云场景下的Amber自由能计算
怎么把需要45天的突发性Fluent仿真计算缩短到4天之内?
国内最大规模OPC上云,5000核并行,效率提升53倍
提速2920倍!用AutoDock Vina对接2800万个分子
从4天到1.75小时,如何让Bladed仿真效率提升55倍?
从30天到17小时,如何让HSPICE仿真效率提升42倍?

以下是学生篇精华摘要

你们面向的是哪些科研方向的人?
四大类:
集成电路/微电子专业方向 ,包括物理电子学/电路与系统/微电子学与固体电子学等专业;
药物/生物/化学专业方向 ,包括生物化学与分子生物学/化学工程/生物化学/生物工程/药物化学/分析化学/高分子化学与物理等专业;
力学/热能/机械工程专业方向 ,包括流体力学/工程力学/机械制造及其自动化/车辆工程/工程热物理/热能工程/动力机械及工程/流体机械及工程/航空宇航制造工程等专业;
以及高校或科研机构的AI训练平台、虚拟仿真实验室 等等。

你们是怎么帮助我们这些搞科研的人的?
两点结论:
1、让大家更专心做科研,提升高校及科研机构师生的整体科研效率,让IT能力跟上科研能力。
2、避免大家因为资源不够而不得不选择短平快的研究,不敢尝试。


具体分成以下四个维度:
一整套针对应用优化的自动化科研环境,即开即用;
海量资源加智能决策辅助,大幅提升计算效率同时降低成本;
有针对老师需求的独特场景(这一点后续单独展开);
让IT能力跟上科研能力,可视化操作,轻松上手。

有时候为了抢几台机器都要跟实验室的师兄弟姐妹斗智斗勇,你们的资源真有那么多?
云上资源非常多,我们曾经根据IDC报告推测国内云厂商的服务器总量超过116万台,2020年中国公有云服务市场的全球占比为6.5%,可大致估算出全球公有云厂商的服务器总量超过千万台。
重点是,这些机器都是可用资源。

之前上过云,发现有些类型的资源比较少(如部分型号的GPU),需要分别从几个不同云厂商调资源,你们支持吗?
我们支持多云。
多云指使用来自多个云厂商的多种服务,可以最大限度利用不同云厂商的不同优势,就像你说的从几个不同云厂商调资源。而在产品价格、地域选择,多云也更有优势。

多机并行跑任务真的特别快吗?
云端的一大特点,就是你用相同的钱,可以让1台机器跑100小时,也可以让100台机器跑1小时,后者就是多机并行,能够大大节省跑任务的时间。

我们实验室里才几台机器,天天维护头就很大了,云上这么多机器还不得把自己搞秃了?
云上的运行环境都是自动化配置的,不需要人工干预,用户还可以通过平台进行统一管理和监控,方便易操作。
举个例子,我们的Auto-Scale功能可以自动监控用户提交的任务数量和资源的需求,动态按需地开启和关闭所需算力资源,在不够的时候,还能根据不同的用户策略,自动化调度本区域及其他区域的目标类型或相似类型实例资源。
所有操作都是自动化完成,无需用户干预。
下图就是开启Auto-Scale功能后,用户某项目一周之内所调用云端计算资源的动态情况。
其中橙色曲线为OD实例的使用状况,红色曲线为SPOT的使用状况。


可以看到整个阶段算力波峰为约3500核,而波谷只有650核左右。Auto-Scale功能可以根据任务运算情况动态开启云端资源,并在波峰过去后自动关闭,让资源的使用随着用户的需求自动扩张及缩小,最大程度匹配任务需求。

任务跑得怎么样可以在平台上监控吗?
提交任务后,可以在监控界面中查看任务和集群运行情况。
我们也可以在界面上查看任务运行的日志。


我们还支持实时查看任务本身的状态,比如Fluent的残差曲线,监控计算的收敛情况。


老师想搞深度学习,需要很多GPU,但有时候云上连几块GPU都很难抢到,怎么办?
一般来说单家云厂商的GPU可用资源是比较有限的,我们曾经在一个任务中成功地调用了155块NVIDIA Tesla V100,单个公有云厂商单区域资源未必能够随时满足这种需求。这里面就还涉及到跨云调度。
具体可以看《 生信云实证Vol.6:155个GPU!多云场景下的Amber自由能计算

我试过自己抢云厂商的SPOT,虽然确实很便宜,但非常难用,随时会断掉,你们对SPOT支持到什么程度?
由于SPOT一定会被抢走,我们的建议是用SPOT去算那些单个任务小总数却很多的东西。
比如生物/化学计算里的分子对接。常规分子对接任务几分钟即可算完,特别适合SPOT这种分分钟可能被抢走的状态。而且我们平台具备自动重试功能,一个任务被中断可以自动重新提交,任务之间互相不影响,重新提交单个任务影响很小

不太懂IT,看到Linux就束手无策,我还能用你们这个云平台吗?
可以的,我们支持Windows系统。
另外,由于分布式计算场景大部分基于Linux系统,我们可为用户提供图形化界面,基本不改变操作习惯,通过简单的鼠标操作就可以跑任务,上手非常快。

我们学校的超算中心总是在用好多年前的旧机器,非常慢,实验室的情况稍微好一点,你们云上有新硬件吗?
你在云上随时可以用到最新的硬件。
举个例子,2019年4月3日上午,Intel在太平洋两岸近乎同步发布了代号Cascade Lake的第二代至强可扩展处理器。当天中午12点,国内某云厂商便宣布其基于Cascade Lake的全新一代通用计算增强型云服务器C6正式转为商用。


超算就要慢得多了,超算中心从规划设计到正式上线需要经历若干年的时间,能够在上线时配置当年上市的硬件已经是其规划能力的最佳体现,其最新硬件更新周期至少要以年为单位。

超算资源有时候跑着跑着就被强制回收了,你们也会有这种情况吗?
我们提供的是独占资源,不会被抢走。
 
我们之前用超算都是共享资源,不能改,也不能自己装一些组件,你们可以吗?
我们提供的是独占资源,用户拥有管理员权限,安装什么、如何使用均由用户自己做主。

你们支持哪些应用?
药物/生物/化学方向的有 Autodock Vina、NetMHC、Qvina、Amber、MaterialsStudio、GATK、VASP、Rosetta、Schrödinger、BCFtools、Gromacs、FastQC、DeltaVina、Gaussian 等;
集成电路/微电子方向的有 Innovus、Spectre、Genus、Dracula、Virtuoso、Ncsim、PowerSI、Xcelium、PT、DC、VCS、VC、FM、Verdi、OPC Proteus、Tmax2、HSPICE、Spyglass、Starrc、Calibre、Tessent、nmLVS、nmDRC、xACT、xL、xRC 等;
力学/热能/机械工程方向的有 Abaqus、Autodesk、Bladed、CFX、COMSOL、Fluent、HyperWorks、LS-DYNA、Matlab、Mechanical、MSC Adams、MSC Nastran、StarCCM、SOLIDWORKS、VASP、WRF 等;
人工智能方向的有 Pytorch、Mxnet、Tensorflow、Caffe2、Miniconda、Scikit Learn/OpenCV、Pylearn2、Keras 等。

你们和这些软件/工具,有什么区别呢?
一句话概括,我们是EDA/CAE/CFD/生物/化学/AI计算云平台,通过我们可以在短时间内调集海量资源,为上述软件/工具加速,从而抢在各种科研deadline之前跑完任务,拿到结果。
关于我们的其他优势与技术能力,可以通过后面的问题了解。

……


完整版 《这一届科研计算人赶DDL红宝书:学生篇/老师篇》 请扫描二维码添加小F微信(ID:imfastone)获取。

  END -

我们有个 科研计算云平台
集成多种科研应用,大量任务多节点并行
应对短时间爆发性需求,连网即用
跑任务快,原来几个月甚至几年,现在只需几小时
5分钟快速上手,拖拉点选可视化界面,无需代码
支持高级用户直接在云端创建集群 

扫码免费试用,送300元体验金,入股不亏~

更多电子书
欢迎扫码关注小F(ID:imfastone)获取

你也许想了解具体的落地场景:
这样跑COMSOL,是不是就可以发Nature了
Auto-Scale这支仙女棒如何大幅提升Virtuoso仿真效率?
1分钟告诉你用MOE模拟200000个分子要花多少钱
LS-DYNA求解效率深度测评 │ 六种规模,本地VS云端5种不同硬件配置
揭秘20000个VCS任务背后的“搬桌子”系列故事
155个GPU!多云场景下的Amber自由能计算
怎么把需要45天的突发性Fluent仿真计算缩短到4天之内?
国内最大规模OPC上云,5000核并行,效率提升53倍
提速2920倍!用AutoDock Vina对接2800万个分子
从4天到1.75小时,如何让Bladed仿真效率提升55倍?
从30天到17小时,如何让HSPICE仿真效率提升42倍?

关于为应用定义的云平台
缺人!缺钱!赶时间!初创IC设计公司如何“绝地求生”?
杨洋组织的“太空营救”中, 那2小时到底发生了什么?
一次搞懂速石科技三大产品:FCC、FCC-E、FCP
AI太笨了……暂时
速石科技成三星Foundry国内首家SAFE™云合作伙伴
Ansys最新CAE调研报告找到阻碍仿真效率提升的“元凶”
【2021版】全球44家顶尖药企AI辅助药物研发行动白皮书
国内超算发展近40年,终于遇到了一个像样的对手
帮助CXO解惑上云成本的迷思,看这篇就够了
花费4小时5500美元,速石科技跻身全球超算TOP500

登录查看更多
0

相关内容

专知会员服务
29+阅读 · 2021年4月12日
一份硬核计算机科学CS自学修炼计划
专知会员服务
43+阅读 · 2021年1月12日
机器直觉
专知会员服务
26+阅读 · 2020年11月22日
【高能所】如何做好⼀份学术报告& 简单介绍LaTeX 的使用
科研实习 | 北大贺笛老师招收GNN方向科研实习生
图与推荐
0+阅读 · 2022年3月25日
科研工作者的你,每天有多努力?
极市平台
0+阅读 · 2022年2月8日
提高科研能力!牛津大佬带飞!
CVer
1+阅读 · 2022年1月14日
读博那些事儿:如何对抗压力?在国内深造还是选择出国?
微软研究院AI头条
0+阅读 · 2021年11月10日
我在斯坦福做科研的碎碎念
夕小瑶的卖萌屋
1+阅读 · 2021年9月1日
给实验室配台NVIDIA DGX,快来学习下怎么选择
机器之心
2+阅读 · 2021年4月22日
入行量化,你必须知道的几点
深度学习与NLP
12+阅读 · 2019年3月5日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月19日
Arxiv
0+阅读 · 2022年4月17日
Arxiv
14+阅读 · 2020年9月1日
Arxiv
18+阅读 · 2019年1月16日
Arxiv
136+阅读 · 2018年10月8日
Arxiv
27+阅读 · 2017年12月6日
VIP会员
相关资讯
科研实习 | 北大贺笛老师招收GNN方向科研实习生
图与推荐
0+阅读 · 2022年3月25日
科研工作者的你,每天有多努力?
极市平台
0+阅读 · 2022年2月8日
提高科研能力!牛津大佬带飞!
CVer
1+阅读 · 2022年1月14日
读博那些事儿:如何对抗压力?在国内深造还是选择出国?
微软研究院AI头条
0+阅读 · 2021年11月10日
我在斯坦福做科研的碎碎念
夕小瑶的卖萌屋
1+阅读 · 2021年9月1日
给实验室配台NVIDIA DGX,快来学习下怎么选择
机器之心
2+阅读 · 2021年4月22日
入行量化,你必须知道的几点
深度学习与NLP
12+阅读 · 2019年3月5日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Arxiv
0+阅读 · 2022年4月19日
Arxiv
0+阅读 · 2022年4月17日
Arxiv
14+阅读 · 2020年9月1日
Arxiv
18+阅读 · 2019年1月16日
Arxiv
136+阅读 · 2018年10月8日
Arxiv
27+阅读 · 2017年12月6日
Top
微信扫码咨询专知VIP会员