会员服务
VLDB 2023 | 北大河图发布分布式训练神器Galvatron, 一键实现大模型高效自动并行
VLDB 2023 | 北大河图发布分布式训练神器Galvatron, 一键实现大模型高效自动并行
机器之心
0+阅读 · 2022年11月30日
OpenAI炼丹秘籍：教你学会训练大型神经网络
OpenAI炼丹秘籍：教你学会训练大型神经网络
THU数据派
1+阅读 · 2022年7月14日
大模型训练之难，难于上青天？预训练易用、效率超群的「李白」模型库来了！
大模型训练之难，难于上青天？预训练易用、效率超群的「李白」模型库来了！
机器之心
1+阅读 · 2022年7月7日
T-thinker | 继MapReduce, Apache Spark之后的下一代大数据并行编程框架
T-thinker | 继MapReduce, Apache Spark之后的下一代大数据并行编程框架
机器之心
0+阅读 · 2022年7月5日
成千上万亿参数的AI大模型是如何炼成的？兼论并行计算的四大策略
成千上万亿参数的AI大模型是如何炼成的？兼论并行计算的四大策略
THU数据派
0+阅读 · 2022年6月17日
【2022新书】分布式机器学习Python实战，284页pdf
【2022新书】分布式机器学习Python实战，284页pdf
专知
13+阅读 · 2022年6月11日
GPU 计算和深度学习在药物发现中的转型作用
GPU 计算和深度学习在药物发现中的转型作用
机器之心
2+阅读 · 2022年5月2日
大规模模型训练tricks集锦
大规模模型训练tricks集锦
夕小瑶的卖萌屋
2+阅读 · 2022年4月25日
【Manning新书】掌握流式处理系统(Streaming-Systems)-实时事件处理
【Manning新书】掌握流式处理系统(Streaming-Systems)-实时事件处理
专知
8+阅读 · 2022年3月24日
「八卦炉」炼丹规模直逼人脑！清华、阿里等搞了个174万亿参数大模型
「八卦炉」炼丹规模直逼人脑！清华、阿里等搞了个174万亿参数大模型
新智元
1+阅读 · 2022年3月12日
BaGuaLu: 基于国产超算的百万亿参数超大预训练模型训练方法 | 论文荐读
BaGuaLu: 基于国产超算的百万亿参数超大预训练模型训练方法 | 论文荐读
学术头条
2+阅读 · 2022年3月11日
阿里开源支持10万亿模型的自研分布式训练框架EPL(EasyParallelLibrary)
阿里开源支持10万亿模型的自研分布式训练框架EPL(EasyParallelLibrary)
阿里技术
0+阅读 · 2022年3月9日
2天训练出15亿参数大模型，国产开源项目力克英伟达Megatron-LM，来自LAMB作者团队
2天训练出15亿参数大模型，国产开源项目力克英伟达Megatron-LM，来自LAMB作者团队
量子位
0+阅读 · 2022年1月20日
厌倦了C++，CS&ML博士用Rust重写Python扩展，还总结了9条规则
厌倦了C++，CS&ML博士用Rust重写Python扩展，还总结了9条规则
机器之心
0+阅读 · 2022年1月2日
参考链接
微信扫码咨询专知VIP会员
Top