减少机器学习的时间成本可以缩短模型训练的等待时间,加快模型更新周期。分布式机器学习使机器学习实践者能够将模型训练和推理时间缩短几个数量级。在本实用指南的帮助下,您将能够将您的Python开发知识应用到分布式机器学习的实现中,包括多节点机器学习系统。首先,您将探索分布式系统如何在机器学习领域工作,以及分布式机器学习如何应用于最先进的深度学习模型。随着学习的深入,您将看到如何使用分布式系统来增强机器学习模型训练和服务速度。在优化本地集群或云环境中的并行模型训练和服务管道之前,您还将掌握应用数据并行和模型并行方法。读完这本书,您将获得构建和部署高效数据处理管道所需的知识和技能,用于以分布式方式进行机器学习模型训练和推理。

https://www.packtpub.com/product/distributed-machine-learning-with-python/9781801815697

读者

这本书是为数据科学家,机器学习工程师,和机器学习从业者在学术界和工业界。本文假设您基本了解机器学习概念和Python编程的工作知识。有使用TensorFlow或PyTorch实现机器学习/深度学习模型的经验者优先。如果你对使用分布式系统来提高机器学习模型训练和服务速度感兴趣,你会发现这本书很有用。

内容目录:

第1章,分割输入数据,展示了如何将机器学习训练或服务负载分配到输入数据维上,称为数据并行。第2章Parameter Server和All-Reduce描述了数据并行训练过程中常用的两种模型同步方案。第3章,构建数据并行训练和服务管道,阐述了如何实现数据并行训练和服务流程。第4章,瓶颈和解决方案,描述了如何使用一些高级技术来提高数据并行性能,例如更高效的通信协议,减少内存占用。第5章,模型分割,介绍了一般的模型并行方法。第6章,管道输入和层拆分,展示了如何利用管道并行提高系统效率。第7章,实现模型并行培训和服务流程,详细讨论了如何实现模型并行培训和服务流程。第8章,实现更高的吞吐量和更低的延迟,涵盖了在模型并行中减少计算和内存消耗的高级方案。第9章,数据和模型并行的混合,将数据和模型并行结合在一起作为一种高级的并行模型训练/服务方案。第10章,联邦学习和边缘设备,讨论了联邦学习和边缘设备如何参与这个过程。第11章,弹性模型训练和服务,描述了一个更有效的方案,可以改变在飞行中使用的加速器的数量。第12章,进一步加速的高级技术,总结了几个有用的工具,如性能调试工具,工作多路复用,和异构模型训练。

成为VIP会员查看完整内容
68
0

相关内容

分布式机器学习研究将具有大规模数据量和计算量的任务分布式地部署到多台机器上,其核心思想在于“分而治之”,有效提高了大规模数据计算的速度并节省了开销。
【2022新书】Python手册,275页pdf
专知会员服务
98+阅读 · 3月18日
【Manning新书】TensorFlow机器学习,454页pdf
专知会员服务
64+阅读 · 2021年11月14日
【2021新书】基于Python的实用深度学习概述,464页pdf
专知会员服务
55+阅读 · 2021年10月25日
【2021新书】深度学习计算机视觉,320页pdf
专知会员服务
125+阅读 · 2021年5月20日
【干货书】Python机器学习,361页pdf
专知会员服务
176+阅读 · 2021年2月25日
【2020新书】高级Python编程,620页pdf
专知会员服务
192+阅读 · 2020年7月31日
【新书】Pro 机器学习算法Python实现,379页pdf
专知会员服务
156+阅读 · 2020年2月11日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 6月28日
Advances and Open Problems in Federated Learning
Arxiv
17+阅读 · 2019年12月10日
Arxiv
18+阅读 · 2018年8月19日
小贴士
相关VIP内容
【2022新书】Python手册,275页pdf
专知会员服务
98+阅读 · 3月18日
【Manning新书】TensorFlow机器学习,454页pdf
专知会员服务
64+阅读 · 2021年11月14日
【2021新书】基于Python的实用深度学习概述,464页pdf
专知会员服务
55+阅读 · 2021年10月25日
【2021新书】深度学习计算机视觉,320页pdf
专知会员服务
125+阅读 · 2021年5月20日
【干货书】Python机器学习,361页pdf
专知会员服务
176+阅读 · 2021年2月25日
【2020新书】高级Python编程,620页pdf
专知会员服务
192+阅读 · 2020年7月31日
【新书】Pro 机器学习算法Python实现,379页pdf
专知会员服务
156+阅读 · 2020年2月11日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员