潍坊科技学院图书馆书目检索系统

Online Public Access Catalogue

题名/责任者:

分布式机器学习:系统、工程与实战/柳浩著

出版发行项:

北京:电子工业出版社,2023

ISBN及定价:

978-7-121-45814-9/CNY139.00

载体形态项:

xiv, 575页, [16] 页图版:图 (部分彩图);26cm

并列正题名:

Distributed machine learning

个人责任者:

柳浩 著

学科主题:

分布式算法-机器学习

中图法分类号:

TP181

一般附注:

博文视点

相关题名附注:

英文并列题名取自封面

提要文摘附注:

本书共分为5篇，第1篇是分布式基础，首先介绍了分布式机器学习的概念、基础设施，以及机器学习并行化技术、框架和软件系统，然后对集合通信和参数服务器PS-Lite进行了介绍。第2篇是数据并行，以PyTorch和Horovod为主对数据并行进行分析。第3篇是流水线并行，还通过引入额外的流水线来提高效率，以GPipe/PyTorch/PipeDream为例进行分析。第4篇是模型并行，首先对NVIDIAMegatron进行分析，讲解如何进行层内模型并行，然后讲解PyTorch如何支持模型并行，最后介绍分布式优化器。第5篇是TensorFlow分布式。

豆瓣简介：