电子书 机器学习工程开放手册地址：github.com/stas00/ml-engineering/tree/master

“这是一份开放的方法论、工具和分步指南集合，旨在帮助您成功训练和微调大型语言模型、多模态模型及其推理过程。

这也是一份适合LLM/VLM训练工程师和运维人员的技术资料。其中的内容包含大量脚本和可直接复制粘贴的命令，帮助您快速解决需求。

这个仓库是我在训练大型语言模型（LLM）和视觉语言模型（VLM）过程中积累的经验笔记；其中大量专业知识来自我2022年训练开源BLOOM-176B模型、2023年训练IDEFICS-80B多模态模型，以及2024年在Contextual.AI训练RAG模型的经历。

我整理这些信息主要是为了自己能够快速找到过去研究过且行之有效的解决方案，但和往常一样，我很乐意将这些笔记分享给更广泛的机器学习社区。

目录

第1部分：洞见 人工智能战场工程——您需要了解哪些知识才能取得成功。 如何选择云服务提供商——这些问题将帮助您获得成功的计算云体验。 何时值得升级GPU？——一个实用的评估框架，用于判断GPU代际升级是否物有所值，并通过真实的H200 → B200基准测试进行验证。

第2部分：硬件 计算——加速器、CPU、CPU内存。 存储——本地、分布式和共享文件系统。 网络——节点内和节点间网络。

第3部分：编排 编排系统——管理容器和资源 SLURM——简单Linux资源管理工具

第4部分：训练 训练——模型训练相关指南

第5部分：推理 推理——模型推理洞见

第6部分：开发 调试与故障排除——如何调试简单和复杂的问题 更多调试内容 测试——让测试编写变得愉快的众多技巧和工具

第7部分：其他 资源——LLM/VLM编年史”