（下面文字主要由 Grok 3 协助生成）
背景与概述
DeepSeek 的开源周始于 2025 年 2 月 24 日，发布了 一批生产测试过的 AI 基础设施工具。这些工具旨在支持高效的 AGI（通用人工智能）开发，并为社区提供可构建的基础设施，加速社区创新，推动 AI 技术的发展。也体现了其“无虚言，仅真诚代码”的开发理念。
根据 DeepSeek Open Infra Index，发布的存储库包括：
-
Day 1: FlashMLA - 高效 MLA 解码内核
-
Day 2: DeepEP - MoE 模型训练和推理的通信库
-
Day 3: DeepGEMM - FP8 GEMM 库
-
Day 4: DualPipe、EPLB、profile-data - 训练优化工具
-
Day 5: 3FS 和 smallpond - 文件系统和数据处理框架
-
Day 6: DeepSeek-V3/R1 推理系统概述
本文将重点分析 FlashMLA、DeepGEMM 和 3FS，并简要提及其他工具。
FlashMLA：高效解码内核
FlashMLA 是一个为 Hopper GPU 优化的高效解码内核，特别适用于 AI 模型的变长序列推理。根据 FlashMLA GitHub 的文档，其功能和特性包括：
-
安装与使用：通过 python setup.py install 安装，提供基准测试脚本 tests/test_flash_mla.py，在 H800 SXM5 上达到 3000 GB/s 内存带宽和 580 TFLOPS 计算性能（CUDA 12.8）。
-
特性：支持 BF16 和 FP16，采用分页 KV 缓存（块大小 64），优化变长序列，需 Hopper GPU 和 CUDA 12.3+（推荐 12.8+），PyTorch 2.0+。
-
社区支持：与 MetaX、Moore Threads、Hygon DCU、Intellifusion 和 Iluvatar Corex 等合作，提供扩展支持。
其重要性在于加速 AI 模型的推理过程，尤其在实时应用和大规模部署中。例如，处理变长序列（如文本生成）时，FlashMLA 显著减少延迟，提升性能。
DeepGEMM：优化 FP8 矩阵乘法库
DeepGEMM 提供优化后的 FP8 GEMM 内核，支持普通和 MoE 分组 GEMM，针对 Hopper GPU 进行了优化。根据 DeepGEMM GitHub 的文档，其详细特性如下：
-
功能文档：包括 deep_gemm.gemm_fp8_fp8_bf16_nt 等函数，测试代码在 /tests/test_core.py，支持 Python 3.8+、CUDA 12.3+、PyTorch 2.1+。
-
性能：在 H800 SXM5 上测试，与 CUTLASS 3.6 比较，普通 GEMM 速度提升 1.4x 至 2.7x，分组 GEMM 也有显著提升（见下表）。
| 类型 | M | N | K | 计算性能 (TFLOPS) | 内存带宽 (GB/s) | 速度提升 |
|---|---|---|---|---|---|---|
| 普通 GEMM (密集) | 64 | 2112 | 7168 | 206 | 1688 | 2.7x |
| 普通 GEMM (密集) | 64 | 24576 | 1536 | 289 | 2455 | 1.7x |
| 分组 GEMM (MoE, 连续) | 4 | 8192 | 4096 | 7168 | 1297 | 418 |
-
优化：采用持久化 warp 特化、Hopper TMA 特性（如多播和描述符预取），支持非对齐块大小，FFMA SASS 交错优化提升 10%+ 性能。
-
重要性：矩阵乘法是 AI 计算的核心，DeepGEMM 通过 FP8 降低精度，减少内存和计算成本，特别适合大型模型训练和推理。
3FS：高性能并行文件系统
3FS（Fire-Flyer File System）是一个为 AI 工作负载设计的高性能并行文件系统，根据 3FS GitHub 的文档，其功能和性能包括：
-
架构：采用分离式架构，结合数千 SSD 的吞吐量和数百存储节点的网络带宽，采用 Chain Replication with Apportioned Queries (CRAQ) 确保一致性。
-
特性：支持无状态元数据服务（基于事务性键值存储如 FoundationDB），优化数据准备、数据加载器、检查点和 KVCache。
-
性能：在 180 节点集群上峰值吞吐量 6.6 TiB/s，GraySort 基准测试在 25 节点集群上达到 3.66 TiB/min，KVCache 每客户端节点峰值读吞吐量 40+ GiB/s。
其重要性在于处理 AI 模型所需的海量数据，确保高效的数据访问和存储，特别适合大规模训练和推理任务。
其他工具概述
除了上述核心工具，DeepSeek 还发布了以下工具：
-
DeepEP：根据 DeepEP GitHub，这是一个 MoE 模型训练和推理的通信库，支持高吞吐量、低延迟的 GPU 内核，优化 NVLink 和 RDMA 通信。
-
DualPipe：根据 DualPipe GitHub，是一个双向管道并行算法，优化训练中的计算-通信重叠，减少管道气泡，提升效率。
-
EPLB 和 profile-data：分别用于专家并行负载平衡和分析计算-通信重叠。
-
smallpond：基于 3FS 的数据处理框架，优化 AI 数据准备。
这些工具进一步增强了 AI 开发中的通信和并行处理能力，详情见 DeepSeek Open Infra Index。
Day 6：DeepSeek-V3/R1 推理系统概述
第 6 天发布了 DeepSeek-V3/R1 推理系统的概述，优化了跨节点专家并行（EP）驱动的批量扩展、计算-通信重叠和负载平衡，达到每 H800 节点 73.7k 输入和 14.8k 输出 token 每秒，成本利润率 545%。详情见 Day 6 Overview（英文）和 知乎文章（中文）。
小结
这些技术的意义和作用可以比喻为高速列车的关键部件：
-
FlashMLA 是先进的推进系统，驱动列车高速运行，象征快速 AI 模型推理。
-
DeepGEMM 是高效的电力分配系统，确保能量优化传递，代表高效计算操作。
-
3FS 是先进的信号和轨道系统，处理复杂路线和大量交通，反映高效数据管理。
正如每个部件对列车的顺利运行至关重要，这些技术共同确保 AI 系统的效率和可扩展性。
关键引用
