昇腾超节点亲和的分布式并行加速库 — 文档中心
| 文档 | 说明 |
|---|---|
| 安装指南 | 源码构建、依赖安装、环境配置 |
| 文档 | 说明 |
|---|---|
| HSDP / FSDP 数据并行 | fully_shard、HSDPModule、overlap、梯度缩放 |
| TP 张量并行 | ColwiseParallel、RowwiseParallel、parallelize_module、Loss Parallel |
| PP 流水线并行 | PipelineStage、Schedule、overlap_b_f、PP+FSDP、P2P prefetch、 Mpipe |
| CP 上下文并行 | ContextParallel、AsyncContextParallel、DSA 系列 |
| EP 专家并行 | ExpertParallel、MoE 构建模块、负载均衡 |
| Activation Checkpoint / Swap | checkpoint_wrapper、swap_wrapper、swap_tensor_wrapper、协同配置 |
| Optimizer | AdamW、Muon、ChainedOptimizer、学习率调度器 |
| Chunk Loss | 大词表输出投影与交叉熵分块、Trainer 和 Qwen3-MoE 接入 |
| DCP 分布式检查点 | 检查点保存/加载、异步 staging、离线转换 |
| 自动并行 | SAPP-ND、SAPP-PPB |
| LlamaFactory + HyperParallel SFT 训练 | 基于 LlamaFactory 和 HyperParallel 的 SFT 配置、启动、精度与性能验证 |
| 模型接入验证使用指南 | Adapter 声明、结构检查、模块对齐、精度矩阵与证据报告 |
| DeepSeek V4.1 Engram Host 代码阅读手册 | 原理、逐函数改动、代码示例与安全约束 |
| DeepSeek V4.1 Engram Host 重构设计 | 过度设计审查、职责收敛方案与验收约束 |
| 文档 | 说明 |
|---|---|
| API Reference | 按特性模块组织的完整接口说明 |
| DFunction | Torch 自定义分布式 autograd 函数详细文档 |
| 文档 | 说明 |
|---|---|
| FAQ & 故障排查 | 安装问题、运行时问题、通信问题、内存问题、调试技巧 |
| 文档 | 说明 |
|---|---|
| 开发环境搭建 | 开发环境配置、依赖安装 |
| 测试流程规范 | 测试框架、标记规范、分布式测试 |
| 发布流程规范 | 版本发布流程、文档更新规范 |
| 文档 | 说明 |
|---|---|
| Release Notes v1.0.0 | 版本变更记录 |
| PP overlap_b_f 设计文档 | 通算掩盖详细设计（原 docs 保留） |
| TP Styles 文档 | TP Styles 原有特性文档（原 docs 保留） |
| agent_workflow.md | AI Agent 工作流参考 |