IT之家于9月29日通报，当晚DeepSeek-V3.2-Exp版本发布并实现开源，其中新增了稀疏注意力机制架构。华为方面表示，昇腾平台已迅速借助vLLM/SGLang等推理框架完成适配部署，能够提供DeepSeek-V3.2-Exp的即时支持。同时华为向开发者开放了所有推理代码和算子实现。

官方信息显示，昇腾在 DeepSeek-V3.2-Exp 开源后，立即实现了该模型的 BF16 部署，同时完成了在 CANN 平台上的优化适配工作，整体部署策略延续了 DeepSeek 的大 EP 并行方案，针对稀疏 DSA 结构，额外应用了长序列亲和的 CP 并行策略，在兼顾时延与吞吐的情况下，确保了在 128K 长序列下推理生成速度的效率，具体表现为 TTFT 控制在 2 秒以内，TPOT 控制在 30 毫秒以内。

NPU DeepSeek-V3.2-Exp 推理优化实践：

昇腾为 DeepSeek-V3.2-Exp 架构中的两个创新单元：Lightning Indexer (LI) 与 Sparse Flash Attention (SFA)，专门进行了算子 Tiling 的规划，对 Cube 核和 Vector 核之间实施了流水线改进，优化了运算过程，模型及融合 Kernel 都已对外发布。

NPU DeepSeek-V3.2-Exp Ascend C 的融合算子进行了优化处理,目的是提升性能,同时确保了兼容性,效果显著,得到了广泛认可。

为了更进一步提升昇腾混合运算单元的程序编写便捷度，昇腾 CANN 首次推出了大混合运算单元的程序设计系统 PyPTO，其目的在于精简运算单元的开发步骤，并且确保维持强大的运算效能。这种体系独创性地运用了 PTO（并行张量/瓦片运算）的编码模式，将张量作为核心数据形式，通过构建运算图来完成，从而达成运算的快速处理和改进。现在在昇腾平台上，已经利用 PyPTO 实现了 DeepSeek-V3.2-Exp 模型里 DeepSeek Indexer Attention 与 Lightning indexer 算子的开发工作，通过几百行代码，能够实现动态 Shape 算子的编写以及算子整体网络的执行。

运用 PyPTO 框架，完成 Lightning Indexer 与 DeepSeek Indexer 两种索引器的注意力运算模块构建工作，其中具体涉及实践操作环节

昇腾不仅分享 DeepSeek-V3.2-Exp 的官方使用方法，也兼容 vLLM 和 SGLang 等行业常用大模型推理框架的安装，包含所有必要组件，方便众多技术开发者从社区获取相关程序来尝试 DeepSeek-V3.2-Exp 模型，能在昇腾上完成融合运算单元、稀疏数据访问、多核心同步运算等深度性能提升，并且不断改进 DeepSeek-V3.2-Exp 在各大技术平台上的推理表现。

大模型推理框架 vLLM 及昇腾实现：

大模型推理框架 SGLang 及昇腾实现：

TileLang 是 Tile-AI 社区启动的 Tile 层级的类 Python AI 编程语言项目，属于领域特定语言。该项目在 Tile 级别执行编程和编译工作，目的是达成模型算子与硬件的高效配合。昇腾已经开发完成 TileLang 的 Sparse Flash Attention 和 Lightning Indexer 算法，接下来会支持更加全面的 NPU 算法，同时增强性能和通用能力。

NPU深度探索V3.2实验版TileLang算子实现过程：

TileLang-Ascend 开源社区：

昇腾依靠灵活的联合优化技术，迅速完成 DeepSeek-V3.2-Exp 的适配工作，不仅深度释放了自主编程语言 AscendC 以及 PyTorch 算子源代码，还主动接纳开源环境，及时实现了 vLLM、SGLang 等热门框架的迅速兼容，并且与开源组织 Tile-AI 合作，共同推出 NPU 编程项目 TileLang-Ascend。