DeepSeek-V3.2-Exp震撼发布：稀疏注意力改写长文本处理规则，本地部署成本直降40%

【免费下载链接】DeepSeek-V3.2-Exp DeepSeek-V3.2-Exp是DeepSeek推出的实验性模型，基于V3.1-Terminus架构，创新引入DeepSeek Sparse Attention稀疏注意力机制，在保持模型输出质量的同时，大幅提升长文本场景下的训练与推理效率。该模型在MMLU-Pro、GPQA-Diamond等多领域公开基准测试中表现与V3.1-Terminus相当，支持HuggingFace、SGLang、vLLM等多种本地运行方式，开源内核设计便于研究，采用MIT许可证。【此简介由AI生成】 项目地址: https://ai.gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.2-Exp

DeepSeek-V3.2-Exp作为DeepSeek推出的实验性模型，基于V3.1-Terminus架构，创新性地引入了DeepSeek Sparse Attention稀疏注意力机制，彻底改变了长文本处理的技术格局。这款模型在保持输出质量的同时，大幅提升了长文本场景下的训练与推理效率，为本地部署带来了革命性的成本优化。🚀

💡 什么是DeepSeek稀疏注意力？

DeepSeek Sparse Attention (DSA) 首次实现了细粒度稀疏注意力，为长文本训练和推理效率带来了实质性提升。这一突破性技术让模型在处理超长文档、代码库分析、学术论文理解等场景时，计算效率得到显著改善。

DeepSeek-V3.2-Exp成本对比示意图

📊 性能表现令人瞩目

在多领域的公开基准测试中，DeepSeek-V3.2-Exp展现出与V3.1-Terminus相当的卓越性能：

推理能力测试：

• MMLU-Pro: 85.0分
• GPQA-Diamond: 79.9分
• LiveCodeBench: 74.1分
• Codeforces: 2121分

智能工具使用：

• BrowseComp-zh: 47.9分
• SimpleQA: 97.1分
• SWE-bench Multilingual: 57.9分

🛠️ 本地部署简易指南

HuggingFace快速启动

首先将HuggingFace模型权重转换为推理演示所需的格式：

cd inference
export EXPERTS=256
python convert.py --hf-ckpt-path ${HF_CKPT_PATH} --save-path ${SAVE_PATH} --n-experts ${EXPERTS} --model-parallel ${MP}

启动交互式聊天界面，开始探索DeepSeek的强大能力：

export CONFIG=config_671B_v3.2.json
torchrun --nproc-per-node ${MP} generate.py --ckpt-path ${SAVE_PATH} --config ${CONFIG} --interactive

SGLang部署方案

使用Docker镜像快速部署：

# H200平台
docker pull lmsysorg/sglang:dsv32

# 启动服务
python -m sglang.launch_server --model deepseek-ai/DeepSeek-V3.2-Exp --tp 8 --dp 8 --enable-dp-attention

vLLM支持

vLLM提供了对DeepSeek-V3.2-Exp的首日支持，确保用户能够获得最佳的性能体验。

🔧 开源内核设计

DeepSeek-V3.2-Exp采用完全开源的内核设计，为研究社区提供了：

• TileLang内核：具有更好可读性和研究目的的设计
• 高性能CUDA内核：包括分页版本的索引器逻辑内核
• 稀疏注意力内核：在FlashMLA中发布

💰 成本效益分析

通过引入稀疏注意力机制，DeepSeek-V3.2-Exp在以下方面实现了显著的成本优化：

训练成本降低：长文本场景下的训练效率提升 推理成本优化：本地部署时的资源消耗减少 维护成本简化：开源设计降低了技术门槛

🎯 应用场景展望

这款模型特别适用于：

• 超长文档分析与理解
• 代码库智能审查
• 学术研究论文处理
• 法律合同分析
• 多语言内容处理

📝 许可证信息

DeepSeek-V3.2-Exp采用MIT许可证，为商业和研究使用提供了最大的灵活性。

DeepSeek-V3.2-Exp的发布标志着长文本处理技术进入了一个全新的时代，为开发者和研究者提供了更高效、更经济的解决方案。无论是学术研究还是商业应用，这款模型都将成为您处理长文本任务的理想选择！🌟

【免费下载链接】DeepSeek-V3.2-Exp DeepSeek-V3.2-Exp是DeepSeek推出的实验性模型，基于V3.1-Terminus架构，创新引入DeepSeek Sparse Attention稀疏注意力机制，在保持模型输出质量的同时，大幅提升长文本场景下的训练与推理效率。该模型在MMLU-Pro、GPQA-Diamond等多领域公开基准测试中表现与V3.1-Terminus相当，支持HuggingFace、SGLang、vLLM等多种本地运行方式，开源内核设计便于研究，采用MIT许可证。【此简介由AI生成】 项目地址: https://ai.gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.2-Exp