DeepSeek-V3.1-Base大模型发布:混合模式架构革新,工具调用能力全面升级
DeepSeek-V3.1-Base大模型发布:混合模式架构革新,工具调用能力全面升级
模型概述与核心突破
DeepSeek-V3.1-Base作为DeepSeek系列的新一代基础模型,采用创新混合架构设计,首次实现思考模式(Thinking)与非思考模式(Non-Thinking)的双向兼容。相较于上一代模型,该版本在三大维度实现突破性进展:通过动态切换聊天模板实现双模式响应机制,工具调用性能经专项优化后提升显著,思考模式下响应速度提升的同时保持与DeepSeek-R1-0528相当的答案质量。
该模型基于DeepSeek-V3基础 checkpoint 构建,采用两阶段长文本扩展技术,将32K上下文训练阶段的数据量提升10倍至630B tokens,128K扩展阶段数据量扩展3.3倍达209B tokens。特别值得关注的是,模型训练全程采用UE8M0 FP8精度格式处理权重与激活值,结合DeepGEMM加速框架实现高效计算,相关技术细节已通过arxiv:2412.19437论文公开。
模型规格与获取方式
DeepSeek-V3.1系列包含Base版与对话优化版两个版本,均采用671B总参数设计,激活参数37B,支持128K上下文窗口。开发者可通过HuggingFace与ModelScope两大平台获取模型权重,其中Base版本专注于基础文本生成能力,对话版本则针对交互场景进行专项优化。
| 模型名称 | 总参数规模 | 激活参数 | 上下文长度 | 获取渠道 |
|---|---|---|---|---|
| DeepSeek-V3.1-Base | 671B | 37B | 128K | HuggingFace / ModelScope |
| DeepSeek-V3.1 | 671B | 37B | 128K | HuggingFace / ModelScope |
双模式聊天模板技术解析
模型创新采用动态聊天模板系统,相关配置文件已在tokenizer_config.json与assets/chat_template.jinja中开源。该系统通过特殊标记控制实现双模式切换,核心差异体现在以下方面:
非思考模式(Non-Thinking)
首次交互采用<|begin▁of▁sentence|>{system prompt}<|User|>{query}<|Assistant|></think>前缀格式,相较V3版本新增终结标记 。多轮对话则通过 <|begin▁of▁sentence|>{system prompt}<|User|>{query}<|Assistant|>superscript:{response}<|end▁of▁sentence|>结构构建上下文,后续轮次使用 <|User|>{query}<|Assistant|>superscript:前缀延续对话。
思考模式(Thinking)
初始轮次模板与非思考模式一致,但在响应生成过程中会自动触发内部推理链条。多轮对话保持相同的上下文构建方式,特别设计思考标记自动脱落机制——仅保留首轮思考标记,后续轮次通过上下文隐式传递推理状态,同时所有轮次均保留关键终结标记 。
工具调用与智能体应用框架
通用工具调用(ToolCall)
非思考模式下支持标准化工具调用流程,系统提示需包含工具描述区块:
## Tools
You have access to the following tools:
### {tool_name1}
Description: {description}
Parameters: {json.dumps(parameters)}
调用格式严格要求使用<|tool▁calls▁begin|><|tool▁call▁begin|>工具名<|tool▁sep|>参数JSON<|tool▁call▁end|><|tool▁calls▁end|>包裹,支持多工具链式调用。
专业智能体实现
代码智能体(Code-Agent)框架已通过assets/code_agent_trajectory.html提供实现范例,支持主流开发环境集成。搜索智能体(Search-Agent)则在思考模式下通过专用模板实现,针对需要外部信息的复杂查询,采用多轮工具调用机制,相关交互样例可参考assets/search_tool_trajectory.html与assets/search_python_tool_trajectory.html文件。
全面性能评估与对比
在标准 benchmarks 测试中,模型展现出卓越性能:
- 通用能力:MMLU-Redux准确率达91.8%(非思考模式)/93.7%(思考模式),GPQA-Diamond通过率提升至80.1%
- 代码能力:LiveCodeBench测试集Pass@1指标达74.8%,Codeforces-Div1评级2091分
- 搜索增强:BrowseComp中文任务得分49.2%,较基准模型提升13.5个百分点
- 数学推理:AIME 2024测试通过率93.1%,HLE测试(Python+搜索)得分29.8%
特别在工具使用场景中,SWE-bench多语言任务准确率达54.5%,Terminal-bench终端操作任务成功率31.3%,展现出强大的复杂任务处理能力。
本地部署与使用指南
模型架构与DeepSeek-V3保持兼容,开发者可参考DeepSeek-V3仓库获取部署细节。使用时需注意:
- mlp.gate.e_score_correction_bias参数必须以FP32精度加载计算
- 确保FP8权重与激活值采用UE8M0格式存储
- 通过transformers库加载时需启用custom_code支持
基础使用示例:
import transformers
tokenizer = transformers.AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V3.1")
messages = [
{"role": "system", "content": "You are a helpful assistant"},
{"role": "user", "content": "Who are you?"},
{"role": "assistant", "content": "</think>Hmm</think>I am DeepSeek"},
{"role": "user", "content": "1+1=?"}
]
# 思考模式调用
print(tokenizer.apply_chat_template(messages, tokenize=False, thinking=True, add_generation_prompt=True))
# 非思考模式调用
print(tokenizer.apply_chat_template(messages, tokenize=False, thinking=False, add_generation_prompt=True))
许可协议与学术引用
模型采用MIT许可协议开源,允许商业用途。学术研究引用请使用以下格式:
@misc{deepseekai2024deepseekv3technicalreport,
title={DeepSeek-V3 Technical Report},
author={DeepSeek-AI},
year={2024},
eprint={2412.19437},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2412.19437},
}
未来展望
DeepSeek-V3.1-Base通过混合架构设计打破了传统大模型的能力边界,其128K超长上下文与高效工具调用能力为企业级应用开发提供新范式。随着模型在上个月实现11,352次下载量,社区已衍生出17个基于该模型的Hugging Face Spaces应用,涵盖代码生成、智能搜索、多模态交互等场景。开发者可通过提交issue或联系service@deepseek.com获取技术支持,模型维护团队承诺持续优化量化方案与部署工具链,降低大模型应用门槛。
更多推荐



所有评论(0)