DeepSeek-V3.1-Base大模型发布:混合模式架构革新,工具调用能力全面升级

【免费下载链接】DeepSeek-V3.1-Base DeepSeek-V3.1 是一款支持思考模式与非思考模式的混合模型 【免费下载链接】DeepSeek-V3.1-Base 项目地址: https://ai.gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.1-Base

模型概述与核心突破

DeepSeek-V3.1-Base作为DeepSeek系列的新一代基础模型,采用创新混合架构设计,首次实现思考模式(Thinking)与非思考模式(Non-Thinking)的双向兼容。相较于上一代模型,该版本在三大维度实现突破性进展:通过动态切换聊天模板实现双模式响应机制,工具调用性能经专项优化后提升显著,思考模式下响应速度提升的同时保持与DeepSeek-R1-0528相当的答案质量。

该模型基于DeepSeek-V3基础 checkpoint 构建,采用两阶段长文本扩展技术,将32K上下文训练阶段的数据量提升10倍至630B tokens,128K扩展阶段数据量扩展3.3倍达209B tokens。特别值得关注的是,模型训练全程采用UE8M0 FP8精度格式处理权重与激活值,结合DeepGEMM加速框架实现高效计算,相关技术细节已通过arxiv:2412.19437论文公开。

模型规格与获取方式

DeepSeek-V3.1系列包含Base版与对话优化版两个版本,均采用671B总参数设计,激活参数37B,支持128K上下文窗口。开发者可通过HuggingFace与ModelScope两大平台获取模型权重,其中Base版本专注于基础文本生成能力,对话版本则针对交互场景进行专项优化。

模型名称 总参数规模 激活参数 上下文长度 获取渠道
DeepSeek-V3.1-Base 671B 37B 128K HuggingFace / ModelScope
DeepSeek-V3.1 671B 37B 128K HuggingFace / ModelScope

双模式聊天模板技术解析

模型创新采用动态聊天模板系统,相关配置文件已在tokenizer_config.json与assets/chat_template.jinja中开源。该系统通过特殊标记控制实现双模式切换,核心差异体现在以下方面:

非思考模式(Non-Thinking)

首次交互采用<|begin▁of▁sentence|>{system prompt}<|User|>{query}<|Assistant|></think>前缀格式,相较V3版本新增终结标记 。多轮对话则通过 <|begin▁of▁sentence|>{system prompt}<|User|>{query}<|Assistant|>superscript:{response}<|end▁of▁sentence|>结构构建上下文,后续轮次使用 <|User|>{query}<|Assistant|>superscript:前缀延续对话。

思考模式(Thinking)

初始轮次模板与非思考模式一致,但在响应生成过程中会自动触发内部推理链条。多轮对话保持相同的上下文构建方式,特别设计思考标记自动脱落机制——仅保留首轮思考标记,后续轮次通过上下文隐式传递推理状态,同时所有轮次均保留关键终结标记 。

工具调用与智能体应用框架

通用工具调用(ToolCall)

非思考模式下支持标准化工具调用流程,系统提示需包含工具描述区块:

## Tools
You have access to the following tools:
### {tool_name1}
Description: {description}
Parameters: {json.dumps(parameters)}

调用格式严格要求使用<|tool▁calls▁begin|><|tool▁call▁begin|>工具名<|tool▁sep|>参数JSON<|tool▁call▁end|><|tool▁calls▁end|>包裹,支持多工具链式调用。

专业智能体实现

代码智能体(Code-Agent)框架已通过assets/code_agent_trajectory.html提供实现范例,支持主流开发环境集成。搜索智能体(Search-Agent)则在思考模式下通过专用模板实现,针对需要外部信息的复杂查询,采用多轮工具调用机制,相关交互样例可参考assets/search_tool_trajectory.html与assets/search_python_tool_trajectory.html文件。

全面性能评估与对比

在标准 benchmarks 测试中,模型展现出卓越性能:

  • 通用能力:MMLU-Redux准确率达91.8%(非思考模式)/93.7%(思考模式),GPQA-Diamond通过率提升至80.1%
  • 代码能力:LiveCodeBench测试集Pass@1指标达74.8%,Codeforces-Div1评级2091分
  • 搜索增强:BrowseComp中文任务得分49.2%,较基准模型提升13.5个百分点
  • 数学推理:AIME 2024测试通过率93.1%,HLE测试(Python+搜索)得分29.8%

特别在工具使用场景中,SWE-bench多语言任务准确率达54.5%,Terminal-bench终端操作任务成功率31.3%,展现出强大的复杂任务处理能力。

本地部署与使用指南

模型架构与DeepSeek-V3保持兼容,开发者可参考DeepSeek-V3仓库获取部署细节。使用时需注意:

  1. mlp.gate.e_score_correction_bias参数必须以FP32精度加载计算
  2. 确保FP8权重与激活值采用UE8M0格式存储
  3. 通过transformers库加载时需启用custom_code支持

基础使用示例:

import transformers
tokenizer = transformers.AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V3.1")
messages = [
    {"role": "system", "content": "You are a helpful assistant"},
    {"role": "user", "content": "Who are you?"},
    {"role": "assistant", "content": "</think>Hmm</think>I am DeepSeek"},
    {"role": "user", "content": "1+1=?"}
]
# 思考模式调用
print(tokenizer.apply_chat_template(messages, tokenize=False, thinking=True, add_generation_prompt=True))
# 非思考模式调用
print(tokenizer.apply_chat_template(messages, tokenize=False, thinking=False, add_generation_prompt=True))

许可协议与学术引用

模型采用MIT许可协议开源,允许商业用途。学术研究引用请使用以下格式:

@misc{deepseekai2024deepseekv3technicalreport,
title={DeepSeek-V3 Technical Report},
author={DeepSeek-AI},
year={2024},
eprint={2412.19437},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2412.19437},
}

未来展望

DeepSeek-V3.1-Base通过混合架构设计打破了传统大模型的能力边界,其128K超长上下文与高效工具调用能力为企业级应用开发提供新范式。随着模型在上个月实现11,352次下载量,社区已衍生出17个基于该模型的Hugging Face Spaces应用,涵盖代码生成、智能搜索、多模态交互等场景。开发者可通过提交issue或联系service@deepseek.com获取技术支持,模型维护团队承诺持续优化量化方案与部署工具链,降低大模型应用门槛。

【免费下载链接】DeepSeek-V3.1-Base DeepSeek-V3.1 是一款支持思考模式与非思考模式的混合模型 【免费下载链接】DeepSeek-V3.1-Base 项目地址: https://ai.gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-V3.1-Base

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐