Qwen3-14B 与 LangChain 集成开发实战教程

轮胎技术Tyretek

288人浏览 · 2025-11-28 14:55:35

轮胎技术Tyretek · 2025-11-28 14:55:35 发布

Qwen3-14B × LangChain：打造会“动手”的企业级AI助手 🚀

你有没有遇到过这样的场景？

客户问：“上个月我们签的合同里，交付周期是多久？现在进度跟上了吗？”
客服机器人一脸懵：“抱歉，我无法回答这个问题。” 😕

明明模型能写诗、能编程、能讲笑话，怎么一到真实业务场景就“哑火”了？问题出在哪？

其实不是模型不够聪明，而是它——只会说，不会做。🧠💬➡️✋❌

今天我们就来解决这个痛点！用 Qwen3-14B + LangChain 组合拳，让大模型不仅能“思考”，还能“行动”，真正成为嵌入企业流程的智能代理（Agent）。🎯

为什么选 Qwen3-14B？因为它刚刚好 💡

在满屏都是“千亿参数”、“超大规模”的喧嚣中，我们反而更需要一个跑得快、吃得少、干得漂亮的中型选手。

Qwen3-14B 就是那个“刚刚好”的存在：

✅ 140亿参数 —— 足够聪明，能理解复杂指令、处理多跳推理；
✅ 单卡A100可部署 —— 不用堆四张V100拼命并行，中小企业也能轻松上手；
✅ 支持32K长上下文 —— 一整份PDF合同、一篇技术白皮书，直接喂进去也不怕；
✅ 原生支持Function Calling —— 这可是通往“AI Agent”的钥匙🔑！

🤔 有人问：为什么不直接上Qwen-Max或者Llama3-70B？

答案很简单：性价比。那些巨无霸模型虽然强，但推理延迟高、显存爆表、电费都烧不起……而Qwen3-14B，在“性能 vs 成本”曲线上正好踩在拐点上，堪称商用落地的黄金平衡点。📊✨

LangChain：给语言模型装上手脚 🦾

如果说Qwen3-14B是大脑，那LangChain就是它的四肢和神经系统。

传统LLM就像关在屋里的天才——知道全世界的事，却没法出门买瓶水。而LangChain的作用，就是打开门，递给他一张地图、一把钥匙、一部手机，让他能走出去解决问题。

它到底做了什么？

LangChain不是一个简单的封装库，而是一套模块化AI应用操作系统。它把整个AI代理系统拆成了几个关键组件：

组件	功能
`LLM`	中央处理器，负责理解和生成
`Prompt Template`	指令说明书，告诉模型该怎么想
`Memory`	记忆体，记住你说过的话
`Tools`	工具箱，能调API、查数据库、执行函数
`Agent`	决策引擎，决定下一步做什么

它们协同工作的流程，可以用一句话概括：

“看到问题 → 回忆上下文 → 构造提示 → 让模型思考 → 判断要不要调工具 → 拿结果再思考 → 输出最终答案。”

是不是有点像人类解决问题的过程？🧠💡🔧✅

实战代码：让模型自己去查时间 & 公司信息 ⌨️

来点硬货！下面这段代码，就能让你的Qwen3-14B学会“主动做事”。

from langchain_community.llms import HuggingFaceEndpoint
from langchain.agents import create_react_agent, AgentExecutor
from langchain.tools import Tool
from langchain.prompts import PromptTemplate
import os

# 设置HuggingFace Token（用于访问远程模型）
os.environ["HUGGINGFACEHUB_API_TOKEN"] = "your_api_token_here"

# Step 1: 接入 Qwen3-14B 模型（通过HF Inference Endpoint）
llm = HuggingFaceEndpoint(
    repo_id="Qwen/Qwen3-14B",
    task="text-generation",
    max_new_tokens=512,
    do_sample=True,
    temperature=0.7,
    top_p=0.9,
)

# Step 2: 定义两个小工具 👷‍♂️
def get_current_time(query: str) -> str:
    from datetime import datetime
    return f"当前时间是 {datetime.now().strftime('%Y-%m-%d %H:%M:%S')}"

def search_company_info(query: str) -> str:
    return "阿里巴巴集团成立于1999年，总部位于中国杭州，是一家领先的科技公司。"

# 注册为LangChain可用的Tool
tools = [
    Tool(
        name="GetCurrentTime",
        func=get_current_time,
        description="当你需要知道当前日期和时间时使用。输入可以忽略。"
    ),
    Tool(
        name="SearchCompanyInfo",
        func=search_company_info,
        description="用于查询公司基本信息。输入应为公司名称或关键词。"
    )
]

# Step 3: 构建 ReAct 提示模板（Reason + Act）
template = """你是一个有用的AI助手。你可以使用以下工具：

{tools}

请按以下格式进行推理：

问题：输入的问题  
思考：你应该永远思考接下来要做什么  
行动：要执行的动作，必须是 [{tool_names}] 中的一个  
输入：动作的输入  
观察：动作的结果  
...（这个过程可以重复多次）  
思考：我已经得到了最终答案  
最终回复：给用户的简洁回应

开始！

问题：{input}
{agent_scratchpad}"""

prompt = PromptTemplate.from_template(template)

# Step 4: 创建Agent并绑定执行器
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

# Step 5: 开始提问！🚀
response = agent_executor.invoke({
    "input": "请问现在几点？然后告诉我关于阿里巴巴的信息。",
    "agent_scratchpad": ""
})

print("🤖 回答：", response['output'])

运行结果长这样（开启 verbose=True 后能看到完整推理链）：

> Entering new AgentExecutor chain...
Thought: 我需要先获取当前时间。
Action: GetCurrentTime
Input: ?
Observation: 当前时间是 2025-04-05 10:30:22
Thought: 然后我需要查询阿里巴巴的信息。
Action: SearchCompanyInfo
Input: 阿里巴巴
Observation: 阿里巴巴集团成立于1999年...
Thought: 我已掌握所有信息。
Final Answer: 现在的时间是 2025-04-05 10:30:22。阿里巴巴集团成立于1999年，总部位于中国杭州，是一家领先的科技公司。

看到了吗？模型自己决定先查时间、再查公司，最后整合输出！👏
这已经不是“问答系统”了，这是自主决策的AI代理！