大模型Tool Calling（工具调用）从原理到实战：让AI真正“动手”做事

书向鸿笺2021

433人浏览 · 2026-06-01 17:36:08

书向鸿笺2021 · 2026-06-01 17:36:08 发布

1. 前言

在大模型技术飞速发展的当下，单纯的对话聊天能力早已无法满足工程化落地需求。绝大多数开发者在项目迭代过程中，都会遇到相同的瓶颈：

大模型知识库存在时间锁，无法查询实时天气、股价、最新行业新闻；
面对高精度数学运算、批量数据统计，模型极易产生幻觉，输出错误数据；
仅支持文本生成，无法读写本地文件、操作数据库、调用第三方业务API。

想要打破大模型与生俱来的局限性，让AI从“只会说话”升级为“能自主完成业务任务”，Tool Calling（工具调用）是目前行业唯一标准化解决方案。

直白来讲，Tool Calling就是给大模型配备专属的手脚，让模型负责思考决策，外部工具负责执行落地，二者相辅相成。目前该技术已经成为RAG项目、AI智能体、垂直行业系统的底层标配能力。本文由浅入深，全方位拆解Tool Calling底层原理、调用流程、实战代码、落地避坑方案，零基础也能轻松读懂。

2. Tool Calling核心认知：到底是什么？

2.1 基本定义

Tool Calling（工具调用）是一套面向大语言模型设计的标准化交互机制。模型能够根据用户自然语言指令，自主完成意图识别、工具筛选、参数提取，输出结构化调用指令；后端调度层解析指令并执行对应工具，最后模型整合工具返回的数据，生成通俗易懂的自然语言回复。

整套架构分为三大核心角色，职责完全解耦：

大模型：决策中枢，只负责思考，不执行任何实操；
外部工具：执行载体，包含自定义函数、API接口、数据库、代码解释器、文件系统等；
调度层：中间枢纽，解析模型结构化指令、调用工具、回传执行结果，串联全流程。

2.2 核心价值

2.2.1 破除知识时效性壁垒

开源/商用大模型的训练数据都存在固定截止日期，无法获取训练后的实时信息。通过绑定天气、财经、新闻类API工具，可动态获取外部实时数据，弥补静态知识库的短板。

2.2.2 大幅降低模型幻觉概率

大模型基于概率生成文本，并不擅长逻辑运算与数据分析。接入计算器、Python解释器、SQL工具后，将运算类任务交由专用工具执行，从根源上解决计算类幻觉问题。

2.2.3 打通AI与业务系统的壁垒

脱离工具的大模型只能输出文本内容。依托Tool Calling能力，AI可深度对接企业现有业务系统，完成文件管理、数据库增删改查、消息推送、自动化报表生成等实操任务。

2.3 Tool Calling与Function Calling详细区别

很多新手开发者容易混淆这两个概念，甚至认为二者完全一致。本质上：Function Calling是底层技术原型，Tool Calling是工程化升级后的完整解决方案。

对比维度	Function Calling（函数调用）	Tool Calling（工具调用）
推出定位	早期基础能力，服务简单对话场景	面向复杂Agent，服务企业级工程落地
抽象层级	仅支持单一自定义函数	支持函数、API、数据库、解释器等全类型工具
调用模式	单次调用，无状态管理	支持多轮递归调用、多工具串联、会话状态留存
适用场景	简单查询、简单数值计算	长链路自动化任务、多步骤复杂业务
核心能力	被动执行预设调用逻辑	自主决策调用时机、工具类型、入参数据

3. Tool Calling工作原理：5步闭环流程（通俗拆解）

标准Tool Calling流程为闭环式链路，单次完整任务最少需要两次调用大模型，复杂智能体场景支持多轮循环调用，下面拆解通用执行步骤：

3.1 预定义工具

开发者提前封装外部工具，并遵循JSON Schema规范定义工具元数据，同步至大模型。工具定义包含三个必填核心字段：

name：工具唯一标识，用于后端匹配执行函数；
description：功能详细描述，辅助模型判断是否需要调用；
parameters：入参结构体，包含参数名称、类型、释义、必填状态。

{
  "name": "get_weather",
  "description": "查询指定城市的实时天气，返回温度、天气状况",
  "parameters": {
    "type": "object",
    "properties": {
      "city": {
        "type": "string",
        "description": "城市中文名称，例如：北京、上海"
      }
    },
    "required": ["city"]
  }
}

3.2 首次调用模型，生成调用指令

程序将用户提问与全部工具定义，拼接为完整上下文发送给模型。模型结合自身能力池与工具描述，自主完成意图判断：

若无需工具，直接返回自然语言回答；若需要工具，则输出标准化JSON结构化调用指令，而非自然语言。

{
  "tool_calls": [
    {
      "name": "get_weather",
      "parameters": {
        "city": "北京"
      }
    }
  ]
}

3.3 调度层解析指令并执行工具

后端调度层捕获模型返回的结构化数据，解析工具名称与入参，匹配对应的业务函数，执行真实业务逻辑，最终获取工具执行结果。

{
  "city": "北京",
  "temperature": "26℃",
  "weather": "晴"
}

3.4 结果回流，二次调用模型

将工具执行结果追加至原始对话上下文，二次调用大模型。此时模型不再触发工具调用，而是整合用户原始问题与工具返回数据，梳理逻辑并组织自然语言话术。

3.5 输出最终答案

模型生成规范化、通俗易懂的回复，程序直接返回给用户，单次Tool Calling流程结束。复杂场景可循环执行上述步骤，完成多工具联动。

4. Tool Calling实战：用Python实现天气查询（直接复制可用）

下文基于OpenAI通用接口开发，适配OpenAI、小米MiMo、通义千问、本地Qwen系列所有兼容接口的大模型，代码开箱即用。

4.1 环境依赖安装

pip install openai requests

4.2 完整实战代码

from openai import OpenAI

# 初始化模型客户端，适配所有OpenAI格式接口模型
client = OpenAI(
    api_key="你的API_KEY",
    base_url="填写对应模型接口地址"
)

# 1. 定义业务工具：模拟天气查询接口
def get_weather(city: str) -> dict:
    weather_map = {
        "北京": {"temperature": "26℃", "weather": "晴"},
        "上海": {"temperature": "28℃", "weather": "多云"},
        "广州": {"temperature": "32℃", "weather": "小雨"}
    }
    return weather_map.get(city, {"error": "暂未查询到该城市天气数据"})

# 2. 按照JSON Schema格式声明工具列表
tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "查询指定城市的实时天气情况",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {
                        "type": "string",
                        "description": "需要查询的城市中文名称"
                    }
                },
                "required": ["city"]
            }
        }
    }
]

# 3. Tool Calling主运行流程
def run_tool_calling(user_query: str) -> str:
    messages = [{"role": "user", "content": user_query}]

    # 第一次调用模型：生成工具调用指令
    response = client.chat.completions.create(
        model="模型名称",
        messages=messages,
        tools=tools,
        tool_choice="auto"
    )

    resp_msg = response.choices[0].message
    tool_calls = resp_msg.tool_calls

    # 无需调用工具，直接返回回答
    if not tool_calls:
        return resp_msg.content

    messages.append(resp_msg)
    # 遍历执行所有工具
    for call in tool_calls:
        func_name = call.function.name
        func_args = eval(call.function.arguments)
        tool_result = get_weather(**func_args)

        # 工具结果存入上下文
        messages.append({
            "role": "tool",
            "name": func_name,
            "content": str(tool_result)
        })

    # 第二次调用模型：整合结果生成最终回答
    final_resp = client.chat.completions.create(
        model="模型名称",
        messages=messages
    )
    return final_resp.choices[0].message.content

# 4. 测试入口
if __name__ == "__main__":
    input_text = "北京今天天气怎么样？"
    result = run_tool_calling(input_text)
    print("最终回答：", result)