Hunyuan HY-MT1.5-1.8B代码实例：Python调用API示例

你是不是也遇到过这样的烦恼：需要把一份产品文档翻译成英文，或者想看看国外论坛的帖子却看不懂？找在线翻译工具吧，担心隐私泄露；用商业翻译API吧，价格不菲。今天，我就带你亲手搭建一个属于你自己的、高性能的翻译服务。

我们将使用一个名为Hunyuan HY-MT1.5-1.8B的翻译模型。别看它只有18亿参数，个头不大，但翻译能力却非常强悍，能支持33种语言互译，包括5种民族语言和方言。最关键的是，经过优化后，它能在普通的电脑甚至边缘设备上流畅运行，实现实时翻译。

这篇文章，我会手把手教你如何通过Python代码，调用一个已经部署好的HY-MT1.5-1.8B模型服务。整个过程就像点外卖一样简单：你准备好要翻译的“菜品”（文本），然后通过“电话”（API）下订单，最后等着接收“外卖”（翻译结果）。我们会用到chainlit这个工具来模拟一个简单的前端进行交互，并用纯Python代码演示最核心的API调用过程。

1. 认识我们的翻译助手：HY-MT1.5-1.8B

在开始写代码之前，我们先花几分钟了解一下即将使用的“大脑”——HY-MT1.5-1.8B模型。知道它的能耐，你才能更好地用它。

1.1 模型简介与核心优势

HY-MT1.5-1.8B是混元翻译模型1.5版本中的“小钢炮”。它还有一个大哥叫HY-MT1.5-7B（70亿参数）。这个1.8B的版本虽然参数量不到7B版本的三分之一，但在很多翻译任务上表现却不相上下，真正做到了在速度和质量之间找到了一个完美的平衡点。

它有几个让你心动的优点：

  • 多语言支持广：直接支持33种语言之间的相互翻译，覆盖了全球大部分主流语言。
  • 包含特色语言：特别加入了5种民族语言及方言变体，能满足更特定的需求。
  • 轻量且高效：模型小巧，经过量化处理后，可以轻松部署在你的笔记本电脑、小型服务器甚至是一些边缘设备（比如带算力的开发板）上，非常适合需要实时翻译的场景。
  • 功能丰富：不仅支持基本的句子翻译，还具备术语干预（确保特定词汇翻译准确）、上下文翻译（结合前后文让翻译更连贯）和格式化翻译（保持原文格式）等高级功能。

简单来说，你可以把它想象成一个能力全面、反应迅速、还特别省电的翻译专家。

1.2 性能如何？

光说不练假把式。根据官方测试，HY-MT1.5-1.8B在同规模（约18亿参数）的翻译模型中，表现达到了业界领先水平，其翻译质量甚至超越了许多需要付费的商业翻译API。

这意味着，你用这个开源模型自己搭建的服务，效果可能比一些收费服务还要好。更重要的是，数据完全掌握在你自己手里，安全和隐私有保障。

2. 准备工作：理解服务架构

我们的目标是调用API，那么首先得知道API在哪里，以及它长什么样。这里假设你已经按照相关教程，使用vLLM成功部署了HY-MT1.5-1.8B模型服务。

我来打个比方帮你理解整个架构：

  • vLLM：就像一个超级高效的后厨。它专门负责加载和运行巨大的AI模型（比如我们的1.8B翻译模型），并且能同时处理很多个点单请求（推理请求），出菜速度很快。
  • 模型服务（API）：后厨提供的一个“取餐窗口”。这个窗口有固定的地址（比如http://localhost:8000）和标准的点单格式（API接口规范）。我们只需要按照格式把要翻译的文本递进去，就能在另一个窗口拿到翻译好的结果。
  • chainlit：一个非常轻便、好看的前台点餐界面。它通过网页的形式，让我们能方便地输入文本、点击按钮，然后它帮我们把请求发送给后厨的“取餐窗口”，并把做好的“菜”端回来展示给我们看。我们主要用它来验证服务是否正常。
  • 我们的Python脚本：这才是我们今天的主角。它相当于一个自动化的点餐机器人。你可以用程序告诉它要翻译什么，它就会严格按照“取餐窗口”的规矩，完成整个下单、取餐的过程，并把结果交给你。这种方式可以轻松集成到你自己的其他程序里。

所以，整个流程就是：用户输入 -> (通过chainlit或Python脚本) -> 发送请求到vLLM服务 -> 模型推理 -> 返回结果 -> 展示给用户。

接下来，我们就进入实战环节。

3. 验证服务：使用Chainlit快速试玩

在写我们自己的调用代码之前，最好先确认一下“后厨”是不是真的在营业。用chainlit这个现成的前端界面测试一下是最直观的方法。

3.1 启动与访问Chainlit界面

通常，部署教程会指导你同时启动vLLM后端和chainlit前端。当服务都跑起来之后，你会在命令行看到类似下面的输出，其中包含了前端页面的访问地址：

Chainlit app is running at http://localhost:8000

打开你的浏览器（比如Chrome），在地址栏输入这个地址（通常是 http://localhost:8000 或 http://你的服务器IP:8000），就能看到一个简洁的聊天界面。这就像走进了翻译服务的“门店”。

3.2 进行第一次翻译

在界面的输入框里，你可以直接用自然语言给模型下指令。比如，我们输入： 将下面中文文本翻译为英文：我爱你

点击发送后，稍等片刻（通常1-3秒），你就能看到模型的回复，应该是： I love you.

看到这个结果，恭喜你！这说明你的模型服务运行完全正常，已经准备好接受更复杂的指令了。你可以多试几句，比如翻译长段落、试试其他语言（如“翻译成日语：你好”），感受一下它的能力。

这个网页界面很好用，但如果我想把翻译功能塞进我自己的网站、APP或者自动化脚本里，该怎么办呢？总不能每次都手动打开网页吧？这就需要我们掌握最核心的技能——直接用Python代码调用API。

4. 核心实战：Python调用API详解

现在，我们抛开华丽的网页界面，直击本质：如何用几行Python代码完成同样的翻译任务。这才是真正将AI能力“据为己有”的关键。

4.1 安装必要的库

首先，确保你的Python环境里安装了发送HTTP请求的库。最常用的就是requests。打开你的终端或命令提示符，执行以下命令安装：

pip install requests

如果网络环境特殊，也可以使用清华镜像源加速：

pip install requests -i https://pypi.tuna.tsinghua.edu.cn/simple

4.2 编写API调用函数

我们来写一个函数，它负责与部署好的vLLM服务进行通信。请将下面代码中的 api_url 替换成你实际的vLLM服务地址（如果模型部署在本机，通常是 http://localhost:8000/v1/completions，注意端口和路径可能不同）。

import requests
import json

def translate_with_hunyuan(text_to_translate, source_lang="中文", target_lang="英文", api_url="http://你的服务器地址:端口/v1/completions"):
    """
    使用Hunyuan HY-MT1.5-1.8B模型进行翻译。

    参数:
        text_to_translate (str): 需要翻译的原文。
        source_lang (str): 源语言，如“中文”、“English”。
        target_lang (str): 目标语言，如“英文”、“Japanese”。
        api_url (str): vLLM服务提供的API端点地址。

    返回:
        str: 翻译后的文本。如果出错，返回错误信息。
    """
    # 1. 构造模型能理解的指令（Prompt）
    # 这是一个简单的指令模板，你可以根据模型的具体要求调整
    prompt = f"将下面的{source_lang}文本翻译成{target_lang}：{text_to_translate}"

    # 2. 准备请求数据，格式需符合vLLM的/completions接口
    payload = {
        "model": "你的模型名称",  # 例如："HY-MT1.5-1.8B"，需要与vLLM加载的模型名一致
        "prompt": prompt,
        "max_tokens": 512,  # 生成结果的最大长度，对于翻译来说通常足够
        "temperature": 0.1,  # 温度参数，控制随机性。0.1使得输出更确定、更精准，适合翻译任务。
        "stop": [],  # 停止生成的标记，可以为空
        "stream": False  # 是否流式输出，我们先设为False获取完整结果
    }

    # 3. 设置请求头，告诉服务器我们发送的是JSON数据
    headers = {
        "Content-Type": "application/json"
    }

    try:
        # 4. 发送POST请求到模型服务
        response = requests.post(api_url, headers=headers, data=json.dumps(payload), timeout=30)
        response.raise_for_status()  # 如果请求失败（4xx或5xx），会抛出异常

        # 5. 解析返回的JSON数据
        result_json = response.json()

        # 6. 从返回结果中提取翻译文本
        # vLLM的/completions接口返回的文本通常在 `choices[0].text` 中
        translated_text = result_json.get("choices", [{}])[0].get("text", "").strip()

        return translated_text

    except requests.exceptions.RequestException as e:
        # 处理网络或请求错误
        return f"请求出错：{e}"
    except (KeyError, IndexError, json.JSONDecodeError) as e:
        # 处理响应数据解析错误
        return f"解析响应数据出错：{e}"

# 试试我们的函数
if __name__ == "__main__":
    # 示例1：中译英
    chinese_text = "人工智能正在改变世界。"
    translation = translate_with_hunyuan(chinese_text, source_lang="中文", target_lang="英文")
    print(f"原文：{chinese_text}")
    print(f"翻译：{translation}")
    print("-" * 30)

    # 示例2：英译中（假设模型支持此指令格式）
    english_text = "Open-source models are powerful and flexible."
    # 注意我们调换了源语言和目标语言
    translation2 = translate_with_hunyuan(english_text, source_lang="英文", target_lang="中文")
    print(f"原文：{english_text}")
    print(f"翻译：{translation2}")

代码关键点解释：

  1. 构造Prompt：模型需要明确的指令。我们按照 “将下面的{源语言}文本翻译成{目标语言}：{待译文本}” 的格式来构造。这是与模型沟通的“语言”。
  2. 请求参数：
    • model：必须与vLLM启动时加载的模型名称一致。
    • max_tokens：限制生成结果的长度，避免生成过长无关内容。
    • temperature：这是控制创意（或随机性）的参数。对于翻译这种追求准确的任务，我们设置一个较低的值（如0.1），让模型输出更确定、更可靠的结果。
  3. 错误处理：网络请求可能失败，服务器返回的数据格式也可能意外。使用try...except块捕获这些异常，让程序更健壮。
  4. 结果提取：根据vLLM的/completions接口规范，翻译后的文本藏在返回JSON的 choices[0].text 路径下。

运行这段代码，如果一切配置正确，你将在终端看到翻译结果。这意味着你已经成功绕过了网页前端，直接通过代码与AI模型“对话”了。

4.3 进阶：使用更专业的Chat接口

上面我们使用的是/completions接口，它是一种比较通用的文本补全接口。许多现代模型服务也提供更贴近对话的/chat/completions接口（类似于OpenAI的格式），使用起来可能更直观。

下面我们看看如何用这个接口来实现翻译。注意：你需要确认你的vLLM服务是否启用了这个接口，并且模型支持这种对话格式。

def translate_with_hunyuan_chat(text_to_translate, source_lang="中文", target_lang="英文", api_url="http://你的服务器地址:端口/v1/chat/completions"):
    """
    使用Chat格式调用Hunyuan翻译模型。
    """
    # 1. 构造对话消息。`system`角色设定助手身份，`user`角色是用户的指令。
    messages = [
        {"role": "system", "content": "你是一个专业的翻译助手。"},
        {"role": "user", "content": f"请将以下{source_lang}文本翻译成{target_lang}：{text_to_translate}"}
    ]

    # 2. 准备请求数据
    payload = {
        "model": "你的模型名称",
        "messages": messages,  # 关键区别：这里传的是messages列表
        "max_tokens": 512,
        "temperature": 0.1,
        "stream": False
    }

    headers = {"Content-Type": "application/json"}

    try:
        response = requests.post(api_url, headers=headers, data=json.dumps(payload), timeout=30)
        response.raise_for_status()
        result_json = response.json()

        # 3. 解析结果：Chat接口的回复通常在 `choices[0].message.content`
        translated_text = result_json.get("choices", [{}])[0].get("message", {}).get("content", "").strip()
        return translated_text

    except requests.exceptions.RequestException as e:
        return f"请求出错：{e}"
    except (KeyError, IndexError, json.JSONDecodeError) as e:
        return f"解析响应数据出错：{e}"

# 测试Chat接口
if __name__ == "__main__":
    test_text = "今天的天气真好，适合出去散步。"
    result = translate_with_hunyuan_chat(test_text, source_lang="中文", target_lang="英文")
    print(f"使用Chat接口翻译：{result}")

使用Chat接口的好处是对话逻辑更清晰，易于实现多轮交互。你可以通过不断在messages列表里追加对话历史，让模型在翻译时考虑上下文。

5. 总结

通过上面的步骤，我们完成了从了解HY-MT1.5-1.8B模型，到验证服务，再到用Python代码直接调用其API的完整过程。让我们回顾一下关键点：

  1. 模型选择：HY-MT1.5-1.8B是一个在性能、速度和资源消耗上取得优秀平衡的翻译模型，特别适合自行部署和集成。
  2. 服务验证：利用chainlit等工具可以快速搭建一个测试界面，直观确认模型服务是否工作正常。
  3. 核心调用：通过Python的requests库，向模型服务的API端点（如/v1/completions或/v1/chat/completions）发送结构化的HTTP POST请求，是集成AI能力的根本方法。关键在于正确构造包含模型指令（Prompt）和参数的请求体。
  4. 灵活集成：掌握了API调用，你就可以将这个翻译能力嵌入到任何需要的地方：自动化脚本、网站后端、移动应用、办公软件插件等等。

下次当你需要翻译功能时，不必再依赖不可控的在线服务。拥有一个自己掌控的、高性能的私有翻译助手，感觉是不是很棒？动手试试吧，从一句“我爱你”的翻译开始，开启你的AI应用集成之旅。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。

Logo
AI Agent技术社区

Agent 垂直技术社区，欢迎活跃、内容共建。

更多推荐

cover

从「能说」到「能做」：一份理清 AI Agent 的学习笔记

avatar AI Agent技术社区
cover

DeepSeek Harness 深度解析：一切皆插件的开源 AI Agent 框架如何运行？

avatar AI Agent技术社区
cover

2026年，集团企业想要AI落地，选RPA还是Agent？

avatar AI Agent技术社区