🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度

使用Hermes Agent框架时接入Taotoken自定义模型的步骤

本教程将指导你如何在Hermes Agent框架中配置Taotoken作为自定义模型提供商。通过完成几个简单的步骤,你的Hermes Agent即可调用Taotoken聚合平台上的多种大模型,无需为每个模型单独处理复杂的API接入细节。

1. 理解Hermes Agent与Taotoken的对接逻辑

Hermes Agent是一个支持多种大模型后端的Agent开发框架。其默认配置通常指向主流厂商的官方端点,但框架也提供了灵活的“自定义”提供商选项,允许开发者接入兼容OpenAI API规范的第三方平台。Taotoken正是这样一个平台,它对外提供统一的OpenAI兼容API,让你可以用一个API Key和一套调用方式访问其模型广场上的多个模型。

对接的核心在于正确配置三个关键信息:提供商类型、API基础地址以及认证密钥。你需要确保这些配置与Taotoken平台的要求完全一致,否则调用会失败。

2. 准备工作:获取Taotoken API Key与模型ID

在开始配置之前,请确保你已经拥有可用的Taotoken账户和API Key。

首先,登录Taotoken控制台,在“API密钥”管理页面创建一个新的密钥,并妥善保存。这个密钥将用于Hermes Agent向Taotoken发起请求时的身份认证。

其次,前往“模型广场”页面,浏览并选择你想要使用的模型。每个模型都有一个唯一的模型ID(例如 claude-sonnet-4-6gpt-4o-mini 等)。请记录下你打算在Hermes Agent中使用的模型ID。

3. 配置Hermes Agent使用Taotoken

Hermes Agent的配置通常通过环境变量或配置文件进行。以下是最常见的配置方法。

方法一:通过环境变量文件(.env)配置

在Hermes Agent项目的根目录下,找到或创建名为 .env 的文件。在该文件中添加或修改以下配置项:

# 指定使用自定义提供商
HERMES_PROVIDER=custom

# 设置Taotoken的OpenAI兼容API基础地址
# 注意:此处地址末尾必须包含 /v1
CUSTOM_BASE_URL=https://taotoken.net/api/v1

# 填入你在Taotoken控制台获取的API Key
OPENAI_API_KEY=sk-your-taotoken-api-key-here

# (可选)设置默认使用的模型
CUSTOM_MODEL=claude-sonnet-4-6

关键点说明

  1. HERMES_PROVIDER 必须设置为 custom
  2. CUSTOM_BASE_URL 的值 必须https://taotoken.net/api/v1。这个地址是Taotoken的OpenAI兼容端点,末尾的 /v1 路径是必需的,请不要遗漏或错误地使用其他格式(例如,不要与Anthropic原生协议地址 https://taotoken.net/api 混淆)。
  3. OPENAI_API_KEY 应填入你的Taotoken API Key。Hermes Agent框架通常使用这个环境变量名来读取密钥。
  4. CUSTOM_MODEL 可以在此处设置一个默认模型,你也可以在代码中为每个任务动态指定模型。

方法二:在代码中动态配置

你也可以在初始化Hermes Agent客户端时直接传入配置参数。以下是一个示例:

import os
from hermes.agent import HermesAgent

# 设置配置
config = {
    "provider": "custom",
    "base_url": "https://taotoken.net/api/v1", # 确保带 /v1
    "api_key": os.getenv("TAOTOKEN_API_KEY") or "sk-your-key", # 建议从环境变量读取
    "model": "claude-sonnet-4-6" # 指定模型
}

# 初始化Agent
agent = HermesAgent(config=config)

# 后续使用agent进行对话或任务处理
response = agent.run("你好,请介绍一下你自己。")

4. 使用Taotoken CLI工具快速配置(可选)

如果你希望更快捷地完成配置,可以使用Taotoken官方提供的CLI工具。该工具包含了对Hermes Agent等常见框架的一键配置支持。

首先,确保你的系统已安装Node.js环境,然后通过npm安装CLI工具:

npm install -g @taotoken/taotoken

安装完成后,运行以下命令并跟随交互式指引完成配置:

taotoken hermes

工具会提示你输入Taotoken API Key和选择的模型ID,并自动为你生成或更新Hermes Agent所需的配置文件(如 .env)中的相关字段。此方法能有效避免手动配置时可能出现的地址或参数错误。

关于CLI工具的更多子命令和高级用法,请参考其官方文档。

5. 验证与测试配置

完成配置后,强烈建议进行一个简单的测试来验证接入是否成功。

你可以创建一个简单的测试脚本,例如 test_taotoken.py

import asyncio
from hermes.agent import HermesAgent

async def test_connection():
    agent = HermesAgent() # 会自动读取 .env 中的配置
    try:
        # 发起一个简单的对话请求
        reply = await agent.arun("请回复‘连通成功’这四个字。")
        print("测试成功!模型回复:", reply)
        print("当前使用模型:", agent.config.model)
    except Exception as e:
        print("连接测试失败,错误信息:", e)

if __name__ == "__main__":
    asyncio.run(test_connection())

运行此脚本。如果配置正确,你将看到模型返回的“连通成功”信息以及当前使用的模型名称。如果出现认证失败或连接错误,请依次检查:

  1. API Key是否正确无误且未过期。
  2. CUSTOM_BASE_URL 是否准确设置为 https://taotoken.net/api/v1
  3. 网络连接是否正常,能够访问Taotoken的API端点。

6. 后续使用与模型切换

配置成功后,你的Hermes Agent便已完全接入Taotoken平台。你可以在Taotoken模型广场自由切换不同的模型,而无需修改代码中的基础地址和认证逻辑。只需在调用时,通过 model 参数指定对应的模型ID即可。

例如,如果你想从Claude Sonnet切换到GPT-4o-mini,只需在初始化Agent或发起请求时更改模型ID:

# 初始化时指定
agent = HermesAgent(config={"model": "gpt-4o-mini"})

# 或在单次请求中指定
response = agent.run("写一首短诗", model="gpt-4o-mini")

所有通过Taotoken平台产生的调用,其费用和用量都将在Taotoken控制台的用量看板中统一统计和管理,方便你进行成本核算。


至此,你已成功将Hermes Agent框架接入Taotoken。现在,你可以专注于Agent的逻辑开发,而将模型接入、路由和计费管理交给Taotoken平台处理。如需查看最新的模型列表或详细的API文档,请访问 Taotoken

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐