接口响应变慢时的排查顺序

把大语言模型（LLM）与去中心化网络（Decentralized Network）结合，是近两年来 Web3 与 AI 交叉领域最受追捧的技术方向之一。然而，技术理念的理想化并不等同于商业落地的可行性。

不久前，团队曾经开展过一次激进的实验：尝试将 AI Agent 的推理完全运行在去中心化算力网络上，并通过零知识证明（zkML）在链上验证每一次模型输出的确定性。结果，这个在技术方案上极其硬核的项目，在推出 beta 版仅仅两周后就遭遇了商业指标的滑铁卢——用户次留跌至不足 5%，平均响应延迟突破 12 秒，每次推理成本是传统 API 的 8 倍。

这次失败的实验给产品与架构团队敲响了警钟：如果无法把技术方案的瓶颈翻译成商业团队听得懂的语言，架构设计就容易沦为工程师自嗨的象牙塔。

纯去中心化 AI 推理的致命瓶颈与架构演算

在试验初期，架构过于追求“全链上与无信任化（Trustless）”。

从“技术痛点”到“商业语言”的翻译转换

为了让非技术背景的产品经理、运营与投资人理解为何应重构架构，团队建立了如下的技术-商业语言翻译表：

演进方案：混合算力调度器（Hybrid Compute Dispatcher）

吸取了失败实验的教训后，团队抛弃了全链上推理的执念，设计了“基于 TEE（可信执行环境）+ 动态降级”的混合算力调度架构。

该架构优先将推理任务分配给具备 SGX/TDX 硬件机密计算保障的去中心化 TEE 节点（兼顾可验证性与毫秒级延迟）；当 TEE 节点网络拥堵或超时（> 2000ms）时，自动无感降级至高可用云端代理，确保商业 SLA 绝不掉链子。

import { ethers } from 'ethers';

export interface ComputeTask {
  taskId: string;
  prompt: string;
  maxTimeoutMs: number;
}

export interface ComputeResult {
  taskId: string;
  output: string;
  providerType: 'TEE_HARDWARE' | 'FALLBACK_CLOUD';
  proofSignature?: string;
  latencyMs: number;
}

export class HybridComputeDispatcher {
  private teeNodeUrl: string;
  private fallbackCloudUrl: string;
  private relayerWallet: ethers.Wallet;

  constructor(teeNodeUrl: string, fallbackCloudUrl: string, privateKey: string) {
    this.teeNodeUrl = teeNodeUrl;
    this.fallbackCloudUrl = fallbackCloudUrl;
    this.relayerWallet = new ethers.Wallet(privateKey);
  }

  // 核心调度策略：优先高响应 TEE 节点，超时自动降级
  public async dispatchTask(task: ComputeTask): Promise<ComputeResult> {
    const startTime = Date.now();
    console.log(`🚀 收到 AI 推理任务 [${task.taskId}]，优先路由至去中心化 TEE 节点...`);

    try {
      // 1. 构造带有 2000ms 超时的 TEE 推理请求
      const teePromise = this.executeTeeInference(task);
      const timeoutPromise = new Promise<never>((_, reject) =>
        setTimeout(() => reject(new Error('TEE_NODE_TIMEOUT')), task.maxTimeoutMs || 2000)
      );

      // 竞速逻辑：若 TEE 在 SLA 阈值内返回，则直接采用
      const teeResult = await Promise.race([teePromise, timeoutPromise]);
      return {
        ...teeResult,
        latencyMs: Date.now() - startTime,
      };
    } catch (err) {
      console.warn(`⚠️ [SLA 降级触发] TEE 节点响应异常或超时: ${(err as Error).message}。立即降级至云端代理...`);
      
      // 2. 触发降级通道：路由至高可用 Server端 保证商业 SLA
      const fallbackResult = await this.executeFallbackCloudInference(task);
      return {
        ...fallbackResult,
        latencyMs: Date.now() - startTime,
      };
    }
  }

  private async executeTeeInference(task: ComputeTask): Promise<Omit<ComputeResult, 'latencyMs'>> {
    // 模拟向去中心化 TEE (如 Phala/Enigma) 节点发起的签名请求
    const res = await fetch(`${this.teeNodeUrl}/api/v1/predict`, {
      method: 'POST',
      headers: { 'Content-Type': 'application/json' },
      body: JSON.stringify({ taskId: task.taskId, prompt: task.prompt }),
    });

    if (!res.ok) throw new Error(`TEE Node Http ${res.status}`);

    const data = await res.json();
    
    // 校验 TEE 节点的硬件签名
    const isSigValid = this.verifyTeeHardwareSignature(data.output, data.signature, data.nodePubKey);
    if (!isSigValid) {
      throw new Error('TEE 硬件签名校验失败，存在恶意篡改风险');
    }

    return {
      taskId: task.taskId,
      output: data.output,
      providerType: 'TEE_HARDWARE',
      proofSignature: data.signature,
    };
  }

  private async executeFallbackCloudInference(task: ComputeTask): Promise<Omit<ComputeResult, 'latencyMs'>> {
    // 高可用降级节点响应
    const res = await fetch(`${this.fallbackCloudUrl}/api/v1/predict`, {
      method: 'POST',
      headers: { 'Content-Type': 'application/json' },
      body: JSON.stringify({ taskId: task.taskId, prompt: task.prompt }),
    });

    const data = await res.json();
    return {
      taskId: task.taskId,
      output: data.output,
      providerType: 'FALLBACK_CLOUD',
    };
  }

  private verifyTeeHardwareSignature(message: string, signature: string, nodePubKey: string): boolean {
    try {
      const recoveredAddress = ethers.verifyMessage(message, signature);
      return recoveredAddress.toLowerCase() === nodePubKey.toLowerCase();
    } catch {
      return false;
    }
  }
}

一次失败实验给产品架构师带来的启示

去中心化 AI 产品的落地，从来不是比拼谁的技术架构更炫酷，而是比拼谁能在去中心化可信度与用户体验 SLA 之间找到最契合商业逻辑的平衡点。

1. 技术选型应服务于单位经济模型（Unit Economics）：如果单次去中心化推理的成本高于产品带给用户的边际价值，该技术方案在商业上就是不可持续的。
2. 架构设计要具备弹性降级能力：Web3 基础设施（如 RPC、去中心化算力网络）目前阶段仍有较高的波动性。架构应设计如 TEE 硬件签名 + 云端代理的“双轨降级”，确保关键业务不宕机。
3. 学会用商业语言进行技术推演：工程师在向团队汇报技术方案时，把“延迟 5 秒”表达为“用户转化率预计下降 15%”，把“Gas 费用高”表达为“毛利率被压缩至负数”，才能推动产品、运营与研发达成真正的战术共识。

失败的实验并不可怕，可怕的是未能从中总结出通往商业落地的避坑指南。用混合算力与弹性降级重构后的产品，才真正具备了面向大规模用户推广的底气。