PyTorch 动态图与模型部署

一、动态图机制

PyTorch 采用动态计算图（Define-by-Run），在代码执行时实时构建计算图。以线性回归为例： $$ y = Wx + b $$ 其中权重 $W$ 和偏置 $b$ 在训练过程中动态更新。动态图的核心优势在于：

1. 即时调试：可逐行检查张量值
2. 灵活控制流：支持循环、条件语句等原生 Python 逻辑
3. 直观编码：与命令式编程范式一致

二、模型部署流程

动态图在部署时需转换为静态图以提高效率：

graph LR
A[训练动态图] --> B[转换为静态图] --> C[导出部署格式] --> D[目标平台推理]

三、关键部署技术

1. TorchScript 转换

   import torch
   model = torch.jit.script(model)  # 直接编译模型
   torch.jit.save(model, "model.pt")
   

2. ONNX 格式导出

   torch.onnx.export(model, input, "model.onnx", 
                     opset_version=13,
                     input_names=["input"], 
                     output_names=["output"])
   

3. 部署运行时

   • 移动端：TorchMobile
   • 服务端：TorchServe
   • 网页端：ONNX.js

四、动态图转静态图示例

# 动态图模型
class DynamicModel(torch.nn.Module):
    def forward(self, x):
        if x.sum() > 0:  # 动态条件
            return x * 2
        return x / 2

# 转换为静态图
static_model = torch.jit.script(DynamicModel())

五、部署性能优化

1. 算子融合：合并连续操作减少内存访问
2. 量化压缩：将 FP32 转换为 INT8 $$ \text{量化误差} = \frac{|Q(x) - x|_2}{|x|_2} $$
3. 图优化：通过 TVM 或 TensorRT 进行图级优化

注意：部署时需平衡灵活性与性能。动态图适合研发阶段，静态图优化对延迟敏感场景（如移动端）至关重要。实际部署建议使用 LibTorch C++ API 实现跨平台高性能推理。