SecGPT-14B代码实例：Python requests封装SecGPT-14B OpenAI兼容API调用

1. SecGPT-14B简介

SecGPT-14B是一款专注于网络安全领域的开源大语言模型，基于Qwen2ForCausalLM架构开发，拥有140亿参数规模。该模型特别擅长处理各类网络安全相关的问答与分析任务，能够为安全工程师、开发人员和研究人员提供专业的技术支持。

模型特点：

• 内置网络安全专业知识库
• 支持OpenAI兼容API调用
• 提供可视化Web界面
• 双卡4090(24Gx2)张量并行推理
• 支持4096 tokens上下文长度

2. 环境准备与API基础

2.1 安装必要依赖

在开始调用API前，需要确保Python环境已安装requests库：

pip install requests

2.2 API基础信息

SecGPT-14B提供了与OpenAI兼容的API接口，主要端点如下：

• 模型列表：http://127.0.0.1:8000/v1/models
• 对话接口：http://127.0.0.1:8000/v1/chat/completions

3. Python封装实现

3.1 基础请求封装

下面是一个完整的Python封装类实现，封装了与SecGPT-14B交互的核心功能：

import requests
import json

class SecGPTClient:
    def __init__(self, base_url="http://127.0.0.1:8000"):
        self.base_url = base_url
        self.headers = {
            "Content-Type": "application/json"
        }
    
    def list_models(self):
        """获取可用模型列表"""
        response = requests.get(f"{self.base_url}/v1/models")
        return response.json()
    
    def chat_completion(self, messages, model="SecGPT-14B", temperature=0.3, max_tokens=256):
        """发送对话请求"""
        data = {
            "model": model,
            "messages": messages,
            "temperature": temperature,
            "max_tokens": max_tokens
        }
        response = requests.post(
            f"{self.base_url}/v1/chat/completions",
            headers=self.headers,
            data=json.dumps(data)
        )
        return response.json()

3.2 使用示例

创建客户端实例并发送请求：

# 初始化客户端
client = SecGPTClient()

# 定义对话消息
messages = [
    {"role": "user", "content": "什么是XSS攻击？如何防范？"}
]

# 发送请求并获取响应
response = client.chat_completion(messages)
print(response["choices"][0]["message"]["content"])

4. 进阶功能实现

4.1 流式响应处理

SecGPT-14B支持流式响应，可以通过设置stream=True参数实现：

def stream_chat(self, messages, model="SecGPT-14B", temperature=0.3, max_tokens=256):
    """流式对话请求"""
    data = {
        "model": model,
        "messages": messages,
        "temperature": temperature,
        "max_tokens": max_tokens,
        "stream": True
    }
    with requests.post(
        f"{self.base_url}/v1/chat/completions",
        headers=self.headers,
        data=json.dumps(data),
        stream=True
    ) as response:
        for chunk in response.iter_lines():
            if chunk:
                decoded_chunk = chunk.decode('utf-8')
                if decoded_chunk.startswith('data: '):
                    yield json.loads(decoded_chunk[6:])

使用示例：

for chunk in client.stream_chat(messages):
    content = chunk["choices"][0]["delta"].get("content", "")
    print(content, end="", flush=True)

4.2 参数调优建议

SecGPT-14B支持多种参数调整，以下是一些常用参数的建议值：

参数	推荐值	说明
temperature	0.3-0.7	控制回答的随机性，值越高越有创意
top_p	0.9-1.0	控制回答的多样性
max_tokens	256-1024	控制生成的最大长度
frequency_penalty	0.0-0.5	降低重复内容的出现

5. 实际应用案例

5.1 安全日志分析

SecGPT-14B可以用于分析安全日志，识别潜在威胁：

log_analysis_prompt = """
分析以下Nginx日志中的可疑行为：
66.249.66.1 - - [15/Oct/2023:12:34:56 +0000] "GET /wp-admin/ HTTP/1.1" 404 196 "-" "Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"
192.168.1.100 - - [15/Oct/2023:12:35:01 +0000] "GET /index.php?cmd=whoami HTTP/1.1" 200 532 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64)"
"""

response = client.chat_completion([
    {"role": "user", "content": log_analysis_prompt}
])
print(response["choices"][0]["message"]["content"])

5.2 漏洞检测代码生成

生成检测特定漏洞的Python代码：

vuln_detection_prompt = """
生成一个检测SQL注入漏洞的Python代码示例，
要求能够检测GET和POST参数中的SQL注入特征。
"""

response = client.chat_completion([
    {"role": "user", "content": vuln_detection_prompt}
], temperature=0.5, max_tokens=512)
print(response["choices"][0]["message"]["content"])

6. 错误处理与调试

6.1 常见错误处理

在API调用过程中可能会遇到以下错误：

try:
    response = client.chat_completion(messages)
    if "error" in response:
        print(f"API错误: {response['error']['message']}")
    else:
        print(response["choices"][0]["message"]["content"])
except requests.exceptions.RequestException as e:
    print(f"请求失败: {str(e)}")
except json.JSONDecodeError as e:
    print(f"JSON解析失败: {str(e)}")

6.2 调试技巧

1. 检查服务状态：

print(client.list_models())  # 确认服务是否可用

2. 打印完整请求：

import pprint
pprint.pprint(data)  # 打印发送的请求数据

3. 查看响应头：

response = requests.post(...)
print(response.headers)  # 查看响应头信息

7. 总结

本文介绍了如何使用Python requests库封装SecGPT-14B的OpenAI兼容API调用。通过封装基础请求、实现流式响应、处理错误情况等，我们可以构建一个功能完善的客户端，方便在各类网络安全应用场景中集成SecGPT-14B的能力。

关键要点回顾：

1. 基础API封装简单直接，只需requests库即可实现
2. 流式响应适合需要实时显示结果的场景
3. 参数调优可以显著影响模型输出质量
4. 完善的错误处理机制能提升客户端稳定性

下一步建议：

• 尝试将封装类集成到现有安全工具中
• 探索更多网络安全相关的提示词工程
• 测试不同参数组合对输出质量的影响

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。