本文是一篇大模型的入门文章, 通过一个案例来理解大模型是如何使用的。

一、从一句话敲开大模型的大门

图片

你向大模型提问 “你是谁?”,然后大模型理解了你说的话,并给出对应的回答。

接下来,使用 API 模拟这个场景。

二、大模型 API 实现问答

选用月之暗面的 API 来实现问答。

图片

如图所示,通过一个 API ,完成了智能回复。

如果将这个 API 套一个壳(图形界面),就是我们常见的大模型助手。

图片

于是很多 App、Agent、智能助手,都可以通过这样一个形式的 API 进行套壳落地。

通过上面的介绍,至少对于大模型的使用有了一定的体感。

和大模型的交付形式,抽象成程序,就一个参数,不同的参数,输出的结果是不同的。

三、“不同的输入给出不同的输出”

列举有哪些大模型,但是输出的形式不同。一个表格,一个markdwon,如下所示:

图片

大模型最终的展现形式,显然和我们的输入表达是紧密相关的。输入表达,在大模型中叫做 prompt。

月之暗面这么定义 Prompt:

对模型的输入也被称为“Prompt”。通常我们建议您提供明确的指令以及给出一些范例,来让模型能够完成既定的任务,设计 Prompt 本质上就是学会如何“训练”模型。moonshot-v1模型可以用于各种任务,包括内容或代码生成、摘要、对话、创意写作等。

市面上诞生了很多 Prompt 工程师。Prompt 对大模型十分重要。很多场景的优化,常常是通过 Prompt 的优化来提升效果的。

四、Prompt 优化策略

简单提供入门的两个优化策略。

优化策略

给定身份

制定身份法

  • 你是一个 Linux 终端

  • 你是一个翻译家

  • 你是一个文档编辑专家

  • ....

示列

任务是:将 Map<Key,Value> 中的 Key提前出来 ,放入 []。

例如:{"a":"1"} 输出的是 [a]

.....

图片

五、代码案例

搭建一个简单的代码案例

第一步:到月之暗面开发平台申请一个 key

图片

https://platform.moonshot.cn/console/api-keys

有了这个 key ,就可以调用 API 。(学习阶段,申请一个免费的)

第二步:编写代码

如果熟悉 python ,那么将 key 替换成自己的,一个大模型语义能力通过几行就完成了。(月之暗面提官方提供的代码示例)

from openai import OpenAI

client = OpenAI(
api_key = "$MOONSHOT_API_KEY",
base_url = "https://api.moonshot.cn/v1",
)

completion = client.chat.completions.create(
model = "moonshot-v1-8k",
messages = [
{"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},
{"role": "user", "content": "你好,我叫李雷,1+1等于多少?"}
],
temperature = 0.3,
)

print(completion.choices[0].message.content)

如果使用 Java 代码,则封装一个 httpclient 就可以,或者使用 curl 命令也能实现访问

curl https://api.moonshot.cn/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $MOONSHOT_API_KEY" \
-d '{
"model": "moonshot-v1-8k",
"messages": [
{"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},
{"role": "user", "content": "你好,我叫李雷,1+1等于多少?"}
],
"temperature": 0.3
}'

代码实例就到此结束,感兴趣的自己可以进一步封装。

六、最后小结

本从一句话出发,然后引到大模型,算是一个简单的入门。并以月之暗面为例子进行说明。市面上有很多的大模型,都提供了open API,使用方式都相似。

后续会继续输出更多关于大模型相关的文章,本文到此结束,感谢阅读。

本文已经发布微信公众号:面汤放盐

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐