一、Dify

Dify是一个开源的大语言模型(LLM)应用开发平台,旨在简化和加速生成式AI应用的创建和部署。

优势:

  • 低代码/无代码:像拖拽积木一样编排业务逻辑。
  • 功能完整强大:支持100+主流模型接入,满足各种企业级场景。
  • 开源免费:支持私有化本地部署。

Dify能做什么:

  • 聊天助手:快速构建具备上下文理解能力的对话机器人,支持多轮对话。知识库(RAG)轻松接入企业私有文档,实现基于自有知识的的精准回答。
  • 工作流(Workflow):通过可视化画布编排复杂的业务逻辑,实现任务自动化。
  • Agent智能体:构建能够自主调用工具、拆解并完成复杂任务的智能助手。

Dify提示词分类:

  • 用户提示词:用户提出的具体指令或问题,指导模型执行特定任务。
  • 系统提示词:定义大模型角色定位+回复逻辑,持续影响整个会话响应模式。
工作流=业务逻辑的可视化执行

工作流作用: 它将一个复杂的任务分解成一系列可管理的、按顺序或按条件执行的步骤,并通过图形化的界面将这些步骤连接起来。

dify创建工作流的标准流程

1.创建工作流

  • 操作路径:创建空白应用——>工作流/Chatflow
  • 设置内容:工作流名称(清晰明确)、功能描述(帮助AI理解)。

2.编排工作流

  • 核心操作:在可视化画布中添加节点、连接节点形成数据流、配置每个节点的输入输出参数。
  • 设置内容:开始节点——>LLM节点——>工具节点——>结束节点。

3.测试并发布

  • 测试方法:点击测试运行——>输入测试数据——>检查节点状态。
  • 发布流程:测试通过后点击发布,发布会其它用户可以使用该工作流。

二、Function Calling(函数调用)

该功能指的是在语言模型中集成外部功能或API的调用能力,这意味着模型可以在生成文本的过程中调用外部函数或服务,获取额外的数据执行特定的任务。

Function Calling应用基本流程(简化):
在这里插入图片描述

功能:

可以解决大模型的问题:

  • 信息实时性
  • 数据局限性
  • 功能扩展性

当没有函数调用(function-call)时候,调用GPT构建AI应用的模式非常简单,
主要步骤:

  • 用户(client)发请求给我们的服务(Chat Server)
  • 我们的服务(Chat Server)给GPT提示词
  • 重复执行

当有函数调用(function-call)时候,调用GPT构建AI应用的模式比之前复杂一些,主要步骤:

  • 用户(client)发送请求prompt以及function给我们的服务(Chat Server)。
  • GPT模型根据用户的prompt,判断是用普通文本还是函数调用的格式响应我们的服务(Chat Server)
  • 如果函数调用格式,那么Chat Server就会执行这个函数,并且将结果返回给GPT。
  • 然后模型使用提供的数据,用连贯的文本响应返回。
Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐