Dify学习
基于黑马程序员【黑马程序员零基础玩转Dify,5小时极速入门Agent开发,从Prompt到企业级项目实战,涵盖RAG+Text2SQL、电商客服+LOL助手全实战】
LLM、RAG、Agent
LLM 是大脑,负责把总任务拆成一个个小任务;Agent 是执行者,按照拆好的小任务一步步跑工作流;在每个小任务里,需要查资料、用工具时就调用 RAG;最后 Agent 把所有结果汇总,再由 LLM 整理成最终答案输出。
1.
大模型只会说,不会做;
ai agent是可以干活的ai小管家:可以将任务细小划分,同时可以调用好多工具,以及有知识库类似的记忆能力
2.
3.
Agent=大模型+工具
4.dify作用

第一章安装步骤
;
1.安装docker
一个容器:将应用及其环境打包在一起
先wsl --install

;
再设置:控制面板-》程序-》启用或禁用:虚拟机管理程序搞定
;
然后默认安装docker
接着
1)进入docker,然后不用注册也可以
2)接着配置资源下载位置:docker需要下载一些镜像,默认在c盘
3)设置镜像:
{
"builder": {
"gc": {
"defaultKeepStorage": "20GB",
"enabled": true
}
},
"experimental": false,
"features": {
"buildkit": true
},
"registry-mirrors": [
"https://docker.1panelproxy.com",
"https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
"https://docker.m.daocloud.io",
"https://hub-mirror.c.163.com",
"https://mirror.baidubce.com",
"https://your_preferred_mirror",
"https://dockerhub.icu",
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"
]
}
4)验证
docker --version
拉取镜像操作
docker pull hello-world
2.克隆 Dify 仓库
git clone https://github.com/langgenius/dify.git
3.进入 Docker 目录(环境配置)
进入到dify文件夹下docker文件夹,将.env.example文件名改为 .env
4.启动 Dify
-
先进入dify文件找到docker文件夹,然后进入终端,再去操作下面的命令
-
输入下面命令:
docker compose up -d
5.访问应用
点击以下链接,设置好邮箱、用户名、密码就可以登陆了
最后
如果下次想用,就先打开docker,再打开所有相关的服务
然后
再打开登录网址
,就可以开发了
第二章 Dify接入大模型
Ollama安装与应用
通过这个工具,可以在自己的电脑运行大模型;好处:数据不出本地,适合隐私安全

;
1)Dify接入本地大模型
1.双击ollama的exe,setting修改下载路径,然后选取模型下载,这里8g显存用qwen-2.5:7b
2.然后登录dify控制台,去下载插件

;
2)Dify接入API大模型
通过接口调用云端大模型服务,上手快,模型能力强,适合快速验证和生产级应用

这里下载通义插件有点问题:
.env设置
PIP_MIRROR_URL=Simple Index PLUGIN_PYTHON_ENV_INIT_TIMEOUT=600
然后好了;
或者:
先重启看看行不行 不行的话
1.关科学试一下
2.修改dify的配置 这个可以问ai
3.从github下载
4.下载插件到本地然后上传
然后配置api key

;
最终
选用本地或api

第三章
1.提示词(与ai沟通的说明书)(搭建智能体的第一步)
什么是Prompt提示词

;
角色+做的事情+输出格式+约束
1.

;
2.
;
场景+任务+回答数量
3.

;
4.

;
5.

;
如果
不知道提示词怎么写,就先写个初版,然后让ai优化,效率高
Dify中如何应用Prompt
1.

;
2.
;
案例实践:金融文本信息抽取助手
1.

;
2.

;
3.

第四章
第四章-01-RAG基本原理
RAG:
就是将问题经过知识库检索出来的相关的上下文(检索)和用户问题进行拼接(增强),然后再一块输出给模型生成(生成)

;

;

简单的问题加上复杂的内容(检索后得到的)即RAG,然后一起输入给LLM

;
第四章-02-知识库如何构建
1.
注意按主题分类

;
2.最重要(将知识库切片)

;
3.文档向量化(存储切片)

;
总结:

;
第四章-03-实现LOL游戏攻略知识库...
1.

;
2.

;
第四章-04-实现LOL游戏助手的搭建
RAG的原理:
我们根据一个问题,并不是把问题直接丢给大模型,而是先将这个问题经过这个知识库检索出和这个问题相关的内容,再送给这个大模型,再由其整理得出答案-->缓解缓解幻觉问题(大模型没有相关知识库)
总结

;
第五章
第五章-01-Funcion Calling的原理
即让大模型调用外部api
获取实时信息、特定领域、多功能
1.

;
2.

;
大模型本身不执行函数,只返回函数的结果,但参与决策和参数的生成
3.

;
第五章-02-时间工具的直接应用
插件就是Funcion Calling的一种实现形式

第五章-03-天气查询助手的开发和应用(自定义插件)
1.

2.步骤

3.








4.

总结:

第六章
第六章-01-理解工作流和Agent
《掌握工作流设计与编排》
1.


解释:多任务就工作流
2.


主流:以工作流的形式来制作智能体

;


第六章-02-电商问答助手知识库的创建
1.

;

第六章-03-电商问答助手意图识别(在工作流里面写代码实现自建api)
7个步骤
1.开始
必填项:用户文本输入

;
2.意图识别
...

第六章-04-电商问答助手Agent搭建
1.条件分支

;
2.

3.

;
第六章-05-电商问答助手发布应用

;
第六章-06-nlp2sql智能体学生成绩表创建
1.

;
2.

;
第六章-07-nlp2sql智能体插件准备
安装echart+datebase数据库插件,并配置好
第六章-08-nlp2sql智能体生成sql语句
第六章-09-nlp2sql智能体实现数据库查询
第七章
第七章-01-Agent嵌入网站使用
1.

;
2.嵌入前端页面

;
3.刷新前端
第七章-02-Agent封装API被别人应用
1.

;
2.

;
3.
;
4.总结

更多推荐


所有评论(0)