简介

Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。

功能比较

使用 Dify

1、Dify 云服务版：任何人都可以零设置尝试。它提供了自部署版本的所有功能，并在沙盒计划中包含 200 次免费的 GPT-4 调用。

2、Dify Premium：是一款 AWS AMI 产品，允许自定义品牌，并可作为 EC2 一键部署到你的 AWS VPC 上。前往 AWS Marketplace 进行订阅并使用，它适合以下场景：

• 在中小型企业内，需在服务器上创建一个或多应用程序，并且关心数据私有化。

• 你对 Dify Cloud 订阅计划感兴趣，但所需的用例资源超出了计划内所提供的资源。

• 你希望在组织内采用 Dify Enterprise 之前进行 POC 验证。

3、Dify 社区版：即开源版本，你可以通过以下两种方式之一部署 Dify 社区版。

• Docker Compose 部署

• 本地源码启动

基本信息

1、在线体验：https://dify.ai/

2、开源地址：https://github.com/langgenius/dify

3、官方文档：https://docs.dify.ai/v/zh-hans

核心功能列表

1、工作流：在画布上构建和测试功能强大的 AI 工作流程。

2、全面的模型支持：与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。 完整的支持模型提供商列表可在此处找到。

3、Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能（如文本转语音）的直观界面。

4、RAG Pipeline: 广泛的 RAG 功能，涵盖从文档摄入到检索的所有内容，支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。

5、Agent 智能体: 可以基于 LLM 函数调用或 ReAct 定义 Agent，并为 Agent 添加预构建或自定义工具。

• Dify 为 AI Agent 提供了50多种内置工具，如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。

6、LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。

7、后端即服务: 所有 Dify 的功能都带有相应的 API，因此您可以轻松地将 Dify 集成到自己的业务逻辑中。

Dify 私有化部署

系统要求

在安装 Dify 之前，请确保您的机器满足以下最低系统要求：

• CPU >= 2 Core

• RAM >= 4GB

快速启动

首先，克隆 Dify 源代码至本地，然后进入 docker 目录，复制一份环境变量，采用默认端口，一键启动：

git clone https://github.com/langgenius/dify.git   cd dify/docker   cp .env.example .env   docker compose up -d   

如果报错：

“

Error response from daemon: Get “https://registry-1.docker.io/v2/”: EOF

请修改daemon.json文件，设置国内镜像。

"registry-mirrors": [       "https://registry.docker-cn.com",       "https://docker.mirrors.ustc.edu.cn",       "http://hub-mirror.c.163.com",       "https://cr.console.aliyun.com/"     ]   

• Linux：vim /etc/docker/daemon.json

• Mac：vim /Users/oscar/.docker/daemon.json

启动成功后，你会发现共有 9 个容器：

• 3 个业务服务：api、worker、web

• 6 个基础组件：weaviate、db、redis、nginx、ssrf_proxy、sandbox

内存占用共计 1790 M，所以至少确保有一台 2G 内存的机器。

因为项目中启动了一个容器 nginx 将 web 服务转发到 80 端口，所以在浏览器中，直接输入公网 IP 即可，设置一下管理员的账号密码，进入应用主界面。

接入大模型

在设置里找到模型供应商，这里已经支持了上百款模型，我这里主要先接入了三款有免费额度的模型。

按照提示接入大模型

Dify 接入 Ollama 部署的本地模型

Ollama 是一个本地推理框架客户端，可一键部署如 Llama 2, Mistral, Llava 等大型语言模型。 Dify 支持接入 Ollama 部署的大型语言模型推理和 embedding 能力。

载并启动 Ollama

1、下载 Ollama：访问 https://ollama.ai/download，下载对应系统 Ollama 客户端。

2、运行 Ollama 并与 Llava 聊天

ollama run llava   

启动成功后，ollama 在本地 11434 端口启动了一个 API 服务，可通过 http://localhost:11434 访问。

3、在 Dify 中接入 Ollama 在 设置 > 模型供应商 > Ollama 中填入：

• 模型名称：llava

• 基础 URL：http://127.0.0.1:11434，此处需填写可访问到的 Ollama 服务地址。

（1）、若 Dify 为 docker 部署，建议填写局域网 IP 地址，如：http://192.168.1.100:11434 或 docker 宿主机 IP 地址，如：http://172.17.0.1:11434。

（2）、若为本地源码部署，可填写 http://localhost:11434。

• 模型类型：对话

• 模型上下文长度：4096

• 模型的最大上下文长度，若不清楚可填写默认值 4096。

• 最大 token 上限：4096：模型返回内容的最大 token 数量，若模型无特别说明，则可与模型上下文长度保持一致。

• 是否支持 Vision：是（当模型支持图片理解（多模态）勾选此项，如 llava。）

点击 “保存” 校验无误后即可在应用中使用该模型。

Embedding 模型接入方式与 LLM 类似，只需将模型类型改为 Text Embedding 即可。

创建工作流

回到主页，点击创建空白应用，这里的聊天助手和文本生成应用，是功能最为单一的 LLM 应用，都不支持工具和知识库的接入。

Agent 和 工作流的区别：

• Agent：智能体，基于大语言模型的推理能力，可以自主选择工具来完成任务，相对简单。

• 工作流：以工作流的形式编排 LLM 应用，提供更多的定制化能力，适合有经验的用户。通常，我们需要 Agent 和 工作流配合使用，Agent 负责对话理解，Workflow 处理具体的定制功能。

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型落地应用案例PPT👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

---

最后，感谢每一个认真阅读我文章的人，礼尚往来总是要有的，下面资料虽然不是什么很值钱的东西，如果你用得到的话可以直接拿走：