LibreChat:自托管的多模型AI对话平台

38,926 Stars,开源社区里增长最快的AI对话项目之一。LibreChat 做的事情很直接:把所有主流AI模型塞进一个统一的聊天界面,让你自己掌控数据和部署。

正文顶部截图

解决什么问题

用过AI聊天工具的人都知道一个痛点:不同模型需要切换不同平台。ChatGPT、Claude、Gemini、DeepSeek,各有各的界面和账号体系。工作流被割裂,对话记录散落各处。

LibreChat 把这些整合到一起。一个界面接入 OpenAI、Anthropic Claude、Google Gemini、AWS Bedrock、Azure OpenAI、Vertex AI 等多家服务。它还支持任何兼容 OpenAI 接口的自定义端点,Ollama、Groq、Mistral、DeepSeek、Qwen 等本地或远程服务都可以直接接入,不需要额外代理。

核心能力

Agent 系统

LibreChat 内置了 Agent 框架。用户可以通过无代码方式创建专用 AI 助手,设置工具调用、文件搜索、代码执行等能力。项目提供了 Agent 市场,社区成员可以发布和共享自己构建的 Agent。每个 Agent 支持 MCP 协议,可以连接外部工具和服务。还支持 Skill 机制,将指令打包成可复用的 SKILL.md 文件,实现手动或自动触发的工作流。子 Agent 功能允许将具体任务委派给独立的子代理运行,各自拥有独立的上下文窗口。

代码解释器

内置的 Code Interpreter API 支持 Python、Node.js、Go、C/C++、Java、PHP、Rust、Fortran 等语言的沙箱执行。用户可以直接在对话中上传文件、运行代码、下载结果。执行环境完全隔离,不存在隐私泄露风险。

生成式 UI 和代码制品

聊天过程中可以生成 React 组件、HTML 页面和 Mermaid 图表,直接在界面中预览和交互。对原型开发和可视化展示比较实用。

图像生成与编辑

支持 GPT-Image-1、DALL-E 3/2、Stable Diffusion、Flux 等模型,也支持通过 MCP 服务器接入其他图像生成服务。可以从文本生成图像,也可以对已有图像进行编辑。

搜索增强

内置 Web Search 功能,可以实时检索互联网信息来补充对话上下文。支持自定义搜索提供商、内容抓取器和结果重排器。

README区域截图

界面与体验

LibreChat 的 UI 设计参照了 ChatGPT 的交互模式,但做了扩展。支持预设管理,可以保存和切换不同的 AI 端点与参数配置。对话支持分支(Fork),可以在某个消息节点上分叉出新的对话路径,方便探索不同的回答方向。消息支持编辑和重新提交。

多模态方面,支持上传图片进行分析(兼容 Claude 3、GPT-4o、Gemini 等视觉模型),也支持文件上传对话。语音方面,集成了语音转文字和文字转语音,支持 OpenAI、Azure OpenAI 和 ElevenLabs。

断线重连是一个工程细节:AI 生成的回复支持可恢复流(Resumable Streams),连接中断后会自动从断点继续。多标签页和多设备之间可以同步同一对话。从单机部署到 Redis 水平扩展的生产环境,这个机制都能工作。

部署方式

LibreChat 提供多种部署选项。Docker 是推荐方式,也支持 Railway、Zeabur、Sealos 等一键部署平台。配置通过 librechat.yaml 文件管理,可以灵活设定代理、反向代理、CDN(支持 S3 + CloudFront)等。数据可以完全本地存储,也可以接入云端。

多语言与多用户

界面支持 30 余种语言,包括中文、日语、韩语、阿拉伯语、希伯来语等,通过 Locize 平台进行翻译管理。多用户方面,支持 OAuth2、LDAP 和邮箱登录,内置了内容审核和 Token 消费统计工具,适合团队和企业场景。

开源与社区

项目完全开源,采用社区驱动的开发模式。Star 数达到 38,926,在 2024 年 Q1 曾登上 Runa Capital 的 ROSS 榜单。社区活跃,支持翻译贡献和功能讨论。

2024 年 Q1 曾登上 Runa Capital 的 ROSS 榜单。社区活跃,支持翻译贡献和功能讨论。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐