前言

本文主要介绍在 Windows 系统电脑如何利用llamafile结合Cpolar 内网穿透工具，实现随时随地远程访问本地大语言模型的完整流程。

llamafile 是一种 AI 大模型部署（或者说运行）的方案， 与其他方案相比，llamafile 的独特之处在于它可以将模型和运行环境打包成一个独立的可执行文件，从而简化了部署流程。用户只需下载并执行该文件，无需安装运行环境或依赖库，这大大提高了使用大型语言模型的便捷性。这种创新方案有助于降低使用门槛，且一个文件能同时支持 macOS, Windows, Linux, FreeBSD, OpenBSD, 和 NetBSD 系统，使更多人能够轻松部署和使用大型语言模型。

Cpolar，作为一种先进的内网穿透工具，凭借其独特的反向代理技术和强大的功能特性，为用户提供了一种全新的远程访问解决方案。通过 Cpolar，用户可以将本地计算机的服务安全地暴露到公网上，使得外部网络能够轻松访问到本地部署的大语言模型。这种方式不仅简化了远程访问的流程，还大大提高了访问的安全性和稳定性。

本教程中我们将从 llamafile 的安装与配置、大语言模型的部署与测试、Cpolar 的安装与设置以及远程访问的实现等方面进行详细阐述，旨在帮助用户快速掌握这一技术，实现高效、便捷的远程大语言模型访问体验。

1. 下载 llamafile

windows 点击下面下载地址,可以下载 llamafile,下载后是一个压缩包,需要解压
https://www.modelscope.cn/api/v1/models/bingal/llamafile-models/repo?Revision=master&FilePath=llamafile-0.6.2.win.zip

下载后,解压压缩文件,可以看到一个 llamafile.exe 文件,这样就下载成功了,不需要去点击这个文件,下面我们直接下载我们的大语言模型

2. 下载大语言模型

进入这个链接::https://www.modelscope.cn/models/bingal/llamafile-models/,可以下载相应的大语言模型,本例下载的是第一个模型,同时是演示超过4G的模型如何在windows 结合 llamafile 去运行,如果低于 4G 的模型,可以有更简单的运行方式,具体可以看一下该链接里的介绍方法

下载好后,我们把下载的大语言模型和上面我们下载的 llamafile.exe 文件放在一起,然后就可以运行了.下面开始运行,运行也是非常的简单

3. 运行大语言模型

在当前目录下面,点击左上角文件,直接打开 powershell 命令窗口

然后执行下面命令,其中: .\llamafile-0.6.2.exe 表示运行 llamafile, .\Qwen-7B-Chat-q4_0.llamafile表示运行自己下载的大语言模型, -ngl 999 表示调用 GPU 显卡运行,后面则是 web 界面访问端口,8080 可以自己修改,后面-host 默认即可

.\llamafile-0.6.2.exe -m .\Qwen-7B-Chat-q4_0.llamafile -ngl 9999 --port 8080 --host 0.0.0.0

执行后,我们可以看到一些信息,没有报错表示运行成功,会默认跳转到浏览器打开对应的界面,如果没有跳转,可以手动访问一下

打开浏览器,我们可以看到 llama 的 web ui 界面,这样表示启动就成功了

在最下面的输入框输入即可对话,这样就成功运行了一个大语言模型,不需要安装其他一下各种依赖配置,简单几步就运行成功了,如果我们需要换成其他的模型,同样按照上面运行的方式运行即可,本地成功后,下面我们安装 cpolar 内网穿透,实现远程也可以访问,方便在外面的时候也可以使用我们大语言模型

4. 安装 Cpolar 工具

本例介绍的是 windows 系统,所以 cpolar 安装在 windows 上,点击下面地址访问 cpolar 官网，注册一个账号，然后下载并安装客户端.

Cpolar 官网：https://www.cpolar.com

• windows 系统：在官网下载安装包后，双击安装包一路默认安装即可。

cpolar 安装成功后，在浏览器上访问本地 9200 端口【http://localhost:9200】，使用 cpolar 账号登录,即可看到 Cpolar 管理界面,然后一切设置只需要在管理界面完成即可!

5. 配置远程访问地址

在管理界面点击左侧仪表盘的隧道管理——创建隧道，创建一个 llamafile web ui 界面的公网 http 地址隧道!

• 隧道名称：可自定义命名，注意不要与已有的隧道名称重复
• 协议：选择 http
• 本地地址：8080 (上面运行模型的时候指定的端口)
• 域名类型：免费选择随机域名
• 地区：选择 China vip

点击创建(点击一次创建按钮即可,不要重复点击!)

隧道创建成功后，点击左侧的状态——在线隧道列表,查看所生成的公网访问地址，有两种访问方式,一种是 http 和 https,两种都可以访问

6. 远程访问对话界面

在浏览器输入上面我们创建的 Cpolar 公网域名,可以看到访问成功了

同样在最下面输入对话信息即可完成对话,因为我们是指定使用 GPU 运行,其响应速度更快,模型对话回复时间更短,这样,一个远程访问的公网地址就设置好了.

小结

为了更好地演示，我们在前述过程中使用了 cpolar 生成的隧道，其公网地址是随机生成的。

这种随机地址的优势在于建立速度快，可以立即使用。然而，它的缺点是网址由随机字符生成，不太容易记忆（例如：7ff0466b.r12.vip.cpolar.cn）。另外，这个地址在 24 小时内会发生随机变化，更适合于临时使用。

我一般会使用固定二级子域名，原因是我希望将网址发送给同事或客户时，它是一个固定、易记的公网地址（例如：llamatest.cpolar.cn），这样更显正式，便于流交协作。

7. 固定远程访问地址

如要配置二级子域名，注意需要将 cpolar 套餐升级至基础套餐或以上，且每个套餐对应的带宽不一样。【cpolar.cn 已备案】

点击进入和登录 Cpolar 官网，点击左侧的预留，选择保留二级子域名，设置一个二级子域名名称，点击保留

保留成功后复制保留成功的二级子域名的名称

返回登录 cpolar web UI 管理界面，点击左侧仪表盘的隧道管理——隧道列表，找到所要配置的隧道，点击右侧的编辑

修改隧道信息，将保留成功的二级子域名配置到隧道中

• 域名类型：选择二级子域名
• Sub Domain：填写保留成功的二级子域名

点击更新(注意,点击一次更新即可,不需要重复提交)

更新完成后,打开在线隧道列表,此时可以看到公网地址已经发生变化,地址二级名称变成了我们自己设置的二级子域名名称

再次打开浏览器,输入我们固定的 cpolar 公网地址,可以看到同样访问成功了,这样一个固定的地址就设置好了,不用再担心地址会变化!

普通人如何抓住AI大模型的风口？

领取方式在文末

为什么要学习大模型？

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。

随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

最后

只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！

在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。

希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！

01 教学内容

• 从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！

• 大量真实项目案例： 带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

02适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

vx扫描下方二维码即可

本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！

03 入门到进阶学习路线图

大模型学习路线图，整体分为5个大的阶段：

04 视频和书籍PDF合集

从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）

05 行业报告+白皮书合集

收集70+报告与白皮书，了解行业最新动态！

06 90+份面试题/经验

AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）

07 deepseek部署包+技巧大全

由于篇幅有限

只展示部分资料

并且还在持续更新中…

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发