登录社区云，与社区用户共同成长
邀请您加入社区
在树莓派上用 whisper.cpp（GitHub 51K Star）部署离线语音识别：编译安装、模型选型、基础转录与流式转录参数调优、量化省内存，附树莓派 4 性能数据与注意事项。
从3个真实项目复盘本地与云端Agent的选型陷阱，给出隐私数据处理、延迟敏感场景、成本盲区及工具链锁定的具体解决方案，包含成本对比表和混合架构案例，适用于中小团队在资源受限情况下的架构决策。
研华科技与NVIDIA合作推出AI原生工厂架构，推动制造业智能化转型。该架构基于NVIDIA FOX蓝图构建"AI工厂大脑"多智能体系统，整合边缘计算与AI平台，实现从云端到现场的完整算力覆盖。核心能力包括：实时推理的Edge Agentic AI提升瑕疵检测效率，Physical AI优化物流仓储自动化，并通过企业级安全治理确保系统稳定。研华已在自有工厂验证该架构，能效管理和
本文介绍了如何在星图GPU平台上自动化部署DAMOYOLO-高性能通用检测模型-S镜像，以构建自主巡检机器人的视觉系统。该方案利用该模型作为智能体的“视觉大脑”，能够实时、精准地识别工业场景中的设备仪表、阀门状态等目标，实现从感知到决策的自动化巡检流程。
智能体（Agent）作为人工智能技术的重要分支，其核心原理在于通过感知环境、理解意图并自主执行任务来模拟人类智能行为。在技术价值层面，Agent架构的演进正推动人机交互向更自然、主动和个性化的方向发展。从云端集中式处理到边缘分布式计算，不同的架构选择在能力、延迟、隐私和成本之间进行权衡，直接影响着最终产品的体验与可行性。在应用场景上，桌面Agent作为智能体的一个典型落地形态，正逐步融入日常办公、
本文介绍了如何利用星图GPU平台，自动化部署DAMOYOLO-高性能通用检测模型-S镜像，构建智能安防系统。该方案将轻量化的视觉检测模型与自主决策的Agent智能体结合，实现园区或仓库的自主巡逻与实时异常检测，能有效识别人员、车辆等目标并协同响应，变被动监控为主动安防。
本文介绍了如何在星图GPU平台上自动化部署Qwen-Ranker Pro: 智能语义精排中心Web镜像，实现低延迟、高精度的文本相关性重排序。该镜像经蒸馏与INT8量化优化后，可高效运行于边缘设备，典型应用于电商搜索结果精排、RAG系统相关性提升等场景，显著降低端到端响应延迟并节省云成本。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-TTS-Tokenizer-12Hz镜像，实现语音唤醒词的高效token化处理。该镜像支持将3秒唤醒语音（如‘小智小智’）压缩为轻量整数token序列，专为低功耗MCU侧部署优化，典型应用于智能门锁、儿童手表等边缘设备的本地化语音唤醒场景。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-TTS-12Hz-1.7B-CustomVoice镜像，实现轻量级语音合成能力。该镜像经ARM64适配与INT4量化优化，可在边缘设备上高效运行，典型应用于智能音箱、车载导航等低延迟语音播报场景，显著提升端侧TTS落地效率。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-0.6B镜像，充分发挥其轻量级大语言模型特性。该镜像专为低RAM设备优化，支持在树莓派、嵌入式终端等资源受限环境中稳定运行，典型应用场景包括本地化智能问答、离线文本生成与边缘端AI交互服务。
本文介绍了如何在星图GPU平台上自动化部署通义千问2.5-0.5B-Instruct镜像，专为低内存设备（如树莓派、边缘终端）优化，实现稳定高效的轻量级大语言模型服务。该方案支持本地化文本生成、指令遵循与多轮对话，适用于智能终端问答、嵌入式AI助手等典型场景。
本文介绍了如何在星图GPU平台上自动化部署AutoGLM-Phone-9B镜像，实现移动端优化的多模态大语言模型私有化落地。该镜像专为边缘设备设计，支持图文问答、语音指令理解等典型场景，适用于电商商品分析、智能客服等低延迟交互应用，显著提升私有AI服务部署效率。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-0.6B镜像，实现轻量级大语言模型在嵌入式设备（如树莓派、Jetson Nano）上的本地化文本生成。通过平台一键拉取预置镜像，用户可快速构建稳定、低内存占用的AI对话服务，适用于边缘端智能问答、IoT设备自然语言交互等典型场景。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-0.6B镜像，快速构建本地化IoT智能对话系统。通过预置镜像与Jupyter一键启动，用户可实现自然语言指令解析（如‘客厅温度多少’）、设备控制与实时反馈，适用于智能家居语音交互、边缘设备本地化AI响应等典型场景。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-Reranker-0.6B镜像，高效支撑边缘场景下的文本重排序任务。该轻量模型专为低延迟、高并发的检索服务优化，典型应用于企业知识库精准问答、多语言客服语义匹配及代码搜索插件等实际业务场景，显著提升响应速度与系统稳定性。
本文介绍了如何在星图GPU平台上自动化部署基于Qwen2.5-VL的视觉定位chord视觉定位模型，实现边缘设备的实时视觉定位功能。该方案特别适用于工业检测和智能农业等场景，如在汽车零部件分拣系统中实现±1.5mm的高精度定位，显著提升效率并降低成本。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-1.7B镜像，赋能边缘设备本地化大语言模型推理。基于RK3588等国产硬件，该镜像可稳定运行中文多轮对话、逻辑推理与垂直领域问答，典型应用于工业质检报告生成、农业IoT故障诊断及教育机器人本地交互等场景。
本文介绍了如何在星图GPU平台上自动化部署通义千问3-Reranker-0.6B镜像，实现边缘端精准文本重排序。该镜像专用于对初步召回的候选文档进行精细化打分排序，典型应用于离线知识库问答、工业设备语音指令理解等低延迟、高准确率的本地化智能搜索场景。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-1.7B镜像，赋能边缘设备高效运行大模型。该镜像支持FP8量化与双模式推理，典型应用于离线语音助手、代码审查插件及工业设备故障问答等本地化AI场景，显著降低算力门槛与数据隐私风险。
本文介绍了如何在星图GPU平台上自动化部署gpt-oss-20b-WEBUI镜像，实现低配设备上的本地大语言模型推理。该镜像通过稀疏激活与vLLM优化，可在8GB内存的边缘设备（如工控机、MacBook）稳定运行，典型应用场景为私有化中文问答与专业领域（如医疗、技术）智能辅助对话。
本文介绍了如何在星图GPU平台上自动化部署Qwen3-0.6B镜像，快速构建轻量级大语言模型服务。该镜像专为移动端与边缘场景优化，适用于智能客服问答、会议纪要整理、离线代码辅助等低延迟、强中文理解的典型任务，显著提升端侧AI应用开发效率。
