AI Agent 探討 - 本地 Agent 核心要素

影片連結

AI Agent探討 - 開場白與AI Agent相關名詞

---

系列文章目錄

一共六篇文章

Catalogue
AI Agent 探討 – 本地 Agent 核心要素
AI Agent 探討 – 何去何從到邁向宇宙
AI Agent 探討 – 讓政治成為穩定的基石 待續
AI Agent 探討 – 不可取代的藝術創作 待續
AI Agent 探討 – 勞動市場變革自救會 待續
AI Agent 探討 – 如何實現鋼彈Haro球 待續

---

提示：LLM、AI Agent、Token、Prompt、RAG、MCP

---

前言

[AI Agent] ←→ (LLM + RAG + MCP)
這篇文章將探討 AI Agent 的概念與構成要素，特別是如何在本地端實現一個智慧型的應用。介紹大型語言模型 (LLM)、檢索增強生成 (RAG) 以及功能串聯的協定 (MCP) 如何協同運作，共同構建出一個功能強大的本地端 AI Agent。這類 Agent 能夠在沒有雲端依賴的情況下，直接在個人電腦上執行，處理語音互動、理解語意、執行任務，為未來的智慧生活帶來無限可能。

名詞	定義
AI Agent	一種能夠感知環境、做出決策並執行動作的智慧實體，旨在完成特定任務。
LLM (Large Language Model)	大型語言模型，作為 Agent 的「大腦」，負責理解自然語言、生成回覆及進行推理。
RAG (Retrieval Augmented Generation)	檢索增強生成，是一種結合資訊檢索與語言生成的方法，讓 LLM 能參考外部知識庫來生成更準確的回覆。
MCP (Model Context Protocol)	模型上下文協定，用於 Agent 與外部設備或服務溝通的介面，例如語音輸入/輸出、硬體控制等。
Token	語言模型處理文本時的基本單位，可以是詞、詞根或字符。
Prompt	提供給語言模型的指令或上下文，引導其生成特定類型的回覆。

AI Agent = LLM + RAG + MCP
AI Agent 的核心是 LLM，它提供語言理解和生成的能力。RAG 則能讓 LLM 具備更豐富的知識背景，尤其在需要精確資訊的場景下發揮作用（儘管在簡單的點餐應用中可能不需要 RAG）。MCP 則是 Agent 的「手腳」，使它能夠與真實世界的各種工具和介面進行互動，例如語音辨識、語音合成，甚至未來的硬體控制。

這種架構使得開發者能夠在本地端構建出一個功能完整的 AI Agent，實現人機互動、自動化任務處理，並為未來個人化智慧助手的普及奠定基礎。

---

提示：以下是本篇文章正文内容，下面案例可供参考

一、大型語言模型 (LLM) 的選擇哲學

在本地端的 AI Agent 的開發中，選擇合適的 LLM 是至關重要的一步。市面上有許多不同的 AI 模型，例如 GPT、Claude 和 Gemini 等。這些模型不僅在速度上有所差異，更重要的是它們整體的風格、能力和思考方式都有所不同。

你可以將每個模型想像成一種擁有不同「基因」的動物，因為它們在訓練時使用的資料、架構和目標都不同，才發展出各具特色的「個性」。

例如：(個人觀點)

• 「尖牙利爪」的獵人型模型：擅長快速搜尋資料、抓取重點。
• 「翅膀」的鳥型模型：能夠發散思維、延伸想像、發展創意。
• 「靈活手腳」的工具高手型模型：精通調用 API、執行流程、擔任助手。

因此，未來我們在選擇模型時，不能只問「哪個最強」，而是要問：「我要做這件事，用哪個模型最合適？」這是 AI 工具應用中很重要的一件事。此外，未來還會出現許多優化過的專業用途小型語言模型，即使只有 1-2B 的參數，也能完全符合特定需求。

以餃子店 AI Agent 的語音點餐 Demo 為例，由於需要調用 MCP 工具，因此必須選擇一個擅長使用工具的本地端模型。同時，為了追求快速反應，我們選擇了支援工具且容量較小的模型，目前市場上支援 MCP Tool 的小型模型大約在 7-8B 左右，例如 LLaMA 和 Qwen。

雖然表面上它們都能透過 MCP 協議調用工具來執行任務，但實際上，它們的風格差異很大。

• LLaMA 比較像一個會動手做事的人：它一接到任務就會先思考「我可以用什麼工具來解決？」行動力很強，像是長了觸角，能立刻操作系統、調用工具執行任務。
• Qwen 則像一個很有創意的大腦：它擅長展開想法、延伸語意、處理開放式問題，像是在語言的天空中自由飛翔，適合處理需要想像力或發揮創意的任務。
  (個人觀點，僅供參考)

這就說明了：不同的 AI 模型在設計理念上存在差異，它們適合的應用場景也不同。 我們不能期望用一種模型解決所有問題，而是要「選對的工具做對的事」。

在開發語音點餐系統時，我們選擇 LLaMA 作為主模型，因為這個場景不需要模型「發揮想像」，我們只需要它穩健地調用正確的工具來完成任務，讓顧客順利點餐就好。這時候，LLaMA 的風格就特別適合。

二、理解「Token」與「角色提示詞 (Prompt)」的重要性

❓「Token 設定越多越好嗎？」

在使用大型語言模型 (LLM) 時，我們經常會聽到一個關鍵詞叫做「token」。你可以將它想像成是 AI 用來理解語句的一小段一小段單位。

例如，如果你輸入這句話：👉「今天天氣好清爽」
AI 可能會將它拆解成幾個 token，像這樣：

• 今天
• 天氣
• 好
• 清爽

這樣總共有 4 個 token。每一個 token 都會佔用 AI 的「思考空間」和「運算成本」。

那麼，一個問題來了：Token 設定越多越好嗎？
對於伺服器而言，通常是的。
但如果是本地端的 AI Agent 應用，答案則是：不一定。
由於本地端使用的模型通常較小，比較容易有幻肢。
而且對於本地 (local) 的 AI Agent，還需要考慮到能耗與效率：
token 越多 → 處理越慢 → 資源消耗越兇。
幻肢不僅僅產生錯誤的資訊同時也消耗不必要的能源。

「角色提示詞 (Prompt)」：定義 AI 的工作與行為

除了 token 之外，還有一個超級重要的東西叫做「角色提示詞 (prompt)」。

簡單來說，提示詞就是你在開始時告訴 AI 它的工作是什麼。
這就像你在寫一份「入職手冊」給它看，明確地告訴它：
👉「你現在是在櫃台，負責幫客人點餐。記住要講話親切、聽懂客人想吃什麼、然後正確地幫他結帳。」

這份提示詞將決定 AI 的語氣、風格，以及處理任務的方式，非常關鍵！
例如，在開發語音櫃台點餐機的時候，最常遇到的問題就是：
客人點了套餐，AI 卻用單點的方式去算錢，然後金額錯得亂七八糟……
一開始可能會懷疑：「是不是RAG設定有問題？是不是哪裡沒有連接好？」
但有時候原因其實是提示詞沒有講清楚。AI 不知道什麼時候該使用套餐價格，什麼時候該用單點計算，因為沒有明確告知它「哪種情況要怎麼算」。

三、LLM 結合其他技術：打造小型智慧機器人

現在許多開發都朝著一個方向發展，那就是：LLM + RAG + MCP = 小型智慧機器人。

以「Local AI 智慧點餐機」為例，這個概念就很好理解了：

LLM (大型語言模型) 是整個系統的「大腦」，負責聽懂顧客說什麼、如何回話。

RAG (知識檢索) 是幫助 LLM 找資料用的，就像大腦的記憶碎片。不過，如果僅是點餐，其實不一定需要用到 RAG，因為你可以直接把「菜單」當作提示詞 (prompt) 事先提供給 LLM，它就能知道有哪些餐點可以點。

MCP (Model Context Protocol) 則是用來跟「外部溝通」的管道，例如：

• 聽語音：用語音辨識工具把顧客說的話轉成文字。
• 播放語音：請 AI 把回覆唸出來。
• 收銀機的 MCP：幫顧客直接結帳。

這三個部分(LLM + RAG + MCP)一整合起來，其實就已經是一個本地端 (local) 小型的 AI 機器人了，只是它不會走、也不會揮手，但它會跟人互動、聽懂語音、幫忙處理任務。

四、人類與 AI：共生共榮的未來

現在 AI 語言模型進步飛快，很多人會擔心：「未來機器人會不會取代人類？」但我想說的是：

人類本身就是超高效的設計：不管你相信我們是上帝或外星人創造的，還是自然演化來的——人類的身體早就被「最佳化」了，在能量消耗、靈活度、修復力上，都是目前地球上最划算的「全功能生物」。

所以，與其說 AI 或機器人會「取代人」，不如說它們是文明邁向星際不可或缺的技術，協助我們完成更重複、更笨重的事情。

五、勞動市場的變革與準備

著時代演變，工作模式的轉換看來是必然會發生的。目前會對工作直接產生影響的，不是那種會走會跳的機器人，而是會處理雜務的 AI 助手。這種 AI 可以幫忙寄信、安排行程、甚至自動寫報告或處理資料，一個人加上 AI 助手，就能完成過去兩三個人才能完成的工作。因此，公司很可能會因此減少勞力需求。

不過，這也不需要太擔心。因為這是時代進步的一部分，我們只要理解如何跟這些 AI 合作、一起工作，反而會讓我們更有競爭力。而且在下一篇文章中，我們將會告訴你，未來其實會產生比現在更多的工作機會，只是我們需要學習不同的技能。

---

總結

AI Agent 正快速演進，不再僅限於雲端，而是成為我們身邊的在地化智慧夥伴。想像一下，一個 AI Agent 能在筆電上協助點餐；儘管目前速度尚待提升，但未來幾年將有顯著進步。這些 Agent 並非複雜工程，而是透過整合現有軟體工具實現，即便沒有程式背景也能輕鬆打造。

目前，這些本地 AI Agent 系統就像剛學步的嬰兒——速度不夠快，也可能誤解意圖，但其潛力無窮。這項技術的普及，預示著一個關鍵轉變：AI Agent 正成為一項基礎技術，而非僅僅是工具。它將深刻影響我們的職涯、產業、政治、乃至藝術等各個層面。這個「AI Agent 探討」系列旨在深入探討這些變革，描繪一個 AI 與機器人不僅不取代人類，反而成為推動文明邁向更遠大目標不可或缺的技術的未來，協助我們應對複雜而繁重的挑戰。