外觀
Agent 基礎 (Agent Foundations)
Agent = LLM + 工具 + 編排:模型判斷還缺什麼資訊、呼叫工具取得、觀察結果、決定下一步,直到完成任務。Chatbot 只回答;agent 能檢索、計算、委派與執行動作。能力越大,guardrail 與人工把關就越重要。
從 Chatbot 到 Agent
| 系統 | 行為 | 例子 |
|---|---|---|
| Chatbot | 根據 prompt 與內建知識回答 | 解釋統計概念 |
| 固定流程 (chain) | 事先寫好的步驟,可能包含檢索與工具 | 摘要 → 擷取 → 存資料庫 |
| 會用工具的助理 | 單輪中決定是否呼叫工具 | 問基因時查 NCBI |
| Agent | 多步驟、依中間結果決定下一步、有狀態 | 「找出最近 3 年 ferroptosis 的單細胞研究,下載資料集 metadata,整理成表」 |
| 元件 | 角色 | 弱點會造成 |
|---|---|---|
| 模型 | 理解任務、推理、選擇下一步 | 選錯工具、誤判完成 |
| 工具 | 取得外部資訊或執行動作 | 拿到錯的資料、執行錯的動作 |
| 編排 (orchestration) | 管理順序、狀態、路由、停止條件 | 無限迴圈、遺失上下文 |
Thought → Action → Observation
text
任務 ──→ 思考:還缺什麼?下一步做什麼?
↓
行動:呼叫工具(搜尋 PubMed、查 GEO、執行程式)
↓
觀察:讀取工具結果
↓
完成了嗎?── 否 → 回到思考
│
是 → 最終回答| 階段 | 文獻助理範例 |
|---|---|
| 思考 | 「需要先找到相關論文清單」 |
| 行動 | search_pubmed("ferroptosis single-cell", years=3) |
| 觀察 | 回傳 42 篇,其中 15 篇提到 GEO accession |
| 思考 | 「要取得這 15 個資料集的物種與樣本數」 |
| 行動 | fetch_geo_metadata(["GSE...", ...]) |
| 觀察 | ……完成後彙整成表格 |
這個迴圈的實作就是 tool calling 外加迴圈與停止條件;框架(LangGraph)讓迴圈變得可見、可控制。
工具
| 模型的限制 | 工具 | 生資例子 |
|---|---|---|
| 知識過時或缺漏 | 檢索、搜尋 | PubMed、內部文件 RAG |
| 編造 ID 與事實 | 資料庫查詢 | NCBI Gene、UniProt、Ensembl REST API |
| 算術、統計不可靠 | 程式執行 | Python sandbox 跑 pandas / scipy |
| 只能產生文字 | 動作 API | 建立工單、寫入 LIMS、送出計算任務 |
| 工具設計原則 | 理由 |
|---|---|
| 少而精;每個工具職責單一 | 每多一個工具就多一種選錯的可能 |
| 名稱與描述寫清楚何時用、何時不用 | 模型靠描述選工具 |
| 參數有型別與範例;程式端驗證 | 結構化不等於正確 |
| 回傳精簡、結構化的結果 | 大量原始輸出會塞滿 context |
| 唯讀工具與有副作用工具分開 | 有副作用的需要更嚴格的控制 |
| 錯誤訊息要讓模型看得懂 | 「找不到基因 XYZ,請確認符號」比 stack trace 有用 |
需要 agent 嗎?
| 指向 agent | 指向固定流程或傳統程式 |
|---|---|
| 下一步取決於前一步的結果 | 步驟固定、可事先寫死 |
| 大量非結構化輸入(文件、自由文字) | 輸入結構化、規則明確 |
| 規則多到難以維護 | 規則少且穩定 |
| 需要探索(搜尋、比較、追問) | 需要完全可預測與可稽核 |
適合的例子:程式碼助理(讀程式碼、修改、跑測試)、文獻研究助理(搜尋多來源再彙整)、複雜的支援流程。不適合:確定性的資料轉換、固定格式的報表,這些用一般程式或 prompt chaining 更簡單、更安全。
從最簡單的做法開始:一次 LLM 呼叫 → 固定流程 → 單一 agent → 多 agent。每升一級都要有評估證明值得。
Guardrail 與人工介入
Agent 會執行動作,不只產生文字,所以需要明確的安全邊界。
| 控制 | 例子 |
|---|---|
| 輸入範圍檢查 | 不屬於 agent 職責的請求,轉介或拒絕 |
| 工具權限最小化 | 文獻助理只有唯讀工具;不能刪檔、不能寄信 |
| 參數與動作驗證 | 刪除前檢查影響筆數;超過門檻就停止 |
| 輸出過濾 | 移除個資(病歷號、身分證號、地址) |
| 人工核准 | 寫入資料庫、寄出 email、送出付費運算前需人確認 |
| 步數與成本上限 | 最多 N 次工具呼叫、最多 $X;超過就停止並回報 |
| 完整紀錄 | 每次思考、工具呼叫與結果都留存,可事後稽核 |
高影響的流程一定要設計人工介入點。沒有升級路徑的自主性是治理失誤,不是產品特色。
| 何時要人工介入 | 理由 |
|---|---|
| 不可逆動作 | 刪除、寄出、付款 |
| 影響大量資料 | 批次修改紀錄或檔案 |
| 模型信心低或來源互相矛盾 | 避免把猜測當結論 |
| 涉及病人、臨床或法規 | 責任歸屬必須是人 |
Agent 框架
| 框架 | 特色 |
|---|---|
| LangGraph | 以圖定義狀態與轉移;細緻控制、checkpoint、人工核准 |
| OpenAI Agents SDK、Claude Agent SDK、Google ADK | 各供應商的 agent 開發套件;工具、handoff、guardrail 內建 |
| CrewAI、AutoGen | 偏向多 agent 角色協作 |
| MCP (Model Context Protocol) | 工具與資料來源的標準介面,讓同一組工具可被不同 agent / 應用使用 |
框架減少樣板程式碼,但不會替你決定流程、工具與治理方式。
設計檢查清單
| 問題 | 沒想清楚的後果 |
|---|---|
| Agent 負責什麼、不負責什麼? | 範圍蔓延,什麼都做不好 |
| 哪些缺口需要工具? | 工具過多或過少 |
| 允許存取哪些資料與動作? | 權限過大 |
| 何時該升級給人、拒絕或委派? | 錯誤動作無人攔阻 |
| 停止條件與上限是什麼? | 無限迴圈、成本失控 |
| 怎麼評估任務完成率? | 無法證明比固定流程好 |