Skip to content

LLM › Agent › Agent 基礎

Agent 基礎 (Agent Foundations) ​

Agent = LLM + 工具 + 編排:模型判斷還缺什麼資訊、呼叫工具取得、觀察結果、決定下一步,直到完成任務。Chatbot 只回答;agent 能檢索、計算、委派與執行動作。能力越大,guardrail 與人工把關就越重要。

從 Chatbot 到 Agent ​

系統行為例子
Chatbot根據 prompt 與內建知識回答解釋統計概念
固定流程 (chain)事先寫好的步驟,可能包含檢索與工具摘要 → 擷取 → 存資料庫
會用工具的助理單輪中決定是否呼叫工具問基因時查 NCBI
Agent多步驟、依中間結果決定下一步、有狀態「找出最近 3 年 ferroptosis 的單細胞研究,下載資料集 metadata,整理成表」
元件角色弱點會造成
模型理解任務、推理、選擇下一步選錯工具、誤判完成
工具取得外部資訊或執行動作拿到錯的資料、執行錯的動作
編排 (orchestration)管理順序、狀態、路由、停止條件無限迴圈、遺失上下文

Thought → Action → Observation ​

text
任務 ──→ 思考:還缺什麼?下一步做什麼?
            ↓
         行動:呼叫工具(搜尋 PubMed、查 GEO、執行程式)
            ↓
         觀察:讀取工具結果
            ↓
         完成了嗎?── 否 → 回到思考
            │
            是 → 最終回答
階段文獻助理範例
思考「需要先找到相關論文清單」
行動search_pubmed("ferroptosis single-cell", years=3)
觀察回傳 42 篇,其中 15 篇提到 GEO accession
思考「要取得這 15 個資料集的物種與樣本數」
行動fetch_geo_metadata(["GSE...", ...])
觀察……完成後彙整成表格

這個迴圈的實作就是 tool calling 外加迴圈與停止條件;框架(LangGraph)讓迴圈變得可見、可控制。

工具 ​

模型的限制工具生資例子
知識過時或缺漏檢索、搜尋PubMed、內部文件 RAG
編造 ID 與事實資料庫查詢NCBI Gene、UniProt、Ensembl REST API
算術、統計不可靠程式執行Python sandbox 跑 pandas / scipy
只能產生文字動作 API建立工單、寫入 LIMS、送出計算任務
工具設計原則理由
少而精;每個工具職責單一每多一個工具就多一種選錯的可能
名稱與描述寫清楚何時用、何時不用模型靠描述選工具
參數有型別與範例;程式端驗證結構化不等於正確
回傳精簡、結構化的結果大量原始輸出會塞滿 context
唯讀工具與有副作用工具分開有副作用的需要更嚴格的控制
錯誤訊息要讓模型看得懂「找不到基因 XYZ,請確認符號」比 stack trace 有用

需要 agent 嗎? ​

指向 agent指向固定流程或傳統程式
下一步取決於前一步的結果步驟固定、可事先寫死
大量非結構化輸入(文件、自由文字)輸入結構化、規則明確
規則多到難以維護規則少且穩定
需要探索(搜尋、比較、追問)需要完全可預測與可稽核

適合的例子:程式碼助理(讀程式碼、修改、跑測試)、文獻研究助理(搜尋多來源再彙整)、複雜的支援流程。不適合:確定性的資料轉換、固定格式的報表,這些用一般程式或 prompt chaining 更簡單、更安全。

從最簡單的做法開始:一次 LLM 呼叫 → 固定流程 → 單一 agent → 多 agent。每升一級都要有評估證明值得。

Guardrail 與人工介入 ​

Agent 會執行動作,不只產生文字,所以需要明確的安全邊界。

控制例子
輸入範圍檢查不屬於 agent 職責的請求,轉介或拒絕
工具權限最小化文獻助理只有唯讀工具;不能刪檔、不能寄信
參數與動作驗證刪除前檢查影響筆數;超過門檻就停止
輸出過濾移除個資(病歷號、身分證號、地址)
人工核准寫入資料庫、寄出 email、送出付費運算前需人確認
步數與成本上限最多 N 次工具呼叫、最多 $X;超過就停止並回報
完整紀錄每次思考、工具呼叫與結果都留存,可事後稽核

高影響的流程一定要設計人工介入點。沒有升級路徑的自主性是治理失誤,不是產品特色。

何時要人工介入理由
不可逆動作刪除、寄出、付款
影響大量資料批次修改紀錄或檔案
模型信心低或來源互相矛盾避免把猜測當結論
涉及病人、臨床或法規責任歸屬必須是人

Agent 框架 ​

框架特色
LangGraph以圖定義狀態與轉移;細緻控制、checkpoint、人工核准
OpenAI Agents SDK、Claude Agent SDK、Google ADK各供應商的 agent 開發套件;工具、handoff、guardrail 內建
CrewAI、AutoGen偏向多 agent 角色協作
MCP (Model Context Protocol)工具與資料來源的標準介面,讓同一組工具可被不同 agent / 應用使用

框架減少樣板程式碼,但不會替你決定流程、工具與治理方式。

設計檢查清單 ​

問題沒想清楚的後果
Agent 負責什麼、不負責什麼?範圍蔓延,什麼都做不好
哪些缺口需要工具?工具過多或過少
允許存取哪些資料與動作?權限過大
何時該升級給人、拒絕或委派?錯誤動作無人攔阻
停止條件與上限是什麼?無限迴圈、成本失控
怎麼評估任務完成率?無法證明比固定流程好