Skip to content

LLM › 整合 › LangChain

LangChain 應用編排 (LangChain Application Orchestration) ​

LangChain 提供統一介面,把 prompt 模板、模型、retriever、工具、output parser 串成流程。價值在於組合與替換:換模型供應商、重用 prompt、把檢索接進同一條 pipeline,而不必重寫膠水程式碼。單一 prompt、單一回應的任務直接呼叫 API 更單純。

核心元件 ​

元件用途例子
Chat model各供應商的統一介面ChatOpenAI、ChatAnthropic、ChatOllama(本機)
Prompt 模板帶變數的 prompt 物件ChatPromptTemplate、FewShotPromptTemplate
Output parser把模型輸出轉成字串、JSON 或物件StrOutputParser、with_structured_output()
Retriever給問題回傳相關文件向量庫的 .as_retriever()
Tool可被模型呼叫的函式@tool 裝飾器
Document loader / splitter讀取與切分文件PDF、HTML、Markdown loader;RecursiveCharacterTextSplitter

所有元件都實作 Runnable 介面(invoke、batch、stream),所以能用 | 串接,這就是 LCEL (LangChain Expression Language)。

LCEL:用 | 串流程 ​

python
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI          # 換供應商只要換這一行(langchain_anthropic、langchain_ollama…)

llm = ChatOpenAI(model=MODEL, temperature=0)

# 1. prompt → model → parser
prompt = ChatPromptTemplate.from_messages([
    ("system", "你是{field}領域的審稿人,回答簡潔。"),
    ("user", "列出這段方法描述中可能影響可重現性的問題:\n\n{methods}"),
])
chain = prompt | llm | StrOutputParser()
chain.invoke({"field": "單細胞定序", "methods": methods_text})
chain.batch([{"field": ..., "methods": m} for m in many_methods])   # 平行處理多筆

# 2. 結構化輸出:直接回傳 pydantic 物件
from pydantic import BaseModel
class Review(BaseModel):
    issues: list[str]
    severity: str
structured = prompt | llm.with_structured_output(Review)

# 3. 串接兩步:第一步的輸出成為第二步的輸入
summarize = ChatPromptTemplate.from_template("用三句話摘要:{text}") | llm | StrOutputParser()
translate = ChatPromptTemplate.from_template("翻成英文:{summary}") | llm | StrOutputParser()
pipeline = {"summary": summarize} | translate
pipeline.invoke({"text": long_text})
好處說明
每一步可單獨測試失敗時知道是 prompt、模型、檢索還是解析出錯
內建 batch、stream、非同步不必自己寫併發
可接 tracing(LangSmith 等)看到每一步的輸入輸出

檢索也是一個步驟 ​

python
from langchain_core.runnables import RunnablePassthrough

def format_docs(docs):
    return "\n\n".join(f"[{d.metadata['source']}]\n{d.page_content}" for d in docs)

rag_prompt = ChatPromptTemplate.from_template(
    "只根據以下資料回答,並標註來源;資料中沒有就說找不到。\n\n{context}\n\n問題:{question}")
rag_chain = ({"context": retriever | format_docs, "question": RunnablePassthrough()}
             | rag_prompt | llm | StrOutputParser())

完整的 RAG 流程(切分、embedding、向量庫、評估)見 RAG Pipeline。框架簡化了接線,但不會替你選對 chunk 大小、檢索策略或資料來源。

Chain、Agent、Graph 的分工 ​

型態流程用什麼
Chain固定步驟,事先已知LCEL
RAG chain固定步驟 + 檢索LCEL + retriever
Tool-using agent由模型動態決定下一步呼叫哪個工具LangGraph
有分支、迴圈、人工核准的流程明確的狀態與轉移LangGraph

流程能事先寫死就用 chain;下一步取決於中間結果時才用 agent。

值不值得用框架 ​

值得不值得
要支援多個模型供應商單一 prompt、單一回應
prompt、retriever、parser 在多個任務重用抽象層讓除錯更困難
多步驟流程、需要 tracing團隊不需要可攜性或元件重用
檢索與工具是流程的一部分只用一家 API 的基本功能

LangChain 版本演進快、套件拆分多(langchain-core、langchain-openai、langchain-community…),網路上的舊範例常無法執行。以官方文件當前版本為準,並在專案中鎖定版本。