Skip to content

Data Science › LLM › LLM 基礎

LLM 基礎 (LLM Foundations) ​

LLM 在變成工具或 agent 之前的核心觀念:它把文字切成 token,一次預測一個 token;能力來自預訓練,行為來自後續的指令微調與對齊。理解這點,就能預期它在哪裡可靠、在哪裡會一本正經地編造。Attention、位置編碼等內部機制見 Transformer 與 Attention。

LLM 在做什麼 ​

text
文字 → tokenizer → token IDs → embedding → Transformer(decoder-only)→ 下一個 token 的機率分布
                                                                     ↓ 取樣
                                                     接到序列尾端,重複直到結束
概念意義實務影響
Token模型處理的基本單位,通常是子字 (subword);英文約 0.75 字 / token,中文常 1–2 字 / token計費、長度上限都以 token 計;罕見基因名、序列會被切成很多 token
Embedding把 token 對應成向量,語意相近者向量相近也是 語意搜尋 的基礎
Context window單次請求可放入的 token 上限(輸入 + 輸出)超過就要截斷、摘要或改用 RAG
自迴歸生成 (autoregressive)一次產生一個 token,每步都以前面所有 token 為條件輸出越長越慢;前面寫錯會一路錯下去
參數知識 (parametric knowledge)預訓練資料中的規律被壓縮進權重有知識截止日;冷門事實記得模糊 → 幻覺

LLM 學的是「在這個上下文中,下一個 token 最可能是什麼」。流暢不等於正確:沒有機制保證輸出對應到真實世界的事實。

Tokenization 的陷阱 ​

python
from transformers import AutoTokenizer

tok = AutoTokenizer.from_pretrained("gpt2")
tok.tokenize("The patient carries a BRCA1 c.68_69delAG variant")
# ['The', 'Ġpatient', 'Ġcarries', 'Ġa', 'ĠB', 'RC', 'A', '1', 'Ġc', '.', '68', '_', '69', 'del', 'AG', 'Ġvariant']
tok.tokenize("ATGCGTACGTTAGC")   # ['AT', 'GC', 'GT', 'AC', 'G', 'TT', 'AG', 'C']:DNA 被切成不規則片段
現象後果
基因名、HGVS 變異寫法被切碎拼字、大小寫、數字容易出錯(BRCA1 ↔ BRCA2)
數字被切成不規則片段算術不可靠 → 計算交給程式或 tool calling
中文、非英文較耗 token同樣內容成本較高、context 較快用完
不同模型 tokenizer 不同不能用 A 模型的 tokenizer 估算 B 模型的 token 數

DNA / 蛋白質序列請用專門的序列模型(序列與蛋白模型),不要把序列丟給通用 LLM 期待它「讀懂」。

取樣參數 (Decoding) ​

模型輸出的是機率分布,取樣策略決定實際挑哪個 token。

參數作用建議
temperaturelogits 除以 T 後再 softmax;T 小 → 分布更尖、輸出更穩定擷取、分類、程式碼:0–0.3;草稿、發想:0.7–1
top_p (nucleus)只從累積機率達 p 的最小 token 集合中取樣與 temperature 擇一調整即可
top_k只從機率最高的 k 個 token 取樣部分 API 才提供
max_tokens輸出長度上限控制成本與延遲;太小會被截斷
seed部分 API 支援,讓取樣可重現即使 T = 0 也不保證完全一致(批次、硬體非決定性)

temperature 與 top-p 對下一個 token 機率分布的影響

T = 0.3 時幾乎只會選 "gene";T = 1.8 時連 "drug"、"RNA" 都有可觀機率。top-p 0.9 在分布尖時只留 2 個候選、分布平時留 6 個,所以它是自適應的截斷。

訓練階段 ​

階段資料得到什麼
預訓練 (pretraining)數兆 token 的網頁、書籍、程式碼、論文語言能力與廣泛的世界知識;只會「接續文字」
指令微調 (instruction tuning / SFT)人工撰寫的「指令 → 理想回答」配對會遵循指令、以對話形式回答
偏好對齊 (RLHF、DPO 等)人類(或 AI)對多個回答的偏好排序更有幫助、更會拒絕有害請求;也可能變得過度迎合使用者
推理強化(reasoning models)可驗證答案的任務(數學、程式)上做強化學習回答前先產生較長的推理過程,複雜問題較準,但較慢較貴

預訓練給能力,後續階段塑造行為。要改「知識」用 RAG;要改「行為 / 格式」才考慮 fine-tuning。

規模面向意義
參數量容量上限;但小模型 + 好資料常勝過大模型 + 差資料
訓練資料量決定知識廣度;資料品質比數量更關鍵
算力訓練與推論成本、能源消耗
Context 長度能放多少輸入;但長 context 中段的資訊常被忽略 ("lost in the middle")

能做什麼、不能信什麼 ​

擅長例子
改寫、摘要、翻譯把方法段落改寫成給臨床醫師看的說明
從文字擷取結構從摘要抽出基因、疾病、藥物與關係 → JSON
分類、路由依摘要判斷是否符合 systematic review 的納入條件
寫程式、解釋程式產生 pandas / R / Snakemake 草稿、解釋錯誤訊息
依提供的文件回答給定說明文件或論文,回答具體問題
限制原因對策
幻覺 (hallucination)生成目標是「像真的」而非「是真的」RAG + 要求引用 + 驗證
知識截止、知識過時參數在訓練後凍結檢索最新資料庫 / 文獻
對措辭敏感小幅改寫 prompt 可能改變答案固定模板、建評估集比較
算術與計數不可靠tokenization + 沒有內建計算器交給程式(tool calling、code execution)
迎合使用者 (sycophancy)偏好對齊獎勵「讓人滿意」的回答不要在 prompt 暗示想要的答案
偏誤訓練資料的偏誤被學進去見 資料偏誤
無法保證一致性與安全取樣本身有隨機性guardrail、人工審查、評估

生成式 AI 的模型家族 ​

LLM 是生成式 AI (generative AI) 的一支;生成式模型產生新內容,而非只輸出標籤或分數。

家族核心想法典型用途生資例子
自迴歸 Transformer逐 token 預測下一個文字、程式碼、多模態對話蛋白質語言模型生成序列
GAN生成器與判別器對抗訓練早期高品質影像生成;訓練不穩定合成病理影像(資料擴增)
Diffusion學習從雜訊逐步去噪影像、影片、分子結構生成蛋白質骨架設計(RFdiffusion 類方法)
VAE編碼到潛在分布再解碼表示學習、生成scVI

基礎模型 (foundation model):在大量資料上預訓練一次,再用 prompt、embedding、微調轉到許多下游任務。VAE 與 GAN 的原理見 Autoencoder 與 VAE。

聊天介面 (ChatGPT 類) 的定位 ​

ChatGPT、Claude、Gemini 等聊天產品 = LLM + 對話介面 + 系統 prompt + 產品規則(工具、記憶、安全政策)。所以同一模型在聊天介面與 API 上的行為可能不同。

與傳統 chatbot 比較傳統(規則 / intent)LLM 聊天
回答來源預先寫好的回覆即時生成
涵蓋範圍窄,超出 intent 就失敗廣,但超出能力時仍會「回答」
可預測性高低,需要評估與 guardrail
使用習慣理由
一個對話一個主題混雜的長對話會讓 context 互相干擾;換主題就開新對話
「AI 先做,人再審」草稿、摘要、程式碼都要人工檢查後才使用
不貼病人資料、未發表資料、憑證依服務條款,輸入可能被保留或用於訓練;見 生醫 LLM 的隱私
要求附來源並自行查證引用的 PMID、DOI 可能是編造的