Skip to content

Data Science › Deep Learning

深度學習 (Deep Learning) ​

用多層可微分的函數從原始資料(影像、序列、圖)直接學表示 (representation)。本章以 PyTorch 為主,講模型與訓練;LLM 的應用與系統見 LLM。

深度學習不會讓 資料洩漏、交叉驗證設計、評估指標 的規則失效;參數越多,越容易把切分錯誤記成「好結果」。

模組 ​

模組核心內容回答的問題
基礎tensor、linear layer、activation、loss、反向傳播與 optimizer、初始化、dropout / normalization神經網路由什麼組成?怎麼學?
訓練流程Dataset / DataLoader、訓練迴圈、scheduler、early stopping、checkpoint、遷移學習、混合精度怎麼把模型穩定、可重現地訓練起來?
電腦視覺CNN、影像分類、U-Net 分割影像(含顯微、醫學影像)怎麼建模?
NLP 與 Transformertokenize、embedding、RNN / LSTM、attention、Transformer序列資料怎麼建模?Transformer 為何主流?
表示學習Autoencoder、VAE、圖神經網路 (GNN)沒有標籤、或資料是圖結構時怎麼學?
生資應用DNA / 蛋白質序列模型(CNN、ESM、Enformer、AlphaFold)、單細胞 DL(scVI)深度學習在生資實際怎麼用?陷阱是什麼?

建議路線 ​

讀者路線
初學基礎(tensor → linear → activation → loss → 反向傳播 → 初始化 → 正則化)→ 訓練迴圈 → CNN → Transformer
生物資訊訓練迴圈 → 遷移學習 → 序列與蛋白模型 → VAE → 單細胞 DL → U-Net / GNN 依資料型態選
已會 KerasPyTorch ↔ Keras 對照 → 訓練迴圈

先備知識 ​

主題為什麼
NumPyshape、broadcasting、矩陣乘法與 tensor 完全相同
ML 基礎loss、泛化、bias-variance、正則化
ML 工作流程切分、交叉驗證、調參在 DL 一樣適用

什麼時候不用深度學習 ​

情境較好的起點
表格資料(臨床變數、基因表現矩陣當特徵)、樣本數幾百正則化線性模型、梯度提升樹
需要係數解釋、信賴區間統計模型
樣本少但有大型預訓練模型可用遷移學習 / 抽 embedding 再接簡單模型
影像、序列、圖、大量未標註資料深度學習