Skip to content

Data Science › Responsible AI

負責任的 AI (Responsible AI) ​

模型進入真實決策(尤其醫療、基因、臨床研究)時,準確率之外還要回答:誰會受影響、錯了會造成什麼傷害、資料能不能合法使用、出事時誰負責。本章涵蓋倫理與治理、偏誤、隱私法規、匿名化與 AI 資安。資料品質與資料治理的工程實作見 資料品質檢查、資料治理。

建議順序 ​

text
原則與治理 → 資料偏誤 → 隱私與法規 → EU AI Act → 匿名化實作 → AI 資安與風險
(為什麼、誰負責)  (錯在資料)   (能不能用)   (AI 專屬規範)  (怎麼釋出)    (怎麼被攻擊、怎麼監控)

筆記 ​

筆記內容回答的問題
Responsible AI原則、生命週期、倫理框架、資料倫理(同意、FAIR)、AI 用資料的責任、治理(角色、文件、Model Card)怎麼把「應該怎麼做」變成流程?
資料偏誤與代表性選擇偏誤、歷史偏誤、標註偏誤、認知偏誤、GWAS / PRS 族群偏誤、EHR 偏誤、子群評估模型對誰比較不準?為什麼?
隱私與法規個資、GDPR、HIPAA、台灣個資法、基因資料、受控存取、資料安全這份資料能不能用?要做到什麼?
EU AI Act風險分級、禁止用途、高風險義務、GPAI、醫療器材(MDR / IVDR)、時程我的 AI 系統屬於哪一級?
Python 匿名化識別碼分類、抑制 / 遮罩 / 概化、k-anonymity、差分隱私、合成資料、基因資料的限制怎麼在釋出資料時降低再識別風險?
AI 資安與風險管理資料投毒、對抗樣本、prompt injection、成員推論、drift、風險排序AI 系統會怎麼被攻擊或悄悄失效?

審查 AI 系統時先問 ​

問題為什麼
誰受這個決策影響?決定需要多嚴格的控制
錯了會造成什麼傷害?偽陽性與偽陰性哪個嚴重?決定指標與門檻(見 分類門檻)
決策能被解釋、被申訴嗎?受影響者的救濟途徑
誰負責上線後的監控、升級與政策更新?沒有負責人 = 沒有人在管