Skip to content

Data Science › Responsible AI › EU AI Act

歐盟人工智慧法 (EU AI Act) ​

EU AI Act(Regulation (EU) 2024/1689)是以風險分級管理 AI 的法規:影響越大,義務越重。醫療 AI 是重點對象:屬於醫療器材的 AI 多半落在高風險類別,要同時符合醫療器材法規。它與 GDPR 並行:GDPR 管個人資料,AI Act 管 AI 系統本身。

本篇是學習筆記,不是法律意見。條文、指引與時程以歐盟官方公告為準。

適用對象 ​

角色定義例子
提供者 (provider)開發 AI 系統或模型並以自己名義投入市場開發 AI 判讀軟體的公司
部署者 (deployer)在職務中使用 AI 系統使用該軟體的醫院
進口商、經銷商把系統帶入歐盟市場—

適用範圍有域外效力:系統在歐盟上市或輸出在歐盟使用,非歐盟組織也適用。純科學研究與開發用途(尚未投入市場或使用)原則上排除適用,但上市前的真實環境測試有特別規定。

合規的提供者不保證部署合規:同一個系統用在不同情境,風險可能完全不同。

風險分級 ​

text
          ┌─────────────────┐
          │  不可接受:禁止   │  社會評分、操縱、特定生物辨識用途
          ├─────────────────┤
          │   高風險:重度義務  │  醫療器材、關鍵基礎設施、教育、就業、執法……
          ├─────────────────┤
          │  有限風險:透明義務 │  聊天機器人、生成內容、deepfake
          ├─────────────────┤
          │  最低風險:無特別義務│  垃圾郵件過濾、遊戲 AI
          └─────────────────┘
等級例子義務
不可接受潛意識操縱、利用弱勢族群、社會評分、僅依側寫預測犯罪、無差別抓取臉部影像建資料庫、職場與教育的情緒辨識(醫療或安全用途除外)、依生物特徵推論種族 / 政治立場 / 性傾向等、公共場所即時遠端生物辨識(執法有限例外)禁止
高風險見下表風險管理、資料治理、技術文件、紀錄、透明、人工監督、準確性與穩健性、符合性評鑑、CE 標示、上市後監控
有限風險與人互動的聊天機器人、AI 生成的影像 / 音訊 / 文字、deepfake告知使用者正在與 AI 互動;生成內容需可機器辨識的標記
最低風險多數 AI 應用無特別義務;鼓勵自願行為準則

高風險的兩條路徑 ​

路徑內容例子
附件 I:受歐盟產品法規規範的產品(或其安全元件),且需第三方符合性評鑑醫療器材 (MDR)、體外診斷器材 (IVDR)、機械、玩具、車輛等AI 影像判讀軟體、AI 病理分析、AI 基因檢測解讀
附件 III:特定用途領域生物辨識、關鍵基礎設施、教育、就業、基本服務(含公共醫療給付資格、緊急分流)、執法、移民、司法決定是否符合醫療補助資格、急診病人分流

附件 III 的系統若只執行狹窄的程序性任務、不實質影響決策結果,可主張不屬於高風險(需記錄理由);但涉及對自然人進行側寫 (profiling) 的一律是高風險。

醫療 AI:與 MDR / IVDR 的關係 ​

情況AI Act 分類
AI 本身是醫療器材軟體 (SaMD),依 MDR 為 IIa 類以上(需 notified body 評鑑)高風險
AI 是體外診斷器材,依 IVDR 需 notified body 評鑑(多數 B、C、D 類)高風險
MDR I 類(自我宣告,不需 notified body)不因附件 I 成為高風險
醫院內部研究用、未投入市場的模型研究排除條款;仍受 GDPR、研究倫理規範
一般健康 / 健身 App(非醫療用途)通常非高風險;聊天介面仍有透明義務

醫療器材法規的分類規則(MDR Rule 11)讓多數提供診斷或治療決策資訊的軟體落在 IIa 類以上,所以大部分臨床用 AI 都會是高風險。

實務重點說明
單一符合性評鑑AI Act 的要求可整合進 MDR / IVDR 的 notified body 評鑑,不必分兩次
文件整合技術文件可合併;AI Act 額外要求資料治理(訓練 / 驗證 / 測試資料的代表性與偏誤檢查)、紀錄、人工監督設計
資料治理訓練資料要有相關性、代表性、盡可能無錯誤,並檢查可能的偏誤(見 資料偏誤)
上市後監控持續追蹤表現與嚴重事故;AI 的 drift 也在監控範圍
部署者義務醫院依說明使用、指派具備能力的人監督、保存紀錄、輸入資料符合用途

高風險系統的義務 ​

義務實務對應
風險管理系統整個生命週期的風險識別、評估、緩解
資料與資料治理資料來源、前處理、代表性、偏誤檢查的紀錄
技術文件類似完整的 Model Card + 設計與驗證紀錄
自動紀錄 (logging)系統運作期間的事件紀錄,可追溯
透明與使用說明預期用途、表現、限制、適用族群
人工監督設計讓人能理解輸出、決定不採用、中止系統
準確性、穩健性、資安宣告的效能指標;抵抗錯誤與攻擊(見 AI 資安)
品質管理系統與醫療器材的 QMS 可整合

通用目的 AI 模型 (GPAI) ​

LLM 等通用模型有獨立的規範路徑,因為一個模型可能成為大量下游系統的基礎。

對象義務
所有 GPAI 提供者技術文件;提供下游整合者足夠資訊;遵守著作權法(含尊重 text-and-data-mining 的排除聲明);公開訓練內容摘要
具系統性風險的 GPAI(訓練算力超過門檻或經指定)另需模型評估(含對抗測試)、系統性風險評估與緩解、嚴重事故通報、資安保護
開源模型部分文件義務可減免;具系統性風險者不減免

用 GPAI 打造醫療應用的團隊,自己就是該系統的提供者,要負系統層級的義務;不能以「我們只是用別人的模型」卸責。

時程 ​

日期生效內容
2024-08-01法規生效
2025-02-02禁止用途、AI 素養 (AI literacy) 義務
2025-08-02GPAI 義務、治理架構、罰則
2026-08-02多數其他條文(含有限風險的透明義務)
2027-12-02附件 III 高風險系統義務(原定 2026-08-02,經 Digital Omnibus 延後)
2028-08-02附件 I 產品(含醫療器材、IVD)中的高風險 AI 義務(原定 2027-08-02,經 Digital Omnibus 延後)

延後依據:Digital Omnibus on AI(Regulation (EU) 2026/1744),2026-07-27 生效;見 AI Act Explorer。時程仍可能再調整,請以官方公告為準。

罰則(上限,取金額或全球年營業額比例之高者)
違反禁止用途3,500 萬歐元或 7%
違反其他多數義務1,500 萬歐元或 3%
提供不正確資訊給主管機關750 萬歐元或 1%

與 GDPR 的關係 ​

面向GDPREU AI Act
管什麼個人資料的處理AI 系統與 GPAI 模型
風險觀對當事人權利與自由的風險(DPIA)依用途分級的風險
自動化決策第 22 條:當事人要求人工介入的權利高風險系統的人工監督設計義務
文件處理活動紀錄、DPIA技術文件、風險管理、紀錄

高風險醫療 AI 若處理病人資料,兩者同時適用:DPIA 與 AI Act 的風險管理可以一起做。

上線前檢查 ​

問題對應段落
我們是提供者還是部署者?適用對象
用途是否觸及禁止用途?風險分級
是否屬於醫療器材 / IVD?在 MDR / IVDR 是哪一類?醫療 AI
若為高風險,資料治理、文件、紀錄、人工監督是否到位?高風險系統的義務
是否建立在 GPAI 模型上?下游責任是什麼?GPAI
適用的時程是哪一天?時程