人工智慧在糖尿病照護中的倫理、歐盟 AI 法案與 GDPR 規範

講者介紹 Lucia，強調她在病患權利、病患倡議以及糖尿病照護倫理方面的專業貢獻。Lucia 開場並歡迎大家參與這場實體演講。

今天我要探討的是人工智慧在糖尿病照護中的倫理與法規層面。毫無疑問，人工智慧正在支援糖尿病照護；然而，我們必須體認到，臨床醫師依然要負起最終的責任，這是一個非常需要被正視的重要議題。在先前的演講中我們看到，臨床決策支援系統（Clinical Decision Support Systems）的表現幾乎已經能與醫師匹敵。但是，在法律上誰該負責？答案是：臨床醫師依然是負責人。因此，我們需要透過法規來確保人工智慧的部署是安全、公平且尊重隱私的。本次演講將聚焦於歐洲的法規，特別是《歐盟人工智慧法案》（European Artificial Intelligence Act）的準備工作，以及《一般資料保護規則》（General Data Protection Regulation, GDPR）。

為什麼人工智慧治理如此重要？

為什麼人工智慧的治理（AI governance）如此重要？因為我們正在處理諸多強大的工具，例如預測低血糖的演算法、針對高血糖提供可操作趨勢的預測、AI 輔助的胰島素劑量建議（如劑量計算器）、遠距連續血糖監測（CGM）警報，以及包含數據的儀表板。

如果這些工具失效，責任依然在臨床醫師身上，責任並不會憑空消失。這點非常重要。因此，我們必須避免所謂的**「自動化偏見」（Automation Bias）**，也就是過度依賴系統，導致我們停止監督其運作。AI 的定位是支援臨床醫師，它絕不能取代醫師。本場次的目標，是幫助大家了解歐盟人工智慧法規的要求、提供資料保護的基礎知識，並探討如何評估供應商，以確保安全且符合倫理地採用人工智慧。

臨床 AI 的倫理基礎

確立了為何需要人工智慧治理後，我們來看看臨床 AI（特別是在糖尿病照護中）的倫理基礎。

第一是病患與病患安全（Patient safety first）。這是所有法規的起點與終點。當系統在預測夜間低血糖或建議調整胰島素時，自動化偏見是真實存在的風險。如果我們盲目聽從人工智慧的建議，就會處於危險之中。我們必須了解演算法是如何運作的，這是臨床醫師必須具備的健康素養（health literacy）之一，同時我們也有監督其運作的義務。

第二是透明度（Transparency）。病患有權知道人工智慧何時介入了他們的照護，以及演算法是如何運作的。他們也必須獲得安全感，知道在每一個臨床決策背後，都有一位臨床醫師在把關。這不是一個系統在替他們做決定，而是始終有具備專業知識的醫師在監督整個過程。

第三是公平性與偏見（Fairness and bias）。我們知道，訓練演算法的資料集有時只收集特定族群的資訊，導致其他社會群體被代表不足（underrepresented）。例如，訓練模型的資料集可能只代表了白人男性，而遺漏了其他族群。這是一個真實的風險，必須被重視。

此外，倫理基礎還包括**可解釋性（Explainability）、當責（Accountability）、持續監控（Continuous monitoring）以及人類監督（Human oversight）**。人類監督是倫理規範中至關重要的一環。

歐盟人工智慧法案（EU AI Act）

接著我們來談談《歐盟人工智慧法案》（European Union Artificial Intelligence Act）。這是全球首部針對人工智慧的全面性法規，已於 2024 年 8 月生效，並將在未來分階段實施。

這是一個基於風險的監管模型（Risk-based regulatory model），呈現金字塔狀，分為不同風險等級：

最底層是最低風險（Minimal risk），沒有強制性義務。例如僅用於追蹤的應用程式，我們只是記錄注射了多少胰島素或攝取了多少碳水化合物，系統並未提供任何進一步的醫療建議。
往上是**有限風險（Limited Risk）**，這類系統必須保持透明度。
再往上是高風險（High risk），這是歐盟監管最嚴格的層級。大多數的醫療器材、演算法以及糖尿病科技都會被歸類於此，因為它們協助臨床醫師做出醫療決策，並直接影響治療與健康結果。絕大多數的醫療人工智慧系統都屬於這個類別。
最頂端則是**不可接受的風險（Unacceptable risk）**，這類系統在歐盟是被直接禁止的。

誰該負責？共同責任框架

那麼，究竟誰該負責？答案是共同責任（Shared responsibility）。

首先是供應商（AI Vendor），他們負責開發系統、在真實世界中訓練與驗證模型，並提供所有的技術文件以確保符合法規（如 CE 認證、醫療器材法規 MDR 等）。

其次是部署者（Deployer），通常是醫院或醫療機構。他們負責導入系統、評估真實世界的風險、建立治理與管控機制、監控與報告使用情況，並確保安全與品質。他們必須確保系統有人類監督、具備治理機制，且輸入系統的資料符合《一般資料保護規則》（GDPR）。

再者是臨床醫師（Clinician）。當醫師使用 AI 工具、解讀結果、做出臨床決策，並監督與驗證輸出結果時，他們對應用於病患身上的最終結果同樣負有責任。

最後是病患（Patient）。他們是接受照護與受惠於 AI 的主體。病患必須了解人工智慧如何運作，並擁有資料保護、安全與信任的權利。因為健康數據在 GDPR 下屬於特殊類別的敏感資料，享有比一般個人資料更高規格的保護。

實務上的運作：人類監督與可追溯性

在實務上該如何運作？如同前面一再強調的，**人類監督（Human oversight）**至關重要。即使科技進步到能提供與臨床決策支援系統完全相同的結果，我們依然要對最終的醫療結果負責，並極力避免自動化偏見。

我們必須**記錄並具備可追溯性（Logging and traceability），記錄所有的事件，以便追蹤系統給出了什麼建議。例如，在處理高血糖並做出決策時，一切都必須可追溯，因為這牽涉到當責機制。此外，還需要進行上市後監控（Post-market monitoring），並在發生意外時進行事件通報（Incident reporting）**。

同時，醫療專業人員必須具備** AI 素養（AI literacy）**。這並不是要求身為臨床醫師的我必須懂得演算法是如何編寫的，而是我需要「了解如何安全地使用這個演算法」。這一切構成了一個以病患為中心的 AI 治理框架，病患始終處於整個法規的核心。

GDPR 與健康數據保護

接下來我們進入《一般資料保護規則》（GDPR）的範疇。這是有關歐盟境內資料保護的規範。

什麼是資料？個人資料是指任何能直接或間接識別出某個人的資訊，例如姓名、電子郵件、地址等。歐盟的 2016/679 號常規（Regulation 2016/679）保護所有個人資料，但特別著重於「敏感資料」，例如健康數據。身為臨床醫師，我們無時無刻都在處理健康數據。這項法規適用於所有處理歐盟病患資料的組織；即使該組織位於歐盟境外，只要處理的是歐盟病患的資料，就必須遵守此規範。

為什麼這很重要？因為我們日常使用的 CGM 數據、胰島素幫浦數據、遠距監控與處理紀錄，以及通常外包給供應商的數據分析，全都是健康數據。如果違規，不僅將面臨巨額罰款，還會面臨法律、財務、聲譽與倫理上的風險，更可能失去病患的信任。

健康數據在 GDPR 中屬於「特殊類別」，這明訂於法規的**第 9 條（Article 9）**中，要求實施強化的保護措施。這包含了 CGM 讀數、胰島素幫浦日誌以及遠距醫療儀表板。如果不保護這些資料，或未按特殊且強化的要求來處理，就會觸法。

我們必須遵守**第 6 條的合法性基礎（Article 6 lawful basis）以及第 9 條針對健康數據的特殊要求。關於「同意（Consent）」，必須是病患自由給予的，意味著病患明確表示允許處理其資料。但在「治療用途（Treatment use）」的情況下（例如 AI 分析 CGM 或幫浦數據以進行醫療），不需要病患的明確同意（explicit consent）。然而，如果是為了「研究或數據分析（Research / analytics）」**（例如群體研究），就必須取得特定的同意。釐清這一點，能幫助臨床醫師知道何時可以安全地使用 AI 數據。

資料控制者、處理者與營運保護措施

在資料管理上，決定資料用途與處理方式的實體稱為資料控制者（Controller），通常是醫院、糖尿病診所或遠距醫療平台。而實際執行處理的通常是另一方，稱為資料處理者（Processor），通常是 AI 供應商。他們根據控制者的決定，以特定目的來使用這些資料。

為了規範這種複雜的關係，雙方通常會簽署一份**資料處理協議（Data Processing Agreement, DPA）**，以釐清責任與保護措施。

營運保護措施包含了：

加密（Encryption）。
資料最小化與保留期限（Retention limits）：只收集執行任務所需的必要資料，且資料保留時間不得超過所需期限。
外洩通報（Breach reporting）：一旦發生資安漏洞或網路安全問題，必須在最高 72 小時內通報。
透明度（Transparency）：確保病患隨時知道他們的資料是如何被使用的。

國際資料傳輸

另一個重要議題是國際資料傳輸（International data transfers）。因為歐盟對於健康數據有非常強大的保護，但其他地區（例如美國）的保護規範可能不盡相同。現今許多 AI 雲端服務的資料儲存或處理都發生在歐盟境外。

當資訊被轉移到歐盟境外時，必須引入保護措施，通常是透過**標準合約條款（Standard Contractual Clauses, SCCs）**或同等的資料保護保證來實現，例如在合約中聲明符合歐盟法規。使用人工智慧的醫療機構必須確保遵守這些保護措施。雖然這不會直接影響臨床醫師本人，但醫師所屬的機構必須處理這些問題，並建立明確的協議，指導臨床醫師如何監督資料的使用情況。

核心總結與供應商評估清單

總結以上的核心重點：首先，了解資料並合法使用。健康數據是需要強化保護的特殊敏感類別。必須依據第 6 條與第 9 條合法使用；治療用途不需明確同意，但研究或次級使用則需要。其次，保護與治理資料。醫療機構是控制者，供應商是處理者，雙方需簽署協議。確保資料加密，防止未經授權的人員存取病患隱私。務必在 72 小時內通報資安漏洞以避免巨額罰款，並確保具備國際傳輸保護措施。

當我們與 AI 供應商合作時，有一份**良好實踐清單（Good practice list）**需要確認：我們必須檢查供應商是否符合法規（如取得 CE 認證、符合 MDR 醫療器材法規與歐盟安全要求）。對於高風險的人工智慧（如臨床決策支援系統、CGM 讀數的可操作預測、遠距儀表板、劑量計算器等），我們必須確保：

了解演算法的運作方式，以便預期它可能在哪裡失效。
確保人類監督機制。
確保系統已在真實世界的臨床實踐中進行過測試。
掌握模型變更的更新資訊。
具備明確的事件通報計畫。
提供針對臨床醫師的資料與訓練計畫，提升 AI 素養。

簡而言之，人工智慧能提升臨床醫師的工作效率，但絕不能取代醫師（AI assists, clinician decides）。在法律面前，醫師將繼續擔任負責人。然而，將倫理原則與法規納入考量，能透過治理知識賦權臨床醫師，提升倫理與法律意識，確保系統是安全、透明且當責的，進而協助臨床決策並改善醫療結果。謝謝大家。