臨床醫師的 AI 與生成式 AI 基礎

糖尿病照護中的人工智慧與生成式 AI 基礎

這場演講是專為臨床醫師與執業的糖尿病專家量身打造，旨在幫助大家對人工智慧（Artificial Intelligence）及其在糖尿病照護領域的完整應用範疇有基本的認識。在接下來的二十分鐘內，我將帶領各位了解生成式 AI（Generative AI）的基礎，並概述代理（Agents）與代理式 AI（Agentic AI）對臨床醫師的意義。在我之後的講者，Nimri 教授與 Lucia，將分別帶領大家深入了解臨床決策支援系統（Clinical Decision Support System, CDSS），以及 AI 在糖尿病照護應用中的監管框架。

讓我們先從利益衝突聲明開始。我對本次演講內容沒有任何財務利益或利益衝突。演講中我會提及一些專有的大型語言模型（Large Language Models, LLMs），但這僅作為說明之用，不代表任何背書。當然，本次演講的內容創建、摘要與文獻回顧，都有使用人工智慧來協助完成。

糖尿病的全球負擔與數位化契機

如果我們審視全球糖尿病的負擔，國際糖尿病聯盟（IDF）的圖譜顯示，目前約有 5.37 億人患有糖尿病，而這個數字在 2030 年將攀升至 6.43 億，甚至在 2045 年將達到 7.83 億。此外，有高達二分之一的患者尚未被診斷出來，而糖尿病併發症更會導致失明、腎衰竭與截肢等嚴重後果。

這龐大的負擔實際上也為我們開啟了巨大的機會——善用數位化視窗的機會。面對糖尿病衛教師與內分泌科醫師短缺，導致患者平均每 3 到 6 個月才能回診一次的醫療資源缺口，數位化顯得至關重要。全球有九成的人口擁有智慧型手機，這項技術能同時深入城市與偏鄉人口。藉由人工智慧與智慧型手機的結合，我們可以將糖尿病管理與照護直接送到每個人的家門口。因此，儘管疾病負擔是一種限制，但這也是我們的機會，我們必須充分利用現有的科技。

臨床醫師為何需要具備 AI 素養？

在為臨床醫師建立基礎認知時，我想先探討：為什麼所有臨床醫師都需要具備人工智慧素養？

正如大家所見，科技發展正在各個領域發生，人工智慧不僅應用於預防醫學，更已深入治療與決策領域。醫療已經從過去的數據匱乏走向了數據超載（Data Overload）。當我們檢視糖尿病照護的範疇時，它正是數據最豐富的專科之一。身為一個數據密集的專科，數據就是驅動人工智慧演算法的燃料。當我們面對一個可以基於數據來治療的疾病時，醫療專業人員的 AI 素養（AI Literacy）就成了關鍵。臨床醫師需要的是 AI 素養，而不是寫程式碼的技能。

人工智慧的階層基礎

大家可能都看過人工智慧的階層基礎架構。在這個廣泛的領域中，有一個子群體稱為機器學習（Machine Learning），它主要負責讓 AI 學習識別數據中的模式。當 AI 透過模仿人類大腦神經網路的架構來學習這些模式時，我們稱之為深度學習（Deep Learning），它能處理更複雜的任務。

而深度學習底下的一個分支，正是我們如今在日常活動甚至臨床實務中最常使用的——生成式 AI（Generative AI）。生成式 AI 是一種具備創造新內容能力的人工智慧，它可以根據我們給予的指令（也就是所謂的「提示詞」，Prompting），生成文字、圖像或其他形式的內容。提示詞的撰寫是一門重要的藝術，而在當今世界，它更是一門多數專業人士都需要掌握的科學。

從生成式 AI 到代理式 AI (Agentic AI)

讓我們進一步定義幾個重要的術語。生成式 AI，正如我剛才所定義的，能產生新的文字、圖像，甚至是程式碼。現在有些工具在經過大型資料集訓練後，已經具備編寫程式碼的能力。常見的例子包括 GPT、Claude，以及醫療專用的語言模型如 Med-PaLM 2。

生成式 AI 在糖尿病照護中的核心功能包括：首先是「數據攝取（Data Ingestion）」，從電子健康紀錄（EHR）、連續血糖監測（CGM）、飲食日誌與醫學文獻中學習複雜模式；接著是「模式合成（Pattern Synthesis）」，找出數據中隱藏的關聯；最後是「生成新內容（Novel Content Generation）」，提供個人化指引、預測分析與衛教強化。

現在，我們正在邁入**代理式人工智慧（Agentic Artificial Intelligence）**的時代。這基本上意味著賦予人工智慧「自主性」。它能夠感知情境、制定目標、規劃行動，並在不需要人類不斷給予指令或提示的情況下進行自我調整。結合生成式 AI 與代理式 AI，我們可以實際落實糖尿病自我管理衛教（Diabetes Self-Management Education, DSME），並將其應用於臨床決策支援系統中。

傳統 AI 與進階 AI 的對比及關鍵術語

如果我們試著理解人工智慧，可以將其大致分為兩大類。第一類是傳統人工智慧（Conventional/Traditional AI），它涵蓋了多年來發展的機器學習與深度學習。它始於專家系統中的規則推論（Rule-based reasoning）或案例推論，隨後演進為機器學習或模式識別。傳統 AI 的主要功能是預測、分類、偵測與推薦。

隨著機器學習演進到生成式 AI 的時代，我們進入了**進階人工智慧（Advanced AI）**的領域。這正是我們現在用來起草、摘要、解釋、對話、創造新內容，以及進行全球語言翻譯的技術。因此，一種經典的分類方式是將「傳統 AI」與「生成式 AI」做對比。在當今的應用中，除了預測之外，我們看到越來越多生成式 AI 的介入。

身為醫療專業人員，我們必須像熟悉醫學術語一樣，熟悉這些科技詞彙，成為「雙語」人才。以下是幾個關鍵術語：

模型（Model）：經過數據訓練的 AI 系統本身。
訓練數據（Training data）：用來訓練模型的數據。
提示詞（Prompt）：我們給予 AI 生態系統的指令。
幻覺（Hallucination）：當 AI 產生錯誤或虛構的內容時。
偏差（Bias）：模型中非常常見的問題，通常會導致幻覺。
漂移（Drift）：有時模型本身沒有偏差，但隨著時間推移可能會發生漂移，這非常普遍。當訓練或測試數據出現「過度擬合（Overfitting）」或「擬合不足（Underfitting）」時，也會發生漂移。

最重要的是，任何模型要在醫學、糖尿病照護與醫療保健領域發揮作用，它必須具備可解釋性（Explainable），不能是一個「黑盒子（Black box）」。為此，**「人在迴路中（Human in the loop）」**或「臨床醫師在迴路中」的人為監督是絕對不可或缺的。

AI 系統如何在臨床運作與糖尿病照護的演進

AI 系統是如何為臨床醫師工作的呢？首先，使用訓練數據來訓練模型。數據經過收集、預處理與清理後，會在受控環境中套用測試數據，觀察模型的表現，並逐步開發完善。一旦模型開發完成，就會投入真實世界使用。例如，臨床醫師在臨床決策支援系統中輸入真實世界的提示詞、數據或查詢，系統就會生成輸出回應。但在這個輸出被用來做出臨床決策之前，必須經過「迴路中的臨床醫師（Clinician in the loop）」的審查與驗證。

回顧人工智慧在糖尿病照護中的光譜，它蘊含著變革性的潛力。應用範圍從連續血糖監測（CGM）、自動胰島素輸送系統（Automated Insulin Delivery system）、糖尿病視網膜病變篩檢、臨床醫師的風險預測模型、透過行動健康 App 進行的數位療法，當然還有我們將在本次會議中深入探討的臨床決策支援系統。

這個演進過程非常迷人。從 2010 年代開始在胰島素幫浦中使用的「基於規則的劑量計算機（Rule-based bolus calculators）」，演進到結合 PID 演算法與控制理論的胰島素幫浦；接著發展出傳統機器學習的風險評分，以及由 CGM 驅動的預測性警報。近年來，我們已經進入了混合閉環系統（Hybrid closed loops）與 AI 擴增 CGM 預測的時代。而現在，我們正朝著將徹底改變糖尿病照護與醫療保健的**代理式人工智慧（Agentic AI）**邁進。

深入理解：代理 (Agents) 與代理式 AI (Agentic AI)

代理（Agents）的核心能力是透過語言模型，以自主的方式提取資訊並獨立行動。它具備記憶管理的能力，能追蹤病患的病史與照護模式，然後透過外部工具執行自主操作。其架構包含規劃（如數據整合、任務分解）、行動（診斷、預測、治療工具）、記憶（包含即時數據的短期記憶與包含病史/知識庫的長期記憶），以及反思（結果評估、模型微調的迴饋迴路）。

但我們必須了解「代理（Agents）」與「代理式 AI（Agentic AI）」之間的一個重要差異：

AI 代理（AI Agents）：主要是離散的軟體或實體工具，在更廣泛的代理式 AI 生態系統中執行特定任務。它們是體現系統行動的「執行者（Doers）」，負責與環境互動並執行既定功能。例如：用於糖尿病自我管理衛教的聊天機器人，或提供劑量建議的 MadhuAI，就是一個 AI 代理。
代理式 AI（Agentic AI）：指的是自主 AI 的「總體能力」。這意味著它能自主地感知、規劃、行動，並根據接收到的指令執行目標。它是一個適應性的智慧系統，能在沒有人類持續監督的情況下，推動長期適應並管理複雜情境。例如，當一個系統透過臨床決策支援系統整合了多個代理（如動態調整胰島素與飲食的系統），它就變成了一個代理式 AI 網路。

代理式 AI 的工作流程是這樣的：你透過代理給予指令，系統會進行推論，並從語言模型中提取知識庫。接著它會規劃、行動、感知，並透過微調的迴饋迴路持續迭代學習，最終以具適應性的方式執行行動。

生成式 AI 如何強化糖尿病自我管理衛教 (DSME)

我們已經定義並了解了生成式 AI，現在來看看它如何超級強化糖尿病教育。語言模型已經被嘗試作為糖尿病自我管理衛教（DSME）的聊天機器人。它能透過對話與個人進行討論，提供適應性的課程，並透過數據驅動的記憶來實現個人化；它甚至能將即時連續血糖監測的趨勢推斷並轉化為膳食建議。

在 DSME 中使用生成式 AI 最大的優勢在於：它是 24 小時全年無休的。它隨時都在，不會對患者帶有批判性眼光（not judging），而且還能克服文化與語言的障礙。

生成式 AI 主要是透過攝取數據來運作。在醫療領域，它會從 EHR、CGM、飲食日誌與作為核心知識庫的醫學文獻中提取數據。它合成模式、理解、創造並生成內容。最終，透過聊天機器人提供個人化指引，或透過結合機器學習的預測分析與衛教強化，以適應性的方式為患者提供未來的引導。

大型語言模型 (LLMs) 在糖尿病照護的表現

大型語言模型在糖尿病照護領域已經過深入研究。例如，在一項涵蓋 40 個臨床情境的研究中，比較了 GPT-4 與 31 位內分泌科醫師的表現。結果顯示，GPT-4 的建議雖然符合指引，但在某些選擇上與醫師存在分歧（例如 GPT-4 選擇二甲雙胍的比例為 25%，而醫師為 31%）。在 CGM 分析方面，GPT-4 在 10 項定量任務中完美達成了 9 項。

另一項研究顯示，醫療語言模型 Med-PaLM 2 在 MedQA（醫療問答）上的準確率達到 86.5%，且醫師在 9 個評估維度中有 8 個更偏好它的回答。此外，專家級糖尿病醫師認為 GPT-4 的推論中有 40% 是有幫助的。

現在有一種普遍的趨勢，就是比較臨床醫師與語言模型的表現。但當我們談論這些時，我們更期待看到越來越多經過微調的醫療專用語言模型問世，這將構成未來代理與代理式生態系統運作的核心知識基礎。總結來說，LLMs 展現出成為「臨床副駕駛（Clinical co-pilots）」的潛力，而不是用來取代專科醫師。

檢索增強生成 (RAG) 架構的重要性

作為臨床醫師，我們必須了解另一個重要概念：檢索增強生成（Retrieval-Augmented Generation, RAG）。

這是一個不會總是直接從基礎模型或大型語言模型的 Transformer 架構中提取資訊的生態系統。相反地，它可以建立一個中間知識庫，從外部具權威性的知識庫（可能是醫療指引、醫學資料庫，甚至是患者完整的電子健康紀錄生態系統）中檢索查詢，以尋找相關資訊。接著，它再進入語言模型中，增強檢索到的資訊，最後給終端使用者一個更客製化、量身打造的輸出。

在糖尿病學與糖尿病管理領域，我們可以使用 RAG 來實現精準醫療、確保事實準確性、減少幻覺，並提高未來應用於臨床決策支援系統中模型的「可解釋性」與「可信度」。

這裡有一個例子，叫做 RISE 檢索增強聊天機器人（Retrieval Augmented Chatbot）。這是一個混合管道（Hybrid pipeline），當患者提出問題時，系統會進行語義搜尋，由 GPT-4 進行摘要並附上引用來源。這帶來了顯著的準確率提升：基礎 GPT-4 的正確率為 86%，而 RISE 達到了 98%（提升了 12%）。在知識成果方面，患者的糖尿病知識測驗平均分數提升了 18%。系統還設有安全護欄機制，如果信心評分低於閾值，就會轉交給真人衛教師。

最重要的是，使用者回饋表示：「感覺就像在傳訊息給我的衛教師，但速度更快。」這實際上將「黑盒子」效應降到了最低，並透過 RAG 架構增加了可解釋性。

AI 在糖尿病照護的臨床證據

接下來，有一項關於聊天機器人應用於糖尿病自我管理衛教功效的統合分析（Meta-analysis）。這篇論文顯示，聊天機器人介入能有效降低血糖，其效果相當於在輕度第二型糖尿病患者中加入抑制劑藥物。結果顯示糖化血色素（A1C）降低了 0.28%，具有良好的信賴區間。同時，患者的自我效能分數也呈現中度提升（標準化平均差 +0.42）。整體而言，其接受度與結果相當不錯。

此外，AI 驅動的胰島素幫浦也一直在演進。我相信在整個會議期間，大家都聽過 AI 閉環系統以及在幫浦與 CGM 系統中的預測功能。目前的應用包括自動胰島素輸送（如 Control-IQ、MiniMed 780G）、預測性低血糖暫停、個人化基礎率最佳化與運動模式演算法。這些技術將目標範圍內時間（Time in Range）從傳統治療的 50-60% 提升到了 70-80%，並減少了 50-70% 的嚴重低血糖事件。我們正邁向下一代的全自主系統（進食時完全不需使用者輸入）與多荷爾蒙輸送系統（胰島素加升糖素），這很可能也會納入代理式架構。

結合代理式 AI 與臨床決策支援系統 (CDSS)

什麼是臨床決策支援系統？在接下來的環節，Nimri 教授會更深入地探討。它主要是一個從知識庫、患者數據與推論引擎中提取資訊，並提供可操作輸出的架構。

如果我們嘗試將代理式人工智慧與臨床決策支援系統結合，它可以引領我們走向「主動且預測性」的糖尿病照護，而不僅僅是「被動反應式」的照護。它能幫助我們攝取複雜數據，並透過適應性學習，以自主的方式為個人提供直接的指引。

但這引出了一個問題：在代理式 AI 的臨床決策支援系統中，我們允許多少程度的自主性？這裡有一個自主性分類的例子，從第一級的「僅提供建議（Advisor only）」，到第三級的「完全自主執行（Executing in a complete autonomous manner）」。如果 AI 真的能做到這些，我們難道不該具備足夠的素養，去了解它是如何運作的？身為「迴路中的臨床醫師」，我們到底想允許多少動態自動化？這值得我們深思。

基本上，代理式 AI 的整個生態系統將會攝取數據，透過代理式 AI 核心進行分析，將其外推到臨床決策支援系統中，然後透過安全的數據共享，以聯邦式（Federated）的方式引導患者聊天機器人。

有一個心智圖可以更好地解釋這一點：中心是代理式 AI 核心。首先，它從醫學知識資料庫或 RAG 模型中學習。接著，它透過臨床決策支援系統，針對胰島素劑量、生活型態管理調整，以及主動風險管理提出建議，這些建議會經由臨床醫師透過 CDSS 傳達給患者。同時，它也透過聊天機器人，以個人化的方式提供糖尿病自我管理衛教、回答問題並給予自我管理支援。這一切都必須在具備互通性（Interoperability）、迴路中的聯邦學習（Federated learning），以及跨機構數據共享的環境下進行。

這就是代理式 AI 在糖尿病臨床決策支援系統中應有的運作思維。這個架構能從醫院（處理 DKA/HHS 管理與圍手術期照護）、社區診所、穿戴式裝置、語言模型與專業研究中心提取資訊，透過聯邦學習整合所有資訊並建立自己的資料庫。未來，代理式智慧也可能應用於智慧胰島素筆與結合 AI 驅動分析的 CGM 穿戴裝置中。

代理式智慧的實際應用與即時適應性介入

代理式智慧已經開始被應用了。例如我們在印度進行的一項工作，建立了一個名為 Madhu AI 的聊天機器人。它後端運行的是一個通用語言模型，作為糖尿病自我管理 AI 工具，並已獲得全國臨床醫師的驗證。它採用了遊戲化策略來降低血糖並提升知識。其他例子還包括使用 GPT-4 的 DTalksBot，以及使用人工神經網路預測自我管理行為的 My Diabetes Care。驗證（Validation）是非常非常重要的。

代理式智慧最終將帶來結合即時監控的個人化，並以主動的方式提供激勵性的個人化服務。這在代理式糖尿病自我管理中產生了綜效，包括個人化代理、即時監控代理與回饋代理的結合，進而提供適應性的依從性支援（Adaptive Adherence Support）。

這帶出了**「及時適應性介入（Just-in-Time Adaptive Interventions, JITAI）」**的概念，指的是利用科技，根據即時數據與情境資訊，在個人最需要的時候，精準地提供介入措施。

證據總結與 AI 照護的陷阱

我剛才說的這些有任何證據支持嗎？總結所有現有的文獻證據：

強烈證據（Strong Evidence）：文獻中最強的證據在於 AI 驅動的胰島素幫浦與決策支援系統，其效果不亞於（non-inferior）醫師指導的照護。
中度證據（Moderate Evidence）：至於我提到的代理式 AI、CDSS 與 DSME 聊天機器人，目前屬於中度證據類別。雖然初步結果令人鼓舞，且 AI 工具能持續提升病患滿意度與參與度，並能成功整合 EHR 支援床邊決策，但仍受限於缺乏隨機對照試驗（RCTs）與穩健的研究設計，需要有臨床醫師參與迴路進行進一步研究。

雖然前景看似一片光明，但 AI 驅動的糖尿病照護也帶來了一些陷阱（Pitfalls）。隱私疑慮、演算法偏差與臨床醫師的猶豫仍是重大挑戰。具體問題包括：

幻覺（Hallucinations）
偏差與不平等（Bias and inequity）
數據不完整導致的漂移與偏差
外部效度差（Poor external validity）
過度依賴（Over-reliance）
流暢但虛假的幻覺性回應

關於驗證與轉譯的落差，數據顯示：在 40 項第二型糖尿病風險預測研究中，只有 5 項進行了外部驗證；126 項妊娠糖尿病（GDM）研究中也只有 13 項進行了外部驗證。此外，大多數資料集都偏向擁有良好保險的非西班牙裔白人族群。如果不解決這些生理與標籤偏差，這些工具可能會加劇現有的健康不平等。但也有成功的例子，例如 DeepDR-LLM 在實際部署中，將基層醫師的視網膜病變診斷準確率從 81.0% 提升到了 92.3%。

負責任的 AI 與共同承諾

為此，國際糖尿病聯盟（IDF）去年成立了人工智慧與科技委員會（AI and Technology Committee）。該委員會完全致力於推動負責任地採用人工智慧與科技，以提供公平的糖尿病照護。

我們所說的「負責任的人工智慧（Responsible AI）」是什麼意思？它必須是合乎道德、透明、負責任、公平、安全、包容且保護隱私的。這在現在非常重要。演算法偏差是一個巨大的挑戰；黑盒子模型依然存在，它會侵蝕臨床醫師與患者的信任；數據隱私更是重中之重。目前全球許多地方的監管法規仍然支離破碎（我們將在下一節了解 GDPR 與歐盟法案）。我們需要更多「迴路中的臨床醫師」與後續的驗證。

當我們期望科技能將代理式人工智慧與 CDSS 帶入糖尿病照護時，臨床醫師的擔憂將集中在：黑盒子、責任歸屬的不確定性、整合中斷、培訓不足，以及模型擬合不足或過度擬合的問題。

**信任（Trust）**將是技術採用的基礎。因為沒有信任，即使是世界上最好的 AI 也不會被採用。身為臨床醫師，我們該如何評估 AI？

我們檢視其功能性。
我們檢視其數據使用情況。
我們檢視它經過了多少外部驗證與真實世界驗證。
我們檢視其測試族群與限制。
最重要的是，檢視它是否有在人為監督與「人在迴路中」的情況下進行微調與迭代改進。

這就是為什麼醫療專業人員的 AI 素養在此刻具有核心重要性。代表國際糖尿病聯盟與 AI 及科技委員會，我們呼籲大家承擔起共同的責任。因為只有將所有利害關係人——醫療體系、科技開發者、政策制定者，當然還有作為終端使用者的我們與病患——聚集在同一個平台上，我們才能在糖尿病照護中實現負責任的 AI。

我們必須記住，成功採用科技與 AI 驅動解決方案的真正本質，在於我們必須以負責任的方式，讓所有人都能獲得（Available）、容易取得（Accessible）且負擔得起（Affordable）。因為全球 5.37 億的糖尿病患者，值得擁有公平、安全且有效的人工智慧解決方案，來改變他們與糖尿病共存的生活方式。

非常感謝大家的耐心聆聽。我邀請大家註冊 ATTD 教育入口網站，您可以申請 CME/CPD 學分，並體驗屢獲殊榮的 AI 模擬訓練（例如掌握體重管理等敏感話題的討論）。請密切關注基於 ATTD AI 學校的線上學習體驗。我期待很快能與大家互動。如果人工智慧引起了您的興趣，我邀請您參加今年九月在印度新德里舉辦的 Doctors AI 全球高峰會，這將是一場專注於醫療人工智慧的盛會。非常感謝大家，期待與各位保持聯繫。