探討 AI 在中低收入國家的挑戰與醫療不平等

聽完前面大量且非常有用的資訊後，讓我們先稍微思考一下。無論人工智慧（AI）在當今世界有多麼重要，我們都應該思考它對中低收入國家的重要性。我來自黎巴嫩，除了中低收入國家本身面臨的環境挑戰外，我們還面臨著持續不斷的戰爭挑戰。因此，我們必須牢記，在某些地區，網路連線對 AI 來說是一個挑戰；對於流離失所的難民來說，擁有一支智慧型手機可能也是個挑戰。在考慮提供網路服務之前，如何先解決溫飽問題，也可能是一個主要的障礙。

但這裡的重點是要記住，無論 AI 有多麼重要，當今的挑戰依然存在。差異、不平等與不公平（Disparities, inequalities, inequities）依然存在。在將 AI 引入當地環境之前，我們必須將這些因素銘記在心。用詩意的話語來描繪我們「應該」做什麼固然美好，但我們真正需要做的是，明確指出我們「希望如何」完成它，以及我們「何時」要開始落實，特別是對於我們這些生活在面臨重大挑戰國家的人來說。

AI 是否會取代醫師？

關於這個問題，我不久前很榮幸在杜拜的世界健康博覽會（World Health Expo）上就這個特定主題進行了演講。我會說，AI 非常出色，但它只是一個工具，一個極佳的工具。那麼，它會取代醫師嗎？我不這麼認為。

它能做的是提升醫師的角色。在許多情況下，它能減少醫師所需花費的時間，讓他們有更充裕的時間，深入探討那些最需要關注的病例。另一個重點是，AI 永遠無法擁有我們醫師在處理病例，以及與糖尿病和其他非傳染性疾病（NCDs）患者交流時所需要的「人類判斷力」與「人性」。

因此，我相信它不會取代人類，而是可能會創造出新的角色或專家。我們需要專家，而醫師也可以成為運用 AI 的專家，這將賦予他們更上一層樓的角色。所以我認為 AI 不會取代人類，它會支持並幫助人類，這才是我們真正需要看待它的方式。

自動化偏見與臨床醫師的法律責任

針對「醫師是否會因為 AI 的使用而消失」的疑問，答案是絕對不會。因為這裡可能存在著所謂的自動化偏見（automated bias），也就是人們會有一種傾向，在沒有適當監督的情況下，盲目地遵循 AI 的建議。但這種風險是非常高的，因為就目前而言，臨床醫師在法律上仍需承擔最終責任。

Q&A：如何避免醫師淪為單純的「AI 驗證者」？

線上提問： 在放射科等其他領域，人們一直對自動化偏見感到擔憂，臨床醫師可能會逐漸從「獨立解讀數據」轉變為「驗證 AI 輸出的結果」。在系統發生故障且臨床醫師必須依賴自身專業知識的罕見情況下，這會變得特別成問題。既然有意義的監督需要花費時間，而許多臨床醫師已經在巨大的時間壓力下工作，我們該如何切實地防止這種動態發展？如果 AI 的主要優勢在於效率，那麼臨床醫師是否面臨著一種風險：他們可能會越來越傾向於只驗證演算法的輸出結果，但最終卻仍需為決策承擔法律責任？

講者回應： 這個問題非常有趣，而且它已經超越了醫療保健的範疇，因為人工智慧在某種程度上正在接管所有領域。「只驗證而不檢查」的趨勢確實存在，而且非常危險。 然而，正如前面所指出的，臨床醫師依然是責任的承擔者。因此，一旦發生錯誤，他們將付出財務上的代價，並承擔相應的民事責任。針對這個問題的深入探討，建議可以直接參考關於 AI 倫理層面（ethical side of AI）的相關簡報內容。

Q&A：《人工智慧法案》框架下的責任歸屬

現場提問（來自德國的醫師）： 關於《人工智慧法案》（AI Act），在供應商（vendor）、部署者（deployer）、診所與保險公司之間的系統中，醫療保險公司（health insurance）在提供或准許開立基於 AI 的工具給患者時，究竟扮演什麼樣的責任歸屬（accountability）角色？在最壞的情況下，究竟是醫師、診所、醫院、AI 開發者，還是保險公司要負責？

講者回應： 這是一個共同責任系統（shared responsibility system）。在法規框架下，供應商（provider）必須遵守法規、遵循 CE 認證標誌（CE mark），並完成所有針對供應商的要求。而部署者（deployer）——也就是醫院或臨床機構——必須要求並保證供應商已經將所有規範納入考量。同時，部署者也必須制定自身的規範，並保證在組織內部為臨床醫師建立完善的治理系統（governance system）。

會議總結

雖然會議時間已經超時，但非常感謝現場所有參與者來聆聽並深入探討 AI 議題。感謝所有講者以及台上參與討論的與會者。同時，也感謝線上參與者的提問，雖然還有更多問題湧入，但必須在此結束本場會議。祝各位在接下來的大會活動中一切順利。