系統要有敢說「不行」的關卡
醫療 AI 治理與合規
AI 涉醫，責任須歸於人。治理就是設可稽核的關卡：揭露 AI 身分、標註來源、擋越權診斷與幻覺、護個資，醫事人員負最終責任，衛福部 2026 年已頒指引。
系統要有敢說「不行」的關卡
一套制度能不能守住風險，看它有沒有一道敢擋輸出的關卡。醫療 AI 治理講的就是這件事：機構導入生成式 AI 時，用一套可稽核的機制管好風險與責任歸屬，讓系統要出口的話，先過得了這道關。
台灣已經把這件事從建議變成官方要求。衛福部在 2026 年 5 月 29 日以衛部醫字第 1151663164 號函頒〈醫療機構應用生成式人工智慧指引〉，適用於預備導入或已導入生成式 AI 系統的公私立醫院及診所。指引寫明整體精神以「負責任創新」為核心，要落實「以人為本」與隱私保護、風險治理等基本原則（衛福部）。它屬行政指導性質，還算不上強制法規，但已是機構自我檢核的基準。
同一時期，台灣《人工智慧基本法》草案於 2024 年 7 月 15 日預告，後經立法院三讀通過，明定國科會為中央主管機關，並把醫療列為需要風險管理、記錄保存、透明度與人類監督的高風險領域（國科會預告）。方向很清楚：醫療 AI 要被管，而且照高風險標準管。這等於把「敢說不行」的把關角色寫進了律令。
風險要先數得出來，指引點名六類
危要先數得出來，才防得住。衛福部把生成式 AI 在醫療場域的風險分成六類，逐一對號，才知道各自要防什麼：
指引也提醒，這些風險在醫療情境常常同時發生、交互作用，尤須特別重視。禍不單行，醫院裡尤其如此。
- 基礎模型風險：模型建置時就內嵌的系統性偏差，可能對特定疾病或族群判斷失準。
- 資料來源風險：接外部知識庫或電子病歷時，資料過時或不正確，會直接拖累臨床建議。
- 輸出結果風險：俗稱的 AI 幻覺，指引明講會「編造不存在的醫學文獻、產生錯誤的藥物交互作用資訊」。
- 資安攻擊風險：包含提示詞注入（prompt injection）等。
- 使用者依賴風險：醫事人員過度信任 AI，臨床判斷能力退化（deskilling）。
- 服務中斷風險：仰賴外部 API 的方案，可能遇到停服或版本變動。
以人為鏡：最後拍板的必須是人
以人為鏡，可以明得失。這句話拿來當標準：鏡子照得再明白，定奪衣冠的仍是照鏡之人。AI 再快，也只是一面新鏡子。
不論流程多自動化，最後拍板的必須是人。這是整份指引最硬的一條。衛福部寫得很清楚：「凡涉及臨床判斷、病人安全、病人溝通或醫療紀錄之使用情境，應由具相應專業資格且在其執業範圍內之醫事人員負最終確認、審核與責任。」指引也要求，非醫療器材的 AI 系統應「僅在人為監督或專業確認下使用，避免作為臨床診斷或治療依據」（衛福部）。
國際上同調。WHO 在 2024 年 1 月的大型多模態模型治理指引提出逾 40 項建議，WHO 在發布時強調：「生成式 AI 有改善醫療照護的潛力，但前提是開發、監管與使用這些技術的人，必須辨識並充分考量相關風險」（WHO）。AI 可以輔助，責任不能外包。一句話：進言可以代擬，擔責無人可代。
原則要落成可執行的動作：揭露、來源、個資
原則講得再對，難在照著辦。指引把抽象原則拆成幾個做得到的動作。當 AI 工具直接與民眾對話，機構須主動揭露 AI 身分；涉及錄影功能，要事前告知病患。內容要能標註生成結果的來源，免得把幻覺當成事實傳出去。
個資這一關綁在既有法律上。指引要求導入前完成「資料保護評估」，依《個人資料保護法》檢視蒐集、處理、儲存與利用的合法性；涉及病歷文書，則要符合《醫療法》相關規範。想把這些查核做成可重現、可稽核的流程，就需要工具把每次查核的狀態、法源與軌跡記下來，而且以去識別化為前提、原始個資不寫進稽核紀錄。記言行而不錄私隱，分寸相同。
對齊國際標準，制度才出得了門
台灣的規範跟國際框架是接得上的，這對想走出去的醫療 AI 很要緊。歐盟《AI 法案》2024 年 8 月生效，把作為醫療器材或其安全元件的 AI 直接列為高風險，相關條文自 2026 年 8 月起適用，要求訓練資料治理、偏誤評估、可解釋性與人類監督（EU AI Act 分析）。
美國那邊，FDA 與加拿大衛生部、英國 MHRA 在 2021 年 10 月共同發布 10 項良好機器學習實務（GMLP）原則，FDA 又於 2024 年 6 月發布機器學習醫療器材的透明度指引（Wilson Sonsini）。對齊 ISO 27001、SOC 2 等資安框架的稽核能力，等於替一套醫療 AI 拿到多國通行的門票。制度過得了別國的關，東西才出得了自家的門。