發現不稀奇，驗證才算數
醫療 AI 與可解釋性
發現不稀奇，驗證才算數。醫療 AI 的可解釋也一樣：要讓醫師能追問一句「你憑什麼」，並拿到可查證的答案。路有兩條：攤開規則，或替每個預測附上文獻證據。
為什麼醫療場景特別在意「講得出理由」
臨床上最要緊的，是能對病人和同事交代。一個判斷若說不出理由，出了事，沒人追得回是哪一步錯了。黑箱模型的毛病就在這。它說「這個病人適合換這個藥」，醫師當然要問憑什麼；問不出來，臨床上就很難真信它。
這件事連監管機關都寫進了要求。WHO 在 2024 年 1 月發布針對大型多模態模型（LMM）的治理指引，提出逾 40 項建議。WHO 在發布時講得很白：「生成式 AI 有改善醫療照護的潛力，但前提是開發、監管與使用這些技術的人，必須辨識並充分考量相關風險」（WHO）。同一份指引也點名 LLM 會產出「錯誤、不準確、有偏誤或不完整的陳述」，用在健康決策上會傷人。
可解釋不等於事後貼一張熱力圖
一項技術被發現，不代表它就能用。難的是證明它真能用。醫療 AI 眼下有個常見誤會，以為給模型加個「解釋模組」畫出重點區域，就叫可解釋。學界對此反對得很兇。
2021 年《Lancet Digital Health》刊出的論文〈The false hope of current approaches to explainable artificial intelligence in health care〉直指目前多數事後解釋方法達不到「建立信任、提供透明、減少偏誤」的目標；更麻煩的是，有解釋的 AI 會被醫師覺得更可信，即使它其實更不準（Lancet Digital Health, 2021）。作者群主張，與其硬塞事後解釋，不如把力氣放在嚴謹的內外部驗證。
這話務實。可解釋得從設計就開始，不是最後補一層。
把規則攤開，讓專業逐條檢視
第一條可靠的路，是讓 AI 的判斷依據本身就是人看得懂的規則。中醫辨證這種本來就有明確理論框架的場景，特別合適。
以規則加語言模型的混合辨證為例：把八綱與臟腑的判斷規則寫成結構化條目，中醫師能一條一條打開檢視，語言模型只在有限範圍內補充。每個結論都留下完整推理路徑與檢索到的證據，要複查隨時能回溯。透明不靠猜，它寫在系統裡。
證型還能對接國際標準碼。WHO 的 ICD-11 在 2022 年 1 月正式納入第 26 章「傳統醫學病證（Module 1）」，收錄數百個傳統醫學病證類目，是傳統醫學首次進入 ICD 分類體系。WHO 也把立場講清楚：納入傳統醫學不代表 WHO 為其療效或安全性背書，而是提供一個可做研究與統計評估的全球平台（WHO：ICD-11 2022 年正式生效）。輸出對齊 ICD-11 TM 與 FHIR，每個判斷就有了可查的座標。
每個預測都附上文獻證據包
第二條路，是讓 AI 的每個建議都能連回真實研究。老藥新用（drug repurposing）就是好例子。它把「碰運氣撞見某個舊藥能治新病」這種偶然，改成系統化地做，而系統化的關鍵正是每一步都攤得開、查得到。
哈佛醫學院團隊開發的 TxGNN 是這條路的代表。這個圖神經網路基礎模型在涵蓋 17,080 種疾病、7,957 種治療候選的醫學知識圖譜上訓練，能對「沒有現成藥可用」的疾病做零樣本（zero-shot）推論，適應症預測準確度比最接近的 AI 競爭者高出達 49.2%、禁忌症高出 35.1%（TxGNN 專案頁（Nature Medicine 2024））。
更要緊的是它怎麼驗證。研究團隊指出，TxGNN 的新預測與大型醫療系統中臨床醫師實際的仿單外（off-label）處方決策一致。當每個預測都附帶 PubMed 文獻與臨床試驗證據，醫師拿到的就不只是一個分數，還有一組能自己去讀的佐證。
可解釋也是合規與落地的門票
能解釋的模型，比較容易通過監管，也比較容易真的被醫院用起來。全球監管趨勢已經把透明度當成硬指標。截至 2024 年 12 月，FDA 已授權上市的 AI／機器學習醫療器材達 1,016 項，其中逾半數是 2021 年 GMLP（良好機器學習實務）原則發布後核准的（npj Digital Medicine, 2025）。歐盟《AI 法案》更把醫療用途 AI 直接列為高風險，要求提供可理解的系統運作邏輯說明。
從醫院端看也一樣。一個能對接既有資訊系統、輸出標準格式、每步都可追溯的系統，才進得了臨床工作流。在這裡，可解釋是入場券。少了它，連臨床的門都進不去。道理很平常：發現只是開始，驗證才算數。