本院醫療 AI 十大透明與可解釋性指標

透明性是建立醫療AI可信任度的重要基礎。

衛生福利部目前醫療AI治理架構採用「AI實務九大透明度／九大透明性」揭露架構，包括AI介入情境與輸出、目的、使用限制、開發資訊、公平性、外部驗證、量化效能及後續維護與驗證等內容。

臺南市立安南醫院在此基礎上，進一步將「可解釋性報告」納入院內AI治理要求，形成「本院醫療AI十大透明與可解釋性指標」。

第 1至第9項依循衛生福利部九大透明性架構；第10項「可解釋性報告」為本院增列之治理項目。

01 AI詳情及輸出

說明AI系統實際介入的臨床或作業情境，以及系統所產出的資訊內容。

例如：

AI分析何種醫療資料或影像。
系統輸出分類、風險分數、病灶標記、量測數值或其他資訊。
輸出結果應如何呈現及解讀。
AI結果在實際工作流程中的使用方式。

目的在於讓使用者清楚知道：「AI看了什麼，以及AI會提供什麼結果。」

02 AI目的

說明導入AI系統所要解決的臨床或行政問題，以及AI在實際醫療流程中的角色。

例如：

輔助診斷。
疾病篩檢。
風險預測。
病人分流。
醫學影像輔助判讀。
臨床決策支援。
流程或行政作業輔助。

並應說明AI屬於輔助工具，或是否涉及其他形式之決策支援。

03 警告與範圍外使用

明確說明AI系統的限制、不適用情境及使用警告，避免超出原設計用途使用。

包括：

適用及不適用之病人族群。
適用年齡。
適用影像或資料類型。
支援及不支援的醫療設備或檢查方式。
已知可能造成誤判的情境。
AI結果是否可以單獨作為臨床診斷依據。

此項目的重點是讓使用者知道：「什麼情況下不應使用或不應完全信賴AI結果。」

04 開發詳情及輸入特徵

揭露AI系統開發過程及模型所使用的重要資訊。

依產品特性可包括：

模型或演算法類型。
訓練資料來源。
訓練資料規模。
資料納入及排除條件。
使用的輸入特徵。
影像類型或資料格式。
訓練、驗證及測試資料之配置方式。

目的在於協助使用者了解AI模型的開發背景及資料基礎。

05 公平性

說明AI開發及驗證過程如何評估並降低演算法偏差，避免對特定病人族群造成不公平的結果。

依產品特性可評估：

年齡。
性別。
不同疾病族群。
不同醫療機構。
不同設備或機型。
其他可能影響模型效能的重要族群特徵。

如發現特定族群效能存在明顯差異，應說明限制、風險及相關因應措施。

06 外部驗證

說明AI系統是否使用獨立於模型開發資料之外的資料進行驗證，以確認模型在不同環境或不同族群中的泛化能力。

內容可包括：

外部驗證機構。
驗證樣本數。
病人族群特性。
使用設備或機型。
驗證方法。
驗證結果。
是否進行多中心驗證。

除廠商提供之外部驗證資料外，本院亦得依實際導入需求進行院內在地驗證。

07 量化表現指標

以客觀數據呈現AI系統的效能，使臨床使用者能評估其可靠程度。

依AI產品類型可包括：

Accuracy（準確率）
Sensitivity（靈敏度）
Specificity（特異度）
Precision（精確率）
Recall（召回率）
AUC
其他適用之臨床或模型效能指標

實際採用之指標應依AI產品用途及臨床需求決定，不宜僅以單一數值判斷系統效能。

08 實施、持續維護與監控

說明AI系統正式導入後如何進行管理、維護及持續監測。

包括：

系統部署方式。
權限管理。
使用者教育訓練。
系統維護及故障處理。
使用狀況監測。
模型效能監控。
異常事件處理。
廠商或院內維護責任。

確保AI不是「上線後即不再管理」，而是持續受到監督。

09 更新與持續驗證計畫

AI模型、系統版本、資料分布及臨床環境可能隨時間改變，因此應建立更新及重新驗證機制。

應說明：

模型或系統更新方式。
版本管理機制。
定期驗證頻率。
效能下降之判定方式。
重大異動後是否重新驗證。
再訓練或模型調整機制。
不符合要求時之改善、暫停或終止使用方式。

藉由持續驗證，確認AI於實際醫療環境中仍維持可接受的安全性與有效性。

10 可解釋性報告

本院增列項目

為進一步提升醫療AI之透明性與臨床可信任度，本院將「可解釋性報告」納入AI治理要求。

依模型類型與技術可行性，可提供：

AI模型判斷依據之說明。
影像模型之關注區域或視覺化結果。
特徵重要性分析。
模型輸入特徵與輸出結果之關聯。
適用之SHAP、Grad-CAM、Saliency Map或其他可解釋性方法。
可解釋性方法本身之限制及注意事項。

可解釋性報告的目的並非要求使用者理解模型的所有數學運算，而是提供足夠資訊，協助臨床人員判斷AI結果是否合理，以及是否與實際臨床情況相符。

主題專區

主題專區