負責任 AI 三大落地實施策略

隨著人工智慧逐步應用於疾病診斷、醫學影像判讀、臨床決策支援及醫療流程，AI系統除了應具備良好的效能，也必須兼顧資訊安全、隱私保護、透明性、可信任性及持續監測。

臺南市立安南醫院依循衛生福利部負責任AI落地管理架構，透過「資訊安全與隱私保護」、「透明性與可解釋性」及「AI生命週期監測」三大策略，建立醫療AI從導入、驗證、上線至後續維運與退場的治理機制。衛生福利部相關指引亦將這三項列為負責任AI落地管理的核心實踐策略。

01 資訊安全與隱私保護

醫療AI涉及病人資料、醫療影像及院內資訊系統，導入及使用過程應建立適當的資訊安全與個人資料保護措施。

本院於AI導入前評估資料使用方式、系統架構、網路環境、存取權限及資訊安全風險，並依相關法規與院內資安規範進行管理，以降低資料外洩、未授權存取及系統安全風險。

主要目的為：

• 保護病人個人資料及醫療資訊。
• 建立適當的身分驗證與存取權限管理。
• 評估AI系統與院內資訊環境之資安風險。
• 確保系統介接、資料傳輸及儲存安全。
• 建立異常事件監控、通報及應變機制。

02 透明性與可解釋性

AI系統不應只是提供一個結果，臨床使用者亦應能瞭解AI的用途、適用範圍、效能、限制及相關判斷依據。

本院依循衛生福利部醫療AI透明性架構，要求導入之AI系統揭露相關資訊，並進一步納入可解釋性分析，使臨床人員能在充分理解AI能力與限制的情況下使用其結果。

主要目的為：

• 清楚說明AI的用途與輸出內容。
• 揭露適用與不適用之使用情境。
• 提供模型開發及輸入特徵等必要資訊。
• 揭露公平性、外部驗證及效能指標。
• 說明系統維護、更新及重新驗證方式。
• 透過適當的可解釋性方法，協助使用者理解AI輸出或模型判斷依據。

03 AI生命週期監測

AI模型的效能可能隨病人族群、設備、臨床流程、資料分布或系統版本改變，因此AI完成導入並不代表治理工作結束。

本院建立AI生命週期管理機制，針對AI系統從導入前評估、試用、上線、維運、異動至終止等階段持續進行管理與成效追蹤，必要時啟動改善、重新驗證、暫停使用或終止程序。

主要目的為：

• 導入前進行需求、風險及適用性評估。
• 透過院內實際案例進行在地驗證。
• 上線後持續追蹤系統效能及使用成效。
• 定期重新評估模型效能與臨床適用性。
• 管理模型、系統及使用情境之重大異動。
• 發現效能下降或安全風險時，啟動改善或停止使用機制。

透過三大落地實施策略，本院期望確保醫療AI在實際臨床環境中兼顧「安全、可信、透明及持續有效」，使AI成為醫療專業人員的輔助工具，而非取代醫療專業判斷。