機器學習（ML）是人工智能的核心領域，專門研究計算機模擬人類學習行為的方法。深度學習（DL）于2006年正式提出，作為新一代人工智能技術的代表引領了本次人工智能熱潮，幾乎成為人工智能的代稱。深度學習實為人工神經網絡算法，特征提取無須人為干預自動完成，是基于海量數據和高算力的黑盒算法。
人工智能醫療器械，是使用人工智能技術的醫療器械，包括人工智能獨立軟件和人工智能軟件組件。人工智能技術在醫療器械的應用主要包括前處理（如成像速度提升）、流程優化（如一鍵操作）、常規后處理（如圖像分割）、輔助決策（如輔助篩查、輔助識別、輔助診斷、輔助治療）等方面，能夠提高診治的準確性和效率，降低醫生誤診漏診率和工作強度，具有良好的臨床價值和應用前景。
在我國，使用傳統人工智能技術的醫療器械已有多款產品注冊上市，如乳腺癌、肺結節、結腸息肉等輔助識別軟件和心電分析軟件。而使用深度學習等新一代人工智能技術的醫療器械典型產品有眼底照片糖網輔助篩查軟件、CT圖像肺結節輔助識別軟件、病理圖像輔助識別軟件，目前仍主要處于研發、檢測、臨床試驗階段。
深度學習雖然在商業領域已取得成功，但在醫學領域應用還存在諸多問題。由于醫學是經驗科學，本身存在著不確定性和開放性，決策路徑復雜，簡單將商業成功經驗移植到醫學場景并不能達到預期效果。
首先，深度學習是個“黑盒”，可解釋性差。醫生知其然但不知其所以然，影響后續醫療活動的開展，特別是長期使用產生依賴性之后較難發現產品出錯。
其次，深度學習以數據為基礎，但醫療數據不能完全代表臨床決策要素，同時其反映的是數據之間的相關性而非因果性，需要權衡對于醫生臨床決策的影響及其受益與風險。
第三，深度學習需要大量高質量數據進行訓練，滿足相應條件的醫療數據相對較少。一是醫療數據較為復雜，具有多維度特征，增加數據標注和算法訓練確有難度；二是醫療數據相對封閉，數據產權關系不清，數據獲取較為困難；三是醫療數據需要人工標注形成標簽以供訓練，人為因素影響嚴重。
最后，訓練數據缺乏多樣性，數據量不足，缺乏魯棒性設計，導致算法泛化能力弱，重復性和再現性差，臨床難以落地和推廣。
因此，只有在數據質量控制、算法泛化能力以及臨床使用風險等方面扎實做好工作，才能保證深度學習醫療器械的安全性和有效性。此外，需要數據驅動與知識驅動相結合，以提升深度學習的可解釋性。（作者單位：醫療器械技術審評中心審評一部）