Nat Mac Int | 可解釋的乳腺癌AI幫助培訓影像科醫(yī)生

原創(chuàng)?圖靈基因?圖靈基因?2022-01-25 09:20

收錄于話題#前沿生物大數(shù)據(jù)分析

杜克大學的計算機工程師和放射科醫(yī)生開發(fā)了一個人工智能（AI）平臺，可以分析乳房X光掃描中潛在的癌性病變，以幫助確定患者是否應該接受侵入性活檢。然而，與其他AI平臺不同的是，該算法是可解釋的，這意味著它可以準確地向醫(yī)生展示它是如何得出結論的。

研究人員訓練了他們可解釋的乳腺病變AI算法（IAIA-BL）來定位和評估病變，就像訓練真正的放射科醫(yī)生一樣，而不是讓它自由地開發(fā)自己的程序。他們認為，與“黑匣子”平臺相比，這為新平臺提供了一些優(yōu)勢，并且可以提供一個有用的培訓平臺來教學生如何閱讀乳房X光檢查圖像。它還可以幫助世界上人口稀少地區(qū)不經(jīng)常閱讀乳房X光掃描的醫(yī)生做出更好的醫(yī)療保健決策。

杜克大學放射學教授Joseph Lo博士說：“如果計算機要幫助做出重要的醫(yī)療決策，醫(yī)生需要相信人工智能是基于有意義的東西得出結論的。我們需要的算法不僅能起作用，還能自我解釋，并舉例說明他們的結論是基于什么。這樣，無論醫(yī)生是否同意結果，人工智能都能幫助做出更好的決定?！?/p>

Lo及其同事在《Nature Machine Intelligence》雜志上發(fā)表了一篇題為“A case-based interpretable deep learning model for classification of mass lesions in digital mammography”的論文，報告了AI平臺。

讀取醫(yī)學圖像的工程AI是一個巨大的產(chǎn)業(yè)。已經(jīng)存在數(shù)千種獨立算法，F(xiàn)DA已經(jīng)批準100多種用于臨床。正如作者所說，“人工智能正在徹底改變放射學?！比欢?，他們警告說，無論是讀取MRI、CT還是乳房X光掃描，很少有算法使用包含1000多張圖像或包含人口統(tǒng)計信息的驗證數(shù)據(jù)集。“……公開可用的乳房X光檢查數(shù)據(jù)集很少，因此許多模型都是針對相對較少的病例進行訓練的，而社區(qū)缺乏外部驗證這些模型的數(shù)據(jù)集。”信息的匱乏，加上最近幾個著名例子的失敗，導致許多醫(yī)生質疑人工智能在關鍵醫(yī)療決策中的應用。

在一個例子中，即使研究人員使用不同設備從不同設施拍攝的圖像對其進行訓練，人工智能模型還是失敗了。AI不再只關注感興趣的病變，而是學會了使用設備本身引入的細微差異來識別來自癌癥病房的圖像，并賦予這些病變更高的癌變概率。正如人們所預料的那樣，人工智能并沒有很好地轉移到使用不同設備的其他醫(yī)院。但是，因為沒有人知道算法在做決策時是在看什么，所以沒有人知道它在實際應用中注定會失敗。

正如作者所指出的，“盡管計算機輔助放射學有望用于乳房X光攝影”，但目前的方法與“嚴重問題”有關，包括混淆。研究小組補充說，當預測模型使用不正確的信息或推理做出決策時，即使決策是正確的，也會發(fā)生混淆?！霸谝郧暗难芯恐?，研究人員創(chuàng)建的模型似乎在測試集上表現(xiàn)良好，但在進一步的檢查中，他們的決定是基于混淆信息（例如設備類型）而不是醫(yī)學信息?！?/p>

機器學習模型的可解釋性對于作者所說的“高風險決策”很重要，例如是否根據(jù)乳房X光掃描進行活檢?！叭榉縓光檢查提出了其他計算機視覺任務中不存在的重要挑戰(zhàn)：數(shù)據(jù)集很小，存在混淆信息，甚至放射科醫(yī)生也很難僅根據(jù)乳房X光檢查在觀察等待和活檢之間做出決定?！彼麄儗懙馈?/p>

“我們的想法是建立一個系統(tǒng)，說明潛在癌病變的這一特定部分與我以前見過的另一部分非常相似?！倍趴舜髮W計算機科學博士研究生、新報告研究的第一作者Alina Barnett說，“如果沒有這些明確的細節(jié)，如果無法理解為什么它有時會出錯，醫(yī)生就會失去時間和對該系統(tǒng)的信心?！?/p>

杜克大學電氣與計算機工程和計算機科學教授Cynthia Rudin博士將新AI平臺的流程與房地產(chǎn)評估師的流程進行了比較。在該領域占主導地位的黑匣子模型中，評估師會提供一個房屋的價格，而不做任何解釋。在一個包含所謂“顯著性地圖”的模型中，評估師可能會指出，房屋的屋頂和后院是其定價決策的關鍵因素，但不會提供除此之外的任何細節(jié)。

“我們的方法會說你有一個獨特的銅屋頂和一個后院游泳池，與你附近的其他房屋相似，這使得它們的價格上漲了這么多。”研究人員說，“這就是醫(yī)學成像AI的透明度可能看起來的樣子，也是醫(yī)學領域的人員應對任何放射挑戰(zhàn)的要求?！?/p>

正如作者進一步評論的那樣，“為了確保臨床接受，人工智能工具需要向人類放射科醫(yī)生合作者提供其推理過程，以便在這些困難和高風險的決策過程中成為有用的助手。”理想情況下，任何模型的推理過程都將類似于實際放射科醫(yī)生的推理過程，放射科醫(yī)生將根據(jù)乳腺組織內病變發(fā)展的生理學，觀察圖像中已知重要的特定方面。

研究人員利用從杜克大學衛(wèi)生系統(tǒng)484名患者身上采集的1136張圖像對新AI進行了訓練。他們首先教人工智能找到有問題的可疑病變，忽略所有健康組織和其他無關數(shù)據(jù)。然后，他們聘請放射科醫(yī)生仔細標記圖像，讓人工智能關注病變邊緣，即潛在腫瘤與健康周圍組織的交界處，并將這些邊緣與已知癌性和良性結果的圖像邊緣進行比較。放射線或模糊邊緣，醫(yī)學上稱為腫塊邊緣，是乳腺癌的最佳預測指標，也是放射科醫(yī)生首先要尋找的。這是因為癌細胞復制和擴張的速度如此之快，以至于不是所有正在發(fā)展的腫瘤邊緣都能在乳房X光片上看到。

研究人員在他們的論文中指出，“除了預測病變是惡性還是良性之外，我們的工作還旨在遵循放射科醫(yī)生的推理過程，檢測每幅圖像的臨床相關語義特征，如腫塊邊緣的特征。該框架包括一種使用基于案例推理的新型可解釋神經(jīng)網(wǎng)絡算法用于乳房X光檢查?！?/p>

“這是一種訓練AI如何查看醫(yī)學圖像的獨特方法。”研究人員說，“其他人工智能并沒有試圖模仿放射科醫(yī)生；他們提出了自己的方法來回答這個問題，這些方法通常沒有幫助，或者在某些情況下，依賴于有缺陷的推理過程?！?/p>

訓練完成后，研究人員對人工智能進行了測試。雖然它的表現(xiàn)并沒有超過人類放射科醫(yī)生，但它的表現(xiàn)與其他黑匣子計算機模型一樣出色。重要的是，當新的人工智能出錯時，使用它的人將能夠認識到它是錯誤的，以及它出錯的原因。“我們的模型是決策輔助工具——而不是決策者——旨在實現(xiàn)更好的整體人機協(xié)作?！弊髡咧赋?，“因此，與旨在取代醫(yī)生的現(xiàn)有黑匣子系統(tǒng)不同，我們的目標是創(chuàng)建一個IAIA-BL，其明確的推理可以被醫(yī)生理解和驗證……我們新穎的深度學習架構使IAIA-BL能夠提供解釋，顯示每個病例的基本決策過程?！?/p>

展望未來，該團隊正在努力為AI添加其他物理特征，以便在做出決策時考慮，例如病變的形狀，這是放射科醫(yī)生學習觀察的第二個特征。Rudin和Lo最近還獲得了Duke MEDx高風險高影響獎，以繼續(xù)開發(fā)該算法，并進行放射科醫(yī)生讀者研究，看看它是否有助于臨床表現(xiàn)和/或信心。

“當研究人員第一次開始將AI應用于醫(yī)學圖像時，人們非常興奮，也許計算機將能夠看到人們看不到的東西或發(fā)現(xiàn)人們看不到的東西?！倍趴朔派鋵W研究員、共同作者Fides Schwartz博士說，“在極少數(shù)情況下可能會出現(xiàn)這種情況，但在大多數(shù)情況下可能并非如此。因此，我們最好確保作為人類的我們了解計算機用來做出決策的信息?！?/p>

正如該團隊在他們的報告中總結的那樣，“該模型的未來工作可能包括讀者研究，在該研究中，我們衡量準確性的任何改進，放射科醫(yī)生報告他們對我們系統(tǒng)的信任。鑒于其他AI幫助對經(jīng)驗不足的讀者的好處越來越大，將這個系統(tǒng)的好處與可能只是偶爾被要求做這項工作的次級專家和社區(qū)放射科醫(yī)生進行比較可能是有價值的?！?/p>