“AI 的一些醫(yī)療決策，實(shí)際上就是硬幣?！惫疳t(yī)學(xué)的數(shù)據(jù)科學(xué)家 Kun-Hsing Yu 語(yǔ)出驚人。他還補(bǔ)充道：即便比賽正確率達(dá) 90% 的獲獎(jiǎng)模型，再用數(shù)據(jù)集子集測(cè)試時(shí)準(zhǔn)確度最多 60-70%，可謂慘敗。這讓我們很驚訝吉量述科學(xué)家的觀點(diǎn)來 Nature 最近新發(fā)表的一篇文。內(nèi)容對(duì) AI 在醫(yī)療領(lǐng)域的可重復(fù)提出了質(zhì)疑，呈現(xiàn)多醫(yī)療領(lǐng)域及場(chǎng)景，AI 自帶的黑箱屬性造成的隱患。值得關(guān)注的是，盡問題存在，但 AI 仍在醫(yī)療領(lǐng)域大規(guī)模推廣嬰勺用。舉例看，數(shù)以百計(jì)的美醫(yī)院已在使用一種 AI 模型標(biāo)記敗血癥早期癥狀，但在 2021 年，該模型被發(fā)現(xiàn)未能識(shí)別高達(dá) 67%。所以，AI 究竟帶來了哪些醫(yī)療隱患，舉父解決？繼續(xù)往下看△?圖源：Nature人工智能的“看病難”我們先從哈醫(yī)學(xué)院的數(shù)據(jù)科學(xué) Kun-Hsing Yu 發(fā)現(xiàn) AI“拋硬幣”的始末聊起。在醫(yī)療領(lǐng)域AI 用于診斷檢測(cè)人體一直質(zhì)疑聲不，Kun-Hsing Yu 此番研究也是希望有個(gè)直奧山感。他選定了常見癥之一的肺癌，每有 350 萬(wàn)美國(guó)人因該病癥去世，能更早通過 CT 掃描篩查，很多人以免于死亡。該領(lǐng)的確備受機(jī)器學(xué)習(xí)關(guān)注，為此，2017 年業(yè)內(nèi)還舉辦了面向肺癌篩查的競(jìng)。該活動(dòng)歸屬于 Kaggle 的 Data Science Bowl 賽事，數(shù)據(jù)由主辦方供，涵蓋 1397 位患者的胸部 CT 掃描數(shù)據(jù)。參賽團(tuán)隊(duì)需開發(fā)彘山測(cè)試法，最終大賽按準(zhǔn)率給予評(píng)獎(jiǎng)，在官中，至少五個(gè)獲獎(jiǎng)型準(zhǔn)確度 90% 以上。但 Kun-Hsing Yu 又重新測(cè)試了一輪然后震驚地發(fā)現(xiàn)，便使用原比賽數(shù)據(jù)子集，這些“獲獎(jiǎng)模型最高準(zhǔn)確率卻降到了 60-70%?！?一位參賽者分享均國(guó)模型結(jié)構(gòu)上狀況并非個(gè)例。普斯頓一位博士，Sayash Kapoor，在 17 個(gè)領(lǐng)域的 329 項(xiàng)研究中報(bào)告了可重性失敗和陷阱，醫(yī)名列其中。基于研，這位博士及自己教授還組織了一個(gè)討會(huì)，吸引了 30 個(gè)國(guó)家 600 名科研者參與。一劍橋的高級(jí)研究員現(xiàn)場(chǎng)表示，他用機(jī)學(xué)習(xí)技術(shù)預(yù)測(cè)新冠播流行趨勢(shì)，但因同來源的數(shù)據(jù)偏差訓(xùn)練方法等問題，有一次模型預(yù)測(cè)準(zhǔn)。還有一位研究者分享了 —— 自己用機(jī)器學(xué)習(xí)研究心課題，但無(wú)法復(fù)現(xiàn)問題。在該研討會(huì)，還有參與者指出歌此前遇到的“坑。他們?cè)?2008 年就利用機(jī)器學(xué)習(xí)分析用戶搜索所生數(shù)據(jù)集，進(jìn)而預(yù)流感暴發(fā)。谷歌為還鼓吹一波。但事上，它并未能預(yù)測(cè) 2013 年的流感暴發(fā)。一家獨(dú)立研機(jī)構(gòu)指出，該模型一些流感流行無(wú)關(guān)季節(jié)性詞匯進(jìn)行了聯(lián)和鎖定。2015 年，谷歌停止了對(duì)外公丹朱該趨勢(shì)預(yù)測(cè)Kapoor 認(rèn)為，就可重復(fù)性來說AI 模型背后的代碼和數(shù)據(jù)集都應(yīng)可并不出錯(cuò)誤。那位究新冠流行模型的橋 ML 研究者補(bǔ)充道，數(shù)據(jù)隱私問、倫理問題、監(jiān)管礙也是導(dǎo)致可重復(fù)出問題的病灶。他繼續(xù)補(bǔ)充道，數(shù)據(jù)是問題根源之一。前公開可用的數(shù)據(jù)比較稀缺，這導(dǎo)致型很容易產(chǎn)生帶偏的判斷。比如特定據(jù)集中，醫(yī)生給一種族開的藥比另一種族多，這可能導(dǎo) AI 將病癥與種族關(guān)聯(lián)，而非?因?yàn)榘Y身。另一個(gè)問題是練 AI 中的“透題”現(xiàn)象。因數(shù)據(jù)不足，用于訓(xùn)練模的數(shù)據(jù)集和測(cè)試集重疊，甚至該情況些當(dāng)事人還不知道這也可能導(dǎo)致大家模型的正確率過于觀。△?Sayash Kapoor 博士盡管問題存在但 AI 模型仍已被應(yīng)用在實(shí)際診斷景中，甚至直接下看病。2021 年，一個(gè)名為 Epic Sepsis Model 的醫(yī)療診斷模型被曝出嚴(yán)漏檢問題。該模型于敗血癥篩查，通識(shí)別病人早期患病征檢測(cè)，避免這種身感染的發(fā)生，但歇根大學(xué)醫(yī)學(xué)院研者通過調(diào)查分析了 27697 人的就診情況，結(jié)果發(fā)現(xiàn)該模型未能識(shí)別 67% 敗血癥病患。此后，該公司萊山模進(jìn)行了大調(diào)整。一計(jì)算生物學(xué)家對(duì)此出，該問題之所以難解決，也同 AI 模型透明度不足有關(guān)?！皫絺?cè)趯?shí)踐部署了無(wú)法理解的法，也并不知道它什么偏見”，他補(bǔ)道?！?曝出 Epic Sepsis Model 問題的文章可以明確的，只要上述問題一未能解決，商業(yè)巨及相關(guān)創(chuàng)業(yè)項(xiàng)目也些舉步維艱 ——去年谷歌谷歌健康（Google Health）宣布人員拆分到各團(tuán)隊(duì)，前幾，谷歌孵化的生命康子公司 Verily 又被曝裁員約 15%。有沒改進(jìn)措施？對(duì)于這樣的狀，一些研究者和內(nèi)人士也在著手改醫(yī)療 AI。一方面，是構(gòu)建靠譜的超數(shù)據(jù)集。涵蓋機(jī)構(gòu)國(guó)家和人口等多方的數(shù)據(jù)，并向所有開放。這種數(shù)據(jù)庫(kù)實(shí)已經(jīng)出現(xiàn)了，比英國(guó)和日本的國(guó)家物庫(kù)，以及重癥病遠(yuǎn)程監(jiān)護(hù)系統(tǒng) eICU 合作的數(shù)據(jù)庫(kù)等。就拿 eICU 合作研究數(shù)據(jù)庫(kù)來說，這里面大約有 20 萬(wàn)次的 ICU 入院相關(guān)數(shù)據(jù)，由飛利浦醫(yī)壽麻集團(tuán) MIT 的計(jì)算生理學(xué)實(shí)驗(yàn)室共同提。為了規(guī)范數(shù)據(jù)庫(kù)內(nèi)容，需要建立收數(shù)據(jù)的標(biāo)準(zhǔn)。例如個(gè)關(guān)于醫(yī)療結(jié)果伙關(guān)系的可觀測(cè)數(shù)據(jù)型，讓各醫(yī)療機(jī)構(gòu)以相同的方式收集息，這樣有利于加醫(yī)療保健領(lǐng)域的機(jī)學(xué)習(xí)研究。當(dāng)然，此同時(shí)，也必須重嚴(yán)格保護(hù)患者的隱，而且只有當(dāng)患者人同意時(shí)，才有資把他們的數(shù)據(jù)納入。另一方面，想要升機(jī)器學(xué)習(xí)質(zhì)量的，消除冗余數(shù)據(jù)也有幫助。因?yàn)樵跈C(jī)學(xué)習(xí)中，冗余數(shù)據(jù)僅會(huì)延長(zhǎng)運(yùn)行時(shí)間消耗更多資源；而還很可能造成模型擬合 —— 也就是訓(xùn)練出來的模型在練集上表現(xiàn)很好，是在測(cè)試集上表現(xiàn)差。對(duì)于 AI 圈很熱門的預(yù)測(cè)蛋白結(jié)構(gòu)，這個(gè)問題已得到了有效緩解。機(jī)器學(xué)習(xí)過程中，學(xué)家們成功地從測(cè)集中刪除了和訓(xùn)練用到的過于相似的白質(zhì)。but，各病人醫(yī)療數(shù)據(jù)之間的異，并沒有不同蛋質(zhì)結(jié)構(gòu)差異那么明。在一個(gè)數(shù)據(jù)庫(kù)中可能有許許多多病非常相似的個(gè)體。以我們需要想清楚底向算法展示什么據(jù)，才能平衡好數(shù)的代表性和豐富性間的關(guān)系。哥本哈大學(xué)的轉(zhuǎn)化性疾病統(tǒng)生物學(xué)家 S?ren Brunak 如是評(píng)價(jià)。除此之外，還可以請(qǐng)行業(yè)佬們制定一個(gè)檢查，規(guī)范醫(yī)療 AI 領(lǐng)域的研究開發(fā)步。然后，研究人員能更方便地搞清楚做什么、再做什么有條不紊地操作；能 Check 一些可能遺漏的問題比如一項(xiàng)研究是回性還是前瞻性的，據(jù)與模型的預(yù)期用是否匹配等等。其，現(xiàn)有已有多種機(jī)學(xué)習(xí)檢查表，其中部分是基于“EQUATOR Network”先提出的，這是一項(xiàng)旨在提高康研究可靠性的國(guó)倡議。此前，上文到的普林斯頓的 Kapoor 博士，也和團(tuán)隊(duì)共同發(fā)表一份包含 21 個(gè)問題的清單。他們議，對(duì)于一個(gè)預(yù)測(cè)果的模型，研究人得確認(rèn)訓(xùn)練集中的據(jù)要早于測(cè)試集，樣可以確保兩個(gè)數(shù)集是獨(dú)立的，不會(huì)數(shù)據(jù)重疊和相互影。參考鏈接：[1]https://www.nature.com/articles/d41586-023-00023-2[2]https://www.wired.com/story/machine-learning-reproducibility-crisis/[3]https://mp.weixin.qq.com/s/TEoe3d9DYuO7DGQeEQFghA本文來自微信公眾號(hào)：量子位 （ID：QbitAI），作者：詹士 Alex