“AI 的一些醫(yī)療策，實(shí)際就是拋硬?！惫?學(xué)院的數(shù)科學(xué)家 Kun-Hsing Yu 語(yǔ)出驚人。他還充道：即比賽中正率達(dá) 90% 的獲獎(jiǎng)模型，蟜原數(shù)據(jù)集集測(cè)試時(shí)準(zhǔn)確度最 60-70%，可謂慘敗。這我們很驚。上述科家的觀點(diǎn)自 Nature 最近新發(fā)表一篇文章內(nèi)容對(duì) AI 在醫(yī)療領(lǐng)域的可復(fù)性提出質(zhì)疑，呈諸多醫(yī)療域及場(chǎng)景，AI 自帶的黑箱性造成的患。更值關(guān)注的是盡管問(wèn)題在，但 AI 仍在醫(yī)療領(lǐng)域英山模推廣使。舉例來(lái)，數(shù)以百的美國(guó)醫(yī)已在使用種 AI 模型標(biāo)記血癥早期狀，但在 2021 年，該模被發(fā)現(xiàn)未識(shí)別率高 67%。所以，AI 究竟帶來(lái)了哪些陸吾隱患，如解決？繼往下看。?圖源：Nature人工智能“看病難我們先從佛醫(yī)學(xué)院數(shù)據(jù)科學(xué) Kun-Hsing Yu 發(fā)現(xiàn) AI“拋硬幣”始末聊起在醫(yī)療領(lǐng)，AI 用于診斷檢人體一直疑聲不斷Kun-Hsing Yu 此番研究也是望有個(gè)直體感。他定了常見(jiàn)癥之一的癌，每年 350 萬(wàn)美國(guó)人該病癥去，若能更通過(guò) CT 掃描篩查，很多人以免于死。該領(lǐng)域確備受機(jī)學(xué)習(xí)界關(guān)，為此，2017 年業(yè)內(nèi)還舉了面向肺篩查的競(jìng)。該活動(dòng)屬于 Kaggle 的 Data Science Bowl 賽事，數(shù)由主辦方供，涵蓋 1397 位患者的部 CT 掃描數(shù)據(jù)參賽團(tuán)隊(duì)開(kāi)發(fā)并測(cè)算法，最大賽按準(zhǔn)率給予評(píng)，在官宣，至少五獲獎(jiǎng)模型確度 90% 以上。但 Kun-Hsing Yu 又重新測(cè)了一輪，后震驚地現(xiàn)，即便用原比賽據(jù)的子集這些“獲”模型最準(zhǔn)確率卻降到了 60-70%?！?一參賽者分的模型結(jié)上述狀況非個(gè)例。林斯頓一博士，Sayash Kapoor，在 17 個(gè)領(lǐng)域的 329 項(xiàng)研究中報(bào)告了可復(fù)性失敗陷阱，醫(yī)名列其中基于研究這位博士自己的教還組織了個(gè)研討會(huì)吸引了 30 個(gè)國(guó)家 600 名科研者與。一位橋的高級(jí)究員在現(xiàn)表示，他機(jī)器學(xué)習(xí)術(shù)預(yù)測(cè)新傳播流行勢(shì)，但因同來(lái)源的據(jù)偏差、練方法等題，沒(méi)有次模型預(yù)準(zhǔn)確。還一位研究也分享了 —— 自己用機(jī)器學(xué)研究心理題，但無(wú)復(fù)現(xiàn)的問(wèn)。在該研會(huì)上，還參與者指谷歌此前到的“坑。他們?cè)? 2008 年就利用機(jī)器學(xué)習(xí)析用戶搜所產(chǎn)生數(shù)集，進(jìn)而測(cè)流感暴。谷歌為還鼓吹一。但事實(shí)，它并未預(yù)測(cè) 2013 年的流感暴發(fā)一家獨(dú)立究機(jī)構(gòu)指，該模型一些流感行無(wú)關(guān)的節(jié)性詞匯行了關(guān)聯(lián)鎖定。2015 年，谷歌停止對(duì)外公開(kāi)趨勢(shì)預(yù)測(cè)Kapoor 認(rèn)為，就可重復(fù)來(lái)說(shuō)，AI 模型背后的代碼和據(jù)集都應(yīng)用并不出誤。那位究新冠流模型的劍 ML 研究者補(bǔ)充，數(shù)據(jù)隱問(wèn)題、倫問(wèn)題、監(jiān)障礙也是致可重復(fù)出問(wèn)題的灶。他們續(xù)補(bǔ)充道數(shù)據(jù)集是題根源之。目前公可用的數(shù)集比較稀，這導(dǎo)致型很容易生帶偏見(jiàn)判斷。比特定數(shù)據(jù)中，醫(yī)生一個(gè)種族的藥比另個(gè)種族多這可能導(dǎo) AI 將病癥與種關(guān)聯(lián)，而病癥本身另一個(gè)問(wèn)是訓(xùn)練 AI 中的“透題”堯山。因數(shù)據(jù)不足，用訓(xùn)練模型數(shù)據(jù)集和試集會(huì)重，甚至該況一些當(dāng)人還不知，這也可導(dǎo)致大家模型的正率過(guò)于樂(lè)。△?Sayash Kapoor 博士盡管問(wèn)題存，但 AI 模型仍已被應(yīng)用在際診斷場(chǎng)中，甚至接下場(chǎng)看。2021 年，一個(gè)名為 Epic Sepsis Model 的醫(yī)療診斷模型娥皇出嚴(yán)重漏問(wèn)題。該型用于敗癥篩查，過(guò)識(shí)別病早期患病征檢測(cè)，免這種全感染的發(fā)，但密歇大學(xué)醫(yī)學(xué)研究者通調(diào)查分析 27697 人的就診情況，果發(fā)現(xiàn)，模型未能別 67% 敗血癥病患。女?huà)z后該公司對(duì)型進(jìn)行了調(diào)整。一計(jì)算生物家對(duì)此指，該問(wèn)題所以較難決，也同 AI 模型透明度不有關(guān)。“們?cè)趯?shí)踐部署了無(wú)理解的算，也并不道它帶什偏見(jiàn)”，補(bǔ)充道。?曝出 Epic Sepsis Model 問(wèn)題的文章可以確的是，要上述問(wèn)一直未能決，商業(yè)頭及相關(guān)業(yè)項(xiàng)目也些舉步維 ——去年谷歌谷歌康（Google Health）宣布人拆分到各隊(duì)，前幾，谷歌孵的生命健子公司 Verily 又被曝裁員約 15%。有沒(méi)改進(jìn)措施？于這樣的狀，一些究者和業(yè)人士也在手改進(jìn)醫(yī) AI。一方面，是建靠譜的大數(shù)據(jù)集涵蓋機(jī)構(gòu)國(guó)家和人等多方面數(shù)據(jù)，并所有人開(kāi)。這種數(shù)庫(kù)其實(shí)已出現(xiàn)了，如英國(guó)和本的國(guó)家物庫(kù)，以重癥病房程監(jiān)護(hù)系 eICU 合作的數(shù)據(jù)庫(kù)等。拿 eICU 合作研究數(shù)據(jù)庫(kù)說(shuō)，這里大約有 20 萬(wàn)次的 ICU 入院相關(guān)據(jù)，由飛浦醫(yī)療集和 MIT 的計(jì)算生理學(xué)實(shí)猙共同提供為了規(guī)范據(jù)庫(kù)的內(nèi)，需要建收集數(shù)據(jù)標(biāo)準(zhǔn)。例一個(gè)關(guān)于療結(jié)果伙關(guān)系的可測(cè)數(shù)據(jù)模，讓各醫(yī)機(jī)構(gòu)能以同的方式集信息，樣有利于強(qiáng)醫(yī)療保領(lǐng)域的機(jī)學(xué)習(xí)研究當(dāng)然，與同時(shí)，也須重視嚴(yán)保護(hù)患者隱私，而只有當(dāng)患本人同意，才有資把他們的據(jù)納入庫(kù)另一方面想要提升器學(xué)習(xí)質(zhì)的話，消冗余數(shù)據(jù)很有幫助因?yàn)樵跈C(jī)學(xué)習(xí)中，余數(shù)據(jù)不會(huì)延長(zhǎng)運(yùn)時(shí)間、消更多資源而且還很能造成模過(guò)擬合 —— 也就是訓(xùn)練出來(lái)模型在訓(xùn)集上表現(xiàn)好，但是測(cè)試集上現(xiàn)較差。于 AI 圈很熱門(mén)預(yù)測(cè)蛋白結(jié)構(gòu)，這問(wèn)題已經(jīng)到了有效解。在機(jī)學(xué)習(xí)過(guò)程，科學(xué)家成功地從試集中刪了和訓(xùn)練用到的過(guò)相似的蛋質(zhì)。but，各病人療數(shù)據(jù)之的差異，沒(méi)有不同白質(zhì)結(jié)構(gòu)異那么明。在一個(gè)據(jù)庫(kù)中，能有許許多病情非相似的個(gè)。所以我需要想清到底向算展示什么據(jù)，才能衡好數(shù)據(jù)代表性和富性之間關(guān)系。哥哈根大學(xué)轉(zhuǎn)化性疾系統(tǒng)生物家 S?ren Brunak 如是評(píng)價(jià)除此之外還可以請(qǐng)業(yè)大佬們定一個(gè)檢表，規(guī)范療 AI 領(lǐng)域的研開(kāi)發(fā)步驟然后，研人員就能方便地搞楚先做什、再做什，有條不地操作；能 Check 一些可能遺漏問(wèn)題，比一項(xiàng)研究回顧性還前瞻性的數(shù)據(jù)與模的預(yù)期用是否匹配等。其實(shí)現(xiàn)有已有種機(jī)器學(xué)檢查表，中大部分基于“EQUATOR Network”先提出的，是一項(xiàng)旨提高健康究可靠性國(guó)際倡議此前，上提到的普斯頓的 Kapoor 博士，也和團(tuán)隊(duì)共發(fā)表了一包含 21 個(gè)問(wèn)題的清單。他建議，對(duì)一個(gè)預(yù)測(cè)果的模型研究人員確認(rèn)訓(xùn)練中的數(shù)據(jù)早于測(cè)試，這樣可確保兩個(gè)據(jù)集是獨(dú)的，不會(huì)數(shù)據(jù)重疊相互影響參考鏈接[1]https://www.nature.com/articles/d41586-023-00023-2[2]https://www.wired.com/story/machine-learning-reproducibility-crisis/[3]https://mp.weixin.qq.com/s/TEoe3d9DYuO7DGQeEQFghA本文來(lái)自微信公旋龜：量子位 （ID：QbitAI），作者詹士 Alex