深度學(xué)習(xí)被譽(yù)為一個(gè)革命性的工具，在放射學(xué)支持更快、更準(zhǔn)確、更詳細(xì)的臨床建議。
幾乎每天研究人員都會(huì)發(fā)布新的研究結(jié)果，顯示人工智能有可能幫助人類工作，其中許多模型已經(jīng)達(dá)到或者超過(guò)了訓(xùn)練有素的醫(yī)生的能力。
但是，如果好奇的研究人員或者圖謀不軌的人把這些成果用來(lái)對(duì)付他們應(yīng)該幫助的臨床醫(yī)生，那該怎么辦？
利用深度學(xué)習(xí)偽造醫(yī)學(xué)圖像并不困難
以色列一個(gè)研究小組的一項(xiàng)新研究表明，利用深度學(xué)習(xí)來(lái)偽造癌癥腫瘤的醫(yī)學(xué)圖像，并在大多數(shù)情況下能夠很輕松的騙過(guò)即使是最好的放射科醫(yī)生。
這個(gè)團(tuán)隊(duì)解釋了如何成功地滲透到一個(gè)典型的醫(yī)療系統(tǒng)的PACS（影像歸檔和通信系統(tǒng)）中，并使用一種叫做生成對(duì)抗性網(wǎng)絡(luò)（GAN）的機(jī)器學(xué)習(xí)的惡意軟件來(lái)改變MRI或CT掃描圖像，從而讓正常人的圖像中出現(xiàn)腫瘤或者讓癌癥病人的圖像中移除真正的癌癥。
這些在政治和社會(huì)領(lǐng)域日益受到關(guān)注的“Deep fake”可能會(huì)對(duì)患者的治療結(jié)果產(chǎn)生重大影響。
研究小組解釋說(shuō)：“由于3D醫(yī)學(xué)掃描成像是醫(yī)生判斷患者病情的強(qiáng)有力證據(jù)，因此能夠?qū)呙柽M(jìn)行攻擊的黑客將有能力改變病人的診斷結(jié)果。”
例如，黑客可以增加或消除動(dòng)脈瘤、心臟病、血栓、關(guān)節(jié)炎、軟骨問(wèn)題、腦、心臟等其他癌癥證據(jù)。
進(jìn)行這種攻擊有很多動(dòng)機(jī)，研究人員表示，黑客可能希望通過(guò)嚴(yán)肅的健康診斷來(lái)影響選舉結(jié)果或推翻政治人物，甚至他們可能會(huì)更大規(guī)模地改變醫(yī)療圖像，并持有原始數(shù)據(jù)以索取贖金。
個(gè)人可以利用這些策略進(jìn)行保險(xiǎn)欺詐或隱瞞謀殺，研究人員或藥物研發(fā)人員可以偽造他們的數(shù)據(jù)來(lái)獲得想要的結(jié)果。
研究小組指出，數(shù)百個(gè)常用的PACS系統(tǒng)都有不安全的網(wǎng)絡(luò)連接，可以提供一個(gè)簡(jiǎn)單的攻擊載體，醫(yī)療保健黑客的創(chuàng)造力似乎是無(wú)止盡的。
惡意偽造數(shù)據(jù)后果重大
研究人員使用一臺(tái)低于50美元的普通電腦Raspberry Pi對(duì)一家真實(shí)醫(yī)院的系統(tǒng)進(jìn)行了模擬攻擊。
“Pi 配置了一個(gè)usb到以太網(wǎng)適配器，并配置為無(wú)源網(wǎng)橋(沒(méi)有網(wǎng)絡(luò)標(biāo)識(shí)符) ，”研究小組說(shuō)。 “Pi 還被配置為一個(gè)用于后門(mén)訪問(wèn)的隱藏 Wi-Fi 接入點(diǎn)?！?/div>
“我們還打印了CT掃描儀制造商的3D 標(biāo)志，并把它粘在圓周率儀上，使它不那么引人注目?！?/div>
雖然參與的醫(yī)院完全了解該小組的活動(dòng)并同意進(jìn)行試驗(yàn)，但是醫(yī)院還是被這種低成本的巨大破幻力感到吃驚。醫(yī)療保健組織對(duì)黑客實(shí)際安裝硬件并進(jìn)入網(wǎng)絡(luò)的方便程度感到擔(dān)憂。
同樣令人擔(dān)憂的是深度學(xué)習(xí)模型所產(chǎn)生的的圖像的真實(shí)性。即使放射科醫(yī)生知道圖像可能已經(jīng)被改變，他們也很難辨認(rèn)出圖像哪里被改變了。
當(dāng)三位經(jīng)驗(yàn)豐富的臨床醫(yī)生沒(méi)有被告知他們看到的是“偽造”的肺癌腫瘤圖像時(shí)，他們99%認(rèn)為這是癌癥。
“當(dāng)被問(wèn)及這個(gè)問(wèn)題時(shí)，除了放射科醫(yī)生注意到一個(gè)移除區(qū)域有一些異常外，其他兩位醫(yī)生沒(méi)有發(fā)生任何異常。”研究小組說(shuō)道。
放射科醫(yī)生也確信這種“偽造”的圖像是非常嚴(yán)重的。
“至于偽造的癌癥，放射科醫(yī)生的共識(shí)是，三分之一醫(yī)生表示需要立即進(jìn)行手術(shù)，所有醫(yī)生表示都需要后續(xù)治療?！?/div>
對(duì)于消除了真實(shí)腫瘤的圖像，94%的放射科醫(yī)生沒(méi)有發(fā)現(xiàn)任何問(wèn)題。即使放射科醫(yī)生被警告說(shuō)有些圖像可能被改變，但是他們?nèi)匀粫?huì)犯錯(cuò)誤。臨床醫(yī)生沒(méi)有注意到他們看到的腫瘤有61%是假的，87%的醫(yī)生沒(méi)有發(fā)現(xiàn)真實(shí)的腫瘤已經(jīng)被消除。
此外，參與的放射科醫(yī)生對(duì)于他們的決定并不是很有信心。當(dāng)被問(wèn)及他們是否確診了真假癌癥時(shí)，所有的臨床醫(yī)生都表現(xiàn)出了嚴(yán)重的懷疑。
這種方法甚至100%愚弄了一個(gè)基于人工智能的臨床決策支持工具。這讓那些人工智能的支持者感到震驚，但是他們相信人工智能可以更有效地發(fā)現(xiàn)人為錯(cuò)誤，并提高決策的準(zhǔn)確性。
保護(hù)醫(yī)療數(shù)據(jù)刻不容緩
隨著人工智能變得越來(lái)越復(fù)雜、醫(yī)療系統(tǒng)中勒索軟件攻擊和數(shù)據(jù)泄露事件的增加，這些卑鄙的、創(chuàng)新性的威脅可能會(huì)變得越來(lái)越普遍。
公司和組織不得不小心翼翼地保護(hù)他們的基礎(chǔ)設(shè)施，并付出極大的代價(jià)來(lái)幫助人們?nèi)绾卧谝粋€(gè)深度學(xué)習(xí)可以用來(lái)篡改幾乎任何東西的世界中辨別真相。
“這篇論文就是想告訴人們一個(gè)事實(shí)，并警醒他們：如果人類專家和先進(jìn)的人工智能完全相信他們的觀察結(jié)果，他們就有可能被愚弄?！毖芯啃〗M繼續(xù)說(shuō)道，“我們希望這篇論文和補(bǔ)充的數(shù)據(jù)能夠幫助產(chǎn)業(yè)界和學(xué)術(shù)界應(yīng)對(duì)這一新出現(xiàn)的威脅?！?/div>
本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)
點(diǎn)擊舉報(bào)。
綁定賬號(hào)成功
后續(xù)可登錄賬號(hào)暢享VIP特權(quán)！
如果VIP功能使用有故障，
可點(diǎn)擊這里聯(lián)系客服！
微信登錄中...
請(qǐng)勿關(guān)閉此頁(yè)面
先別劃走！
送你5元優(yōu)惠券，購(gòu)買(mǎi)VIP限時(shí)立減！
優(yōu)惠券還有10:00過(guò)期
馬上使用
×
