根據(jù)IBM內(nèi)部資料，多名使用IBM沃森腫瘤治療系統(tǒng)的醫(yī)學(xué)專家發(fā)現(xiàn)，IBM沃森多次為患者提供不準(zhǔn)確且不安全的建議。目前為止，尚未有病人因沃森的失誤受到傷害。

內(nèi)部資料包括IBM沃森前健康副主管安德魯諾登(Andrew Norden)于2017年6月和7月兩場(chǎng)報(bào)告的文件。文件中有這樣一個(gè)例子，一名65歲患者被診斷患有肺癌且伴有嚴(yán)重出血，沃森建議該男子進(jìn)行化療，且開了名為“貝伐珠單抗”的藥物。但這種藥會(huì)導(dǎo)致嚴(yán)重或致命大出血，實(shí)則不應(yīng)用于伴有嚴(yán)重出血的患者。

紀(jì)念斯隆凱特琳癌癥中心的發(fā)言人表示：這樣的建議目前還是假設(shè)階段，只是系統(tǒng)測(cè)試的一部分。但許多人反對(duì)稱，這種不準(zhǔn)確的建議實(shí)則說(shuō)明技術(shù)與內(nèi)容上存在嚴(yán)重的問題。

據(jù)Stat News稱，佛羅里達(dá)州某醫(yī)院的一名醫(yī)生直言此產(chǎn)品差強(qiáng)人意。他表示：“當(dāng)時(shí)聽信推銷人員購(gòu)買了產(chǎn)品，但大多數(shù)情況下沒辦法使用?！贝酸t(yī)院的醫(yī)生都表示：在治療意見不統(tǒng)一時(shí)，除了沃森提供建議外，他們還會(huì)聽取超級(jí)計(jì)算機(jī)的建議。

如今，人們不僅對(duì)沃森的建議持懷疑態(tài)度，同時(shí)也好奇在此項(xiàng)目上沃森如何接受訓(xùn)練。其實(shí)AI系統(tǒng)分析的都是真實(shí)病例，而非虛擬數(shù)據(jù)，即醫(yī)生接收到的建議都是其他醫(yī)生真實(shí)的建議，并非通過(guò)合成虛擬數(shù)據(jù)得到的結(jié)論。

IBM的發(fā)言人回應(yīng)稱：根據(jù)客戶的不斷反饋、新的科學(xué)證據(jù)以及新的癌癥治療方案，我們不斷學(xué)習(xí)，已經(jīng)作出進(jìn)一步改進(jìn)。目前已用于全球230家醫(yī)院，為84000多名患者提供了幫助。IBM于6月發(fā)布報(bào)告稱， 如今沃森準(zhǔn)確識(shí)別腫瘤的成功率已達(dá)93%。