（文章來源：教育新聞網(wǎng)）

Google LLC已在其云平臺上推出了一項新的“可解釋AI”服務(wù)，旨在使機(jī)器學(xué)習(xí)模型做出決策的過程更加透明。

谷歌表示，這樣做的想法是，這將有助于建立對這些模型的更大信任。這很重要，因為大多數(shù)現(xiàn)有模型往往相當(dāng)不透明。只是不清楚他們?nèi)绾巫龀鰶Q定。Google Cloud AI戰(zhàn)略總監(jiān)Tracy Frey在今天的博客中解釋說，Explainable AI旨在提高機(jī)器學(xué)習(xí)模型的可解釋性。她說，這項新服務(wù)的工作原理是量化每個數(shù)據(jù)因素對模型產(chǎn)生的結(jié)果的貢獻(xiàn)，幫助用戶了解其做出決定的原因。

換句話說，它不會以通俗易懂的方式解釋事物，但是該分析對于首先構(gòu)建機(jī)器學(xué)習(xí)模型的數(shù)據(jù)科學(xué)家和開發(fā)人員仍然有用。

可解釋的AI有進(jìn)一步的局限性，因為它提出的任何解釋都將取決于機(jī)器學(xué)習(xí)模型的性質(zhì)以及用于訓(xùn)練它的數(shù)據(jù)。她寫道：“任何解釋方法都有局限性?！薄耙环矫?，AI解釋反映了數(shù)據(jù)中發(fā)現(xiàn)的模型的模式，但它們并未揭示數(shù)據(jù)樣本，總體或應(yīng)用程序中的任何基本關(guān)系。我們正在努力向客戶提供最直接，最有用的解釋方法，同時保持其局限性透明。”

盡管如此，可解釋的AI還是很重要的，因為準(zhǔn)確解釋特定機(jī)器學(xué)習(xí)模型為何得出結(jié)論的原因，對于最終負(fù)責(zé)這些決策的組織內(nèi)的高級管理人員很有用。對于高度嚴(yán)格的行業(yè)來說，這尤其重要，而信心絕對至關(guān)重要。谷歌表示，對于處于這一職位的許多組織來說，沒有任何可解釋性的人工智能目前已超出范圍。在相關(guān)新聞中，Google還發(fā)布了所謂的“模型卡”，作為其Cloud Vision應(yīng)用程序編程界面的面部檢測和對象檢測功能的文檔。