美陸軍聯(lián)合工業(yè)部門研究人員共同研發(fā)一種神經(jīng)網(wǎng)絡衡量標準，用于評估下一代人工智能和機器學習算法的可靠性與可信度。

背景

深度神經(jīng)網(wǎng)絡（DNNs）是一種利用訓練數(shù)據(jù)學習的機器學習形式，一旦數(shù)據(jù)接受訓練，即可在獲取新信息或輸入信息時做出預測；但如果新的信息超出訓練范圍，則很容易做出虛假判斷。研究人員表示，鑒于訓練數(shù)據(jù)和潛在輸入數(shù)據(jù)的信息多樣性，解決上述問題非常具有挑戰(zhàn)性。

研究成果應用

美陸軍研究實驗室研究人員認為，此項研究為創(chuàng)造下一代強大而有彈性的算法提供了一個新的研究機會，該方法用途廣泛，可作為附加模塊應用于陸軍眾多現(xiàn)代化算法中。新的衡量標準可幫助陸軍開發(fā)更加安全可靠的機器學習技術，并可應用于指揮控制系統(tǒng)、精確打擊和決策支持系統(tǒng)。

雖然目前工作已經(jīng)取得一定成果，但尚未研發(fā)出可檢測新型攻擊的方法。在研究過程中，研究團隊提出了一個生成模型，該模型可以調(diào)整底層原始深層神經(jīng)網(wǎng)絡中原始輸入圖像的各個方面，然后評估原始深層神經(jīng)網(wǎng)絡對這些生成的輸入的響應，以測量模型的一致性。該方法不需要訪問訓練數(shù)據(jù)，不需要使用集合或需要在與訓練集不同的驗證數(shù)據(jù)集上訓練校準模型。

下一步計劃

研究人員將繼續(xù)與測試和評估團隊合作，完善算法，以衡量各種算法在不同應用程序中的可信度。該方法也對陸軍發(fā)展現(xiàn)代化優(yōu)先事項具有重要意義，對下一代網(wǎng)絡解決方案具有很重要的應用價值，向戰(zhàn)場作戰(zhàn)人員提供技術能力。