安全問題是AI開發(fā)最大挑戰(zhàn)，今年可能AI安全井噴

　　無人駕駛、人臉識別、智慧城市、智能家居等各類場景中都在運用AI，但一旦后端控制系統(tǒng)被攻擊，出現規(guī)?；?、連鎖式的崩盤，AI失控的后果不堪設想。近日，阿里安全專家表示，“安全AI會成為未來網絡安全問題的新解法，將在2019年迎來爆發(fā)期。

　　AI的發(fā)展和趨勢是一定的，但是AI帶來的安全問題也在日益劇增。解決AI的安全問題時，直接的防護有時沒有辦法解決問題。在大量的AI技術落地應用之前，AI安全需要從源頭上防范更多的風險。

　　安全AI是指安全場景中進化出的AI，擁有更強、更多元化的能力，與當前通用AI的理念不同，其更注重在業(yè)務安全領域垂直縱深的技術積淀，開發(fā)出適應更多安全場景的新一代AI，讓傳統(tǒng)的安全問題找到新的AI解法。

　　基于問答技術、知識圖譜和對抗樣本等技術，阿里安全近日研發(fā)出新一代AI驗證碼，通過AI挖掘生活常識類信息作為問答題庫，并對原始圖像有針對性的加入干擾，使得人眼識別不受影響，但會顯著降低黑產AI打碼的成功率。

　　歐盟剛剛出臺《人工智能道德準則》，明確提出AI的發(fā)展方向應該是‘可信賴AI’，包含安全、隱私、透明等多個方面，AI應用正在成為一個社會問題，如何解決已經成為各界共同關注的話題。