歷史上每一次工業(yè)革命都會(huì)助推強(qiáng)國(guó)崛起，引發(fā)國(guó)力轉(zhuǎn)變，重塑世界格局。人工智能（AI）技術(shù)的發(fā)展應(yīng)用同樣正在孕育著一場(chǎng)革命，為我國(guó)提供了重大歷史機(jī)遇。“搶抓機(jī)遇，乘勢(shì)而上”已成官商學(xué)界的高度共識(shí)。而世界大國(guó)對(duì)人工智能安全問題的擔(dān)憂則要比過去歷次科技革命的利害權(quán)衡都更為深入、廣泛和尖銳。在發(fā)展人工智能的全球競(jìng)爭(zhēng)中能否成為這一新興技術(shù)的引領(lǐng)者，很大程度上取決于對(duì)“發(fā)展與安全”問題的了解、認(rèn)識(shí)和應(yīng)對(duì)。

人工智能是典型的軍民兩用技術(shù)，利弊并存，其智能化程度越高，雙刃劍特征就越突出。已故的英國(guó)科學(xué)家斯蒂芬·霍金教授認(rèn)為人工智能可能會(huì)毀滅人類，直接將“能否掌握對(duì)人工智能的控制權(quán)”這一拷問，提到人類戰(zhàn)略的高度。目前，世界各國(guó)在競(jìng)相發(fā)展人工智能的同時(shí)，都高度重視其安全風(fēng)險(xiǎn)。政界、軍界、產(chǎn)業(yè)界和智庫密集討論其對(duì)國(guó)家安全和國(guó)際秩序的威脅與挑戰(zhàn)。歸結(jié)而言，人工智能技術(shù)應(yīng)用的安全風(fēng)險(xiǎn)突出體現(xiàn)在三個(gè)方面：

一是國(guó)家安全風(fēng)險(xiǎn)。人工智能技術(shù)使機(jī)器擁有越來越高級(jí)的智能，力圖突破人力的局限，甚至改變?nèi)祟惻c技術(shù)的深層聯(lián)系，給國(guó)家發(fā)展帶來深層變革，其“威力之大，堪比核武”，被公認(rèn)是“對(duì)國(guó)家安全帶來深刻變化的顛覆性技術(shù)”。如果管控不當(dāng)，將直接影響政治、政權(quán)、經(jīng)濟(jì)、金融、網(wǎng)絡(luò)、文化等國(guó)家重要行業(yè)和核心領(lǐng)域的安全與穩(wěn)定。各主要大國(guó)在國(guó)家安全戰(zhàn)略和科技發(fā)展戰(zhàn)略等重要文件中均特別強(qiáng)調(diào)對(duì)人工智能危及國(guó)家安全的擔(dān)憂：一是擔(dān)心對(duì)這一新興戰(zhàn)略能力的缺失。普遍認(rèn)為，新一代人工智能會(huì)成為重要的戰(zhàn)略威懾力量，類似于“擁核自重”。不在人工智能上占據(jù)制高點(diǎn)，就難以在未來的國(guó)際舞臺(tái)上掌握主動(dòng)權(quán)、擁有話語權(quán)。2018年4月，蘭德公司發(fā)布報(bào)告《人工智能對(duì)核戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)的影響》指出，到2040年人工智能有可能顛復(fù)核威懾戰(zhàn)略的基礎(chǔ)。二是擔(dān)心對(duì)人工智能技術(shù)濫用的失控。人工智能這種賦能極強(qiáng)的技術(shù)手段獲得容易，管控極難，濫用門檻極低，容易落入極端個(gè)人或犯罪團(tuán)伙之手，會(huì)給政權(quán)安全和社會(huì)穩(wěn)定帶來重大威脅。三是擔(dān)心對(duì)人工智能應(yīng)用中重大安全風(fēng)險(xiǎn)的失察。人工智能技術(shù)應(yīng)用推廣隱含著諸多不確定性，近年在西方政治中出現(xiàn)的利用大數(shù)據(jù)分析和社交平臺(tái)部署“機(jī)器人水軍”達(dá)到“網(wǎng)絡(luò)干預(yù)選舉”的口水仗和劍橋分析公司利用人工智能等技術(shù)操控選民意見和行為的曝光，彰顯出新的政治安全風(fēng)險(xiǎn)。沒有預(yù)測(cè)、預(yù)警和預(yù)防能力，智能化時(shí)代的系統(tǒng)性、災(zāi)難性風(fēng)險(xiǎn)在所難免。

二是軍事安全風(fēng)險(xiǎn)。兩用技術(shù)，最受軍方的青睞。一方面，越來越多的國(guó)家試圖研發(fā)“致命性自動(dòng)武器”，而個(gè)人或非國(guó)家行為體則越來越容易獲得這種“四兩撥千斤”的“遠(yuǎn)程精確打擊能力”“機(jī)器自動(dòng)殺人”可能不再是科幻。另一方面，有的國(guó)家或非國(guó)家實(shí)體可能將商業(yè)團(tuán)體開發(fā)的工業(yè)機(jī)器人轉(zhuǎn)化成接近實(shí)用的“機(jī)器人戰(zhàn)士”。更值得關(guān)注的是，西方軍界對(duì)智能化武器裝備、戰(zhàn)場(chǎng)戰(zhàn)法、戰(zhàn)爭(zhēng)理論等的研究越來越多，且日益深入，引發(fā)有識(shí)之士的普遍擔(dān)憂。以至于特斯拉創(chuàng)始人馬斯克等來自26個(gè)國(guó)家的116名專家去年聯(lián)名致信聯(lián)合國(guó)，強(qiáng)烈呼吁制止“智能武器”的軍備競(jìng)爭(zhēng)，將其納入國(guó)際公約的管制。今年四月初，30個(gè)國(guó)家和地區(qū)的50多名專家學(xué)者聯(lián)合抵制韓國(guó)科學(xué)技術(shù)院與軍工企業(yè)合作的機(jī)器人武器研發(fā)項(xiàng)目。英國(guó)政府的一份報(bào)告明確表示：永遠(yuǎn)不能給人工智能系統(tǒng)傷害人的權(quán)力。

三是社會(huì)安全風(fēng)險(xiǎn)。人工智能技術(shù)的創(chuàng)新和推廣，將不斷突破現(xiàn)有法律法規(guī)、社會(huì)規(guī)范和道德倫理的限制，直接給社會(huì)生活帶來多維度的安全挑戰(zhàn)。一是智能社會(huì)的經(jīng)濟(jì)生產(chǎn)與生活模式高度自動(dòng)化，具有智能的機(jī)器對(duì)傳統(tǒng)人工的替代在解放人力勞動(dòng)者的同時(shí)，直接帶來對(duì)就業(yè)的沖擊，給本來就存在就業(yè)壓力的發(fā)達(dá)國(guó)家?guī)砩鐣?huì)風(fēng)險(xiǎn)。尤其是人工智能越來越多地應(yīng)用于大數(shù)據(jù)環(huán)境下的決策，由于機(jī)器系統(tǒng)無法像人那樣解釋或合理化其所作的決定，所謂的“算法偏見”會(huì)帶來更為復(fù)雜的社會(huì)問題。二是當(dāng)智能技術(shù)無處不在，萬物互聯(lián)成為常態(tài)，大量的個(gè)人隱私會(huì)直接暴露給智能設(shè)備，構(gòu)成日益尖銳且相當(dāng)普遍的網(wǎng)絡(luò)信息安全問題。三是人工智能主要靠軟件與算法驅(qū)動(dòng)，而軟件與算法皆是人為編寫，難免出現(xiàn)技術(shù)漏洞和人為缺陷。人工智能與物聯(lián)網(wǎng)的深度融合，使得智能產(chǎn)品成為網(wǎng)絡(luò)攻擊新的風(fēng)險(xiǎn)點(diǎn)和突破口。人工智能既普遍又敏感，正用反用，存乎一念，善惡之間，天壤之別。美國(guó)有研究表明，虛設(shè)假場(chǎng)景、偽造音視頻會(huì)直接引發(fā)股市動(dòng)蕩、街頭政治和社會(huì)危機(jī)。在近兩年的世界黑客大會(huì)上，具有人工智能的“神器”“殺器”紛紛亮相。聯(lián)合國(guó)曾召開“人工智能向善”大會(huì)，專門討論技術(shù)標(biāo)準(zhǔn)、安全規(guī)范和道德倫理等問題，以防機(jī)器人作惡，表達(dá)了國(guó)際社會(huì)的集體焦慮。近期，谷歌公司3100多名員工聯(lián)名抗議為五角大樓開發(fā)相關(guān)高端人工智能技術(shù)，也是這種社會(huì)憂慮的反應(yīng)。

回顧人類文明史，在利弊并存的技術(shù)革命和社會(huì)創(chuàng)新面前，人類總能憑借自身的智慧探索出一條趨利避害的發(fā)展道路，從而在適應(yīng)發(fā)展、改造自然的進(jìn)程中化險(xiǎn)為夷，轉(zhuǎn)危為安。相對(duì)前述多方面的風(fēng)險(xiǎn)隱患，新一代人工智能帶給人類的發(fā)展機(jī)遇更為現(xiàn)實(shí)和明顯。隨著計(jì)算能力的提高，大規(guī)模數(shù)據(jù)的積累和學(xué)習(xí)算法的進(jìn)步，人工智能正在重塑我們的世界、社會(huì)和生活。日新月異的人工智能應(yīng)用不僅使我們的生活更加便捷和高效，而且能為我們應(yīng)對(duì)和解決重大社會(huì)性、全球性難題提供新的方法和手段。尤其重要的是，人工智能的發(fā)展將給全球帶來巨大的經(jīng)濟(jì)發(fā)展機(jī)會(huì)。普華永道2017年的一項(xiàng)研究表明：在人工智能技術(shù)的推動(dòng)下，2030年全球GDP將增長(zhǎng)14%，相當(dāng)于15.7萬億美元。發(fā)展與安全的利害關(guān)系，不言而喻?；仡櫸覈?guó)近代史，在多次重大的世界性技術(shù)變革面前，由于在風(fēng)險(xiǎn)感知、安全預(yù)判上的糾結(jié)與失據(jù)，讓我們痛失多次歷史發(fā)展機(jī)遇，留下苦澀的遺憾。四十年的改革開放生動(dòng)地證明了“發(fā)展是硬道理”，也辯證地揭示了“不發(fā)展是最大的不安全”。因此，對(duì)人工智能發(fā)展中面臨的安全問題，應(yīng)當(dāng)要有辯證的認(rèn)識(shí)。

首先，要樹立科學(xué)的安全觀念。要立足發(fā)展講安全，權(quán)衡利弊講安全，防止安全問題絕對(duì)化的認(rèn)識(shí)和安全風(fēng)險(xiǎn)擴(kuò)大化的傾向。不能讓安全問題成為發(fā)展路上的攔路虎和絆腳石，而是要以有效的法律法規(guī)、管理手段和技術(shù)措施主動(dòng)應(yīng)對(duì)，讓安全保障成為確保發(fā)展的底板和墊腳石。只有對(duì)安全問題有了全面科學(xué)的認(rèn)識(shí)，才會(huì)不糾結(jié)、不懼怕，才敢張開雙臂擁抱人工智能技術(shù)，才能緊緊抓住這一歷史機(jī)遇。

其次，要確立有效的治理策略。從蒸汽機(jī)到電力，從計(jì)算機(jī)到網(wǎng)絡(luò)，任何一項(xiàng)技術(shù)創(chuàng)新都經(jīng)歷一個(gè)從不完善到完善，從不可控到可控的過程，其中的治理之道基本上應(yīng)了“兩利相較取其重，兩害相較取其輕”的古訓(xùn)。因而是發(fā)展在先，治理在后，只是隨著時(shí)空關(guān)系的變化，發(fā)展與治理的時(shí)間差在不斷縮短，直到近十年的互聯(lián)網(wǎng)發(fā)展，我們?nèi)匀蛔叩氖窍劝l(fā)展后治理的路子。實(shí)踐表明，由于技術(shù)發(fā)展太快，應(yīng)用涉及太廣，作用影響太大，對(duì)于顛覆性超強(qiáng)的新興科技，治理滯后越來越顯得力不從心。而對(duì)新一代人工智能的自主、智能和自適應(yīng)等鮮明特征，發(fā)展與治理并舉的緊迫性更加凸顯。歐美各國(guó)均在人工智能發(fā)展戰(zhàn)略中同步考慮安全管控和風(fēng)險(xiǎn)治理，加大了對(duì)安全問題的研究力度和安全措施的投入強(qiáng)度，為有效把控安全風(fēng)險(xiǎn)預(yù)作準(zhǔn)備。這是處理應(yīng)對(duì)顛覆性技術(shù)帶來的安全風(fēng)險(xiǎn)的新動(dòng)向，值得我們重視和借鑒。在新一代人工智能的發(fā)展中要做到趨利避害，就必須不回避安全挑戰(zhàn)，以科學(xué)的態(tài)度，務(wù)實(shí)的精神，同步考慮和解決安全保障措施，為人工智能又好又快地發(fā)展提供可靠的安全保證。

再次，要建立良好的社會(huì)環(huán)境。良好的社會(huì)環(huán)境是科技創(chuàng)新最好的土壤，任何技術(shù)進(jìn)步和科技創(chuàng)新都是有成本的，要享用人工智能帶來的發(fā)展機(jī)遇，就要為其可能帶來的社會(huì)變革付出代價(jià)。政府、企業(yè)和公眾都要有為人工智能發(fā)展付出成本的心理準(zhǔn)備。人工智能應(yīng)用越廣，這個(gè)問題會(huì)越突出，我們不僅要在人工智能技術(shù)的研發(fā)、試驗(yàn)和推廣應(yīng)用中包容失誤，寬容出錯(cuò)，而且要在安全保密的文化和觀念上走出 “絕對(duì)安全”的認(rèn)識(shí)誤區(qū)，避免條件反射式的監(jiān)管沖動(dòng)，靠發(fā)展化解隱患，以動(dòng)態(tài)管控風(fēng)險(xiǎn)。

我國(guó)已正式發(fā)布新一代人工智能的發(fā)展規(guī)劃，憑借規(guī)模龐大的市場(chǎng)和技術(shù)應(yīng)用優(yōu)勢(shì)，堅(jiān)持發(fā)展這個(gè)硬道理，抓住創(chuàng)新這個(gè)牛鼻子，我們就能搶占先機(jī)，獲得主動(dòng)。在安全管控這個(gè)關(guān)鍵問題上，只要堅(jiān)持發(fā)展與治理并舉，趨利避害，就可以走出具有中國(guó)特色的一條新路。

（一）強(qiáng)化戰(zhàn)略引領(lǐng)，發(fā)揮體制優(yōu)勢(shì)，爭(zhēng)取技術(shù)領(lǐng)先。一是在總體國(guó)家安全觀的指導(dǎo)下，完善人工智能發(fā)展戰(zhàn)略，尤其要充分考慮新一代人工智能技術(shù)的新特點(diǎn)和應(yīng)用的新領(lǐng)域，處理好發(fā)展與安全的辯證關(guān)系，同步布局、設(shè)計(jì)和安排與安全相關(guān)的工作內(nèi)容。二是面向國(guó)防、安全等國(guó)家戰(zhàn)略需求，統(tǒng)一建設(shè)人工智能國(guó)家實(shí)驗(yàn)室、安全風(fēng)險(xiǎn)測(cè)評(píng)基地、模擬試驗(yàn)場(chǎng)等技術(shù)基礎(chǔ)設(shè)施。防止各行業(yè)、各部門一哄而上，重復(fù)投入，避免同質(zhì)競(jìng)爭(zhēng)造成資源浪費(fèi)。三是設(shè)立重大科技專項(xiàng)，研發(fā)人工智能積極防御關(guān)鍵技術(shù)，搶占戰(zhàn)略制高點(diǎn)，提高國(guó)家在該領(lǐng)域的核心競(jìng)爭(zhēng)力。

（二）強(qiáng)化軍民融合，推動(dòng)商業(yè)應(yīng)用，促進(jìn)創(chuàng)新發(fā)展。一可增加人工智能安全相關(guān)的基礎(chǔ)研究投入，針對(duì)我國(guó)在交通、醫(yī)療、金融、教育、智慧城市、工業(yè)控制等方面大規(guī)模人工智能的應(yīng)用需求，研究有針對(duì)性的安全技術(shù)，促進(jìn)原始創(chuàng)新。二可將人工智能商業(yè)應(yīng)用創(chuàng)新作為軍民融合的重要內(nèi)容，激發(fā)技術(shù)創(chuàng)新和成果轉(zhuǎn)化，鼓勵(lì)科研成果的實(shí)際應(yīng)用，在應(yīng)用中改進(jìn)，在改進(jìn)中完善和提高，形成良好的產(chǎn)業(yè)生態(tài)。三可支持跨部門、跨界的數(shù)據(jù)共享和業(yè)務(wù)配合，推動(dòng)機(jī)制創(chuàng)新，讓我國(guó)的信息化紅利、網(wǎng)絡(luò)化紅利和大數(shù)據(jù)紅利有效轉(zhuǎn)化成人工智能發(fā)展與應(yīng)用的直接動(dòng)力。

（三）強(qiáng)化安全治理，提高防范能力，管控重大風(fēng)險(xiǎn)。一宜結(jié)合深化改革，明確人工智能安全治理的責(zé)任部門，防止“九龍治水”，政出多門，減少企業(yè)經(jīng)營(yíng)負(fù)擔(dān)和公眾政策困擾。二宜與國(guó)家人工智能發(fā)展戰(zhàn)略相適應(yīng)，持續(xù)加大投入力度，著力建設(shè)防故障、防干擾、防破壞、防控制等技術(shù)標(biāo)準(zhǔn)、治理體系和治理能力，努力躋身人工智能強(qiáng)國(guó)之列。三宜貫徹人類命運(yùn)共同體理念，支持科研團(tuán)體、專家學(xué)者、企業(yè)廣泛開展國(guó)際合作，主動(dòng)搭建人工智能國(guó)際合作平臺(tái)，積極參與國(guó)際標(biāo)準(zhǔn)和規(guī)則制定。針對(duì)機(jī)器人異化和安全風(fēng)險(xiǎn)管控、治理等重大國(guó)際共性問題，加強(qiáng)研究，提出中國(guó)方案，貢獻(xiàn)中國(guó)智慧，發(fā)揮中國(guó)作用。