機(jī)器擁有比人類(lèi)更快速的反應(yīng)，更精細(xì)的思維。如今，隨著人工智能的發(fā)展，在人類(lèi)所擅長(zhǎng)的邏輯思維上，也大有被機(jī)器所超越的可能。而這一超越隨著去年“阿法狗”戰(zhàn)勝世界職業(yè)圍棋頂尖選手李世石成為現(xiàn)實(shí)， 這也意味著人工智能在某一方面有了突破性進(jìn)展。

近日，科技日?qǐng)?bào)報(bào)道稱(chēng)，俄羅斯軍方正在應(yīng)用人工智能和大數(shù)據(jù)技術(shù)，測(cè)試用軟件代替士兵做出作戰(zhàn)決策，以應(yīng)對(duì)迅雷不及掩耳的軍事打擊。更引人注目的是，如果測(cè)試成功并投入使用的話(huà)，這將極大改變未來(lái)戰(zhàn)爭(zhēng)模式。對(duì)盛產(chǎn)黑客和數(shù)學(xué)家的“戰(zhàn)斗民族”來(lái)說(shuō)，將機(jī)器和程序用于作戰(zhàn)毫不令人意外 。但我們必須注意到，將人工智能應(yīng)用于戰(zhàn)爭(zhēng)始終是人們關(guān)注和爭(zhēng)議的焦點(diǎn)。

而國(guó)防科技大學(xué)軍事專(zhuān)家石海明副教授告訴記者，“人類(lèi)戰(zhàn)爭(zhēng)的歷史，也是人與武器不斷內(nèi)嵌融合的歷史。從冷兵器戰(zhàn)爭(zhēng)到信息化戰(zhàn)爭(zhēng)，武器是人體器官的自然延伸，人與武器的界限尚比較清晰。隨著聚合科技的發(fā)展與應(yīng)用，特別是大數(shù)據(jù)、傳感器、可穿戴設(shè)備、人體植入及基因編輯等人機(jī)結(jié)合技術(shù)不斷突破，人與技術(shù)之間的隔閡進(jìn)一步縮小 ，人與武器之間的傳統(tǒng)界限趨于模糊化，人的‘武器’化及武器的‘人’化趨勢(shì)越發(fā)明顯。在智能化戰(zhàn)爭(zhēng)時(shí)代，智能化系統(tǒng)應(yīng)該是對(duì)人的補(bǔ)充，人工智能更大的價(jià)值是介入戰(zhàn)爭(zhēng)協(xié)助作戰(zhàn)指揮和控制。”

一、智能化戰(zhàn)爭(zhēng)帷幕已漸拉開(kāi)

“目前看來(lái)，盡管信息化戰(zhàn)爭(zhēng)還是主導(dǎo)軍事領(lǐng)域的戰(zhàn)爭(zhēng)形態(tài)，但智能化戰(zhàn)爭(zhēng)的帷幕已逐漸拉開(kāi)?！笔Ｃ髦赋?，將人工智能應(yīng)用到作戰(zhàn)上已有先例，層出不窮的武裝機(jī)器人系統(tǒng)和應(yīng)用廣泛的無(wú)人機(jī)就是最明顯的例子。

“在大國(guó)角逐的重要空間，表面上看似風(fēng)平浪靜，但各種運(yùn)用尖端科技的無(wú)人化、智能化作戰(zhàn)武器與平臺(tái)已越來(lái)越多，相關(guān)科學(xué)技術(shù)的軍事應(yīng)用前景值得關(guān)注。”他說(shuō)。

例如，海軍專(zhuān)家李杰已指出，曾在多艘美“尼米茲”級(jí)核動(dòng)力航母上成功起降的X-47B察打一體無(wú)人機(jī)，既具有極強(qiáng)的隱身性，又完全由電腦操控而無(wú)需人工干預(yù)。

他表示，“近年來(lái)， 由于相關(guān)科技前沿推進(jìn)極其迅速，人工智能的發(fā)展方向也出現(xiàn)了較大變化，采用大強(qiáng)度計(jì)算和數(shù)據(jù)驅(qū)動(dòng)來(lái)發(fā)展智能成為一個(gè)探索方向。試想，如果計(jì)算機(jī)系統(tǒng)能夠基于大數(shù)據(jù)和深度學(xué)習(xí)從根本上提升智能化水平，這對(duì)人類(lèi)社會(huì)的未來(lái)必將產(chǎn)生較大沖擊。這一進(jìn)路與以往科學(xué)家‘仿腦’研究不同，過(guò)去 試圖模擬人腦的思維過(guò)程來(lái)打造人工智能，這種傳統(tǒng)進(jìn)路受腦科學(xué)、計(jì)算機(jī)科學(xué)等學(xué)科發(fā)展制約而進(jìn)展緩慢，已有精通的專(zhuān)業(yè)人士指出，‘類(lèi)腦’研究或許才是未來(lái)的發(fā)展方向 。”

對(duì)此，李路介紹，“大數(shù)據(jù)方面，目前還未聽(tīng)說(shuō)將其用于實(shí)戰(zhàn)的官方報(bào)道。此外，據(jù)我了解，即使是北約組織的內(nèi)部演習(xí)中，也尚未使用大數(shù)據(jù)技術(shù)進(jìn)行分析決策。但是在非戰(zhàn)爭(zhēng)軍事行動(dòng)中，大數(shù)據(jù)技術(shù)早已廣泛使用。尤其是反恐領(lǐng)域，利用大數(shù)據(jù)篩查可疑分子、降低恐襲風(fēng)險(xiǎn)已經(jīng)是日常反恐的重要手段?！?/p>

在2013年波士頓馬拉松爆炸案中，恐怖分子以高壓鍋和背包為作案工具展開(kāi)襲擊。事后，有人在網(wǎng)上同時(shí)搜索上述兩種工具，警方立即利用大數(shù)據(jù)技術(shù)捕捉相關(guān)信息，進(jìn)而調(diào)查搜索者的目的，大大降低了恐襲風(fēng)險(xiǎn)。

二、機(jī)器尚不能完全替代人類(lèi)決策

據(jù)俄軍方披露，目前俄海軍某部的專(zhuān)家正在研究前述應(yīng)用程序的效果。有專(zhuān)家認(rèn)為這一應(yīng)用程序有助于進(jìn)行獨(dú)特的作戰(zhàn)策劃，并能推演現(xiàn)代化海戰(zhàn)武器的使用情況。那么，機(jī)器真的可以代替人類(lèi)做出作戰(zhàn)決策嗎？

李路介紹，“在戰(zhàn)爭(zhēng)指揮和作戰(zhàn)規(guī)劃方面，人工智能不斷取得突破。以前規(guī)劃一次20分鐘的大型空中作戰(zhàn)行動(dòng)一般需要40-50人耗時(shí)12小時(shí)，而采用自主技術(shù)之后該規(guī)劃有望在1小時(shí)內(nèi)完成。”

記者了解到，在人工智能介入戰(zhàn)爭(zhēng)指揮方面，DARPA研制的“深綠”系統(tǒng)最為出名。五角大樓試圖仿制曾戰(zhàn)勝人類(lèi)棋手的超級(jí)計(jì)算機(jī)“深藍(lán)”，利用計(jì)算機(jī)造出一個(gè)智能化輔助系統(tǒng)，幫助指揮員決策，并隨著作戰(zhàn)進(jìn)程不斷調(diào)整和改進(jìn)，使作戰(zhàn)效能大幅提高。但經(jīng)過(guò)多年研制后，該項(xiàng)目的主體目前已經(jīng)暫停。

對(duì)此，石海明指出，“目前，最需要智能化介入的確實(shí)還是在較高層級(jí)的指揮控制系統(tǒng)。美軍推出的第三次‘抵消戰(zhàn)略’也認(rèn)為，以智能化軍隊(duì)、自主化裝備和無(wú)人化戰(zhàn)爭(zhēng)為標(biāo)志的軍事變革風(fēng)暴正在來(lái)臨。未來(lái)人與人、物與物、人與物充分互聯(lián)互通之后。此物非彼物，此時(shí)的‘物’是人大腦的延伸，智力的延伸，更是智慧的延伸，人類(lèi)社會(huì)進(jìn)入‘腦聯(lián)網(wǎng)’的智能時(shí)代。當(dāng)人機(jī)充分實(shí)現(xiàn)融合的時(shí)候，人類(lèi)將真正徹底告別作為戰(zhàn)爭(zhēng)終端的慘烈角色，而是作為‘云大腦’的神經(jīng)系統(tǒng)控制者，遠(yuǎn)離血雨腥風(fēng)的戰(zhàn)場(chǎng)，安身于舒適的環(huán)境，用自己的智慧與‘云大腦’交互，遙控著前線(xiàn)無(wú)人機(jī)、無(wú)人裝甲車(chē)、超級(jí)戰(zhàn)士等戰(zhàn)爭(zhēng)主體展開(kāi)生死搏殺。”

“軍事系統(tǒng)經(jīng)歷了從‘物質(zhì)系統(tǒng)’‘能量系統(tǒng)’向‘信息系統(tǒng)’的演進(jìn)，未來(lái)將進(jìn)一步走向‘智慧系統(tǒng)’。當(dāng)然，人工智能倘若要實(shí)現(xiàn)較高層級(jí)的與作戰(zhàn)系統(tǒng)融合， 必須進(jìn)一步融合更多的前沿技術(shù)。例如，超級(jí)電腦‘沃森’的基于自然語(yǔ)言的知識(shí)獲取和統(tǒng)計(jì)推理技術(shù)，基于貝葉斯方法的復(fù)雜概念建模技術(shù)，也包括超級(jí)電腦‘深藍(lán)’的基于規(guī)則驅(qū)動(dòng)的暴力搜索技術(shù)等 ?！笔Ｃ髡f(shuō)。

然而，李路認(rèn)為，“這并不意味著在重要攻擊行動(dòng)中，機(jī)器可以完全替代人類(lèi)決策。以當(dāng)前的人工智能水平，機(jī)器對(duì)目標(biāo)和威脅的判斷還相對(duì)簡(jiǎn)單初級(jí)，對(duì)臨界點(diǎn)的判斷可靠度難以保證?！?/p>

李路舉例說(shuō)，2016年6月，英國(guó)某潛艇上攜載的一枚三叉戟Ⅱ -D5潛射洲際導(dǎo)彈誤射向美國(guó)本土，無(wú)奈之下英國(guó)將該情況通知美國(guó)。美得到消息后卻發(fā)現(xiàn)，本應(yīng)自動(dòng)搜索、自動(dòng)響應(yīng)的美本土反導(dǎo)系統(tǒng)卻毫無(wú)反應(yīng)。好在導(dǎo)彈并未安裝核彈頭，最終在美西部無(wú)人區(qū)上空自毀。

“假如當(dāng)時(shí)自動(dòng)反應(yīng)機(jī)制及時(shí)反應(yīng)并運(yùn)行了，則理應(yīng)觸發(fā)核報(bào)復(fù)機(jī)制，美國(guó)的核彈將會(huì)自動(dòng)射向英國(guó)，后果將不堪設(shè)想。因此，在重大問(wèn)題上機(jī)器替代人做出反擊決策，可能還有較長(zhǎng)的路要走?！彼f(shuō)。

三、人工智能武器化爭(zhēng)議不斷

李路指出，“機(jī)器人替代人來(lái)執(zhí)行作戰(zhàn)任務(wù)已經(jīng)成為現(xiàn)實(shí)。現(xiàn)在的爭(zhēng)論焦點(diǎn)在于，是否允許致命自主武器系統(tǒng)?！?/p>

他介紹，目前國(guó)際人道法對(duì)此類(lèi)技術(shù)沒(méi)有任何具體規(guī)定，國(guó)際社會(huì)也未明確支持一個(gè)限制或禁止此類(lèi)武器系統(tǒng)的條約。1949年簽署的戰(zhàn)爭(zhēng)人道主義《日內(nèi)瓦公約》要求任何襲擊需要滿(mǎn)足3個(gè)條件“軍事必須、參與戰(zhàn)爭(zhēng)者和非參戰(zhàn)者差別對(duì)待、軍事目標(biāo)價(jià)值及其潛在附帶傷害的平衡”。當(dāng)前自動(dòng)武器很難做出這些主觀判斷。學(xué)界對(duì)此也爭(zhēng)議不斷，許多重量級(jí)科學(xué)家反對(duì)人工智能武器化。馬科斯和霍金等人就曾簽署過(guò)一封公開(kāi)信，呼吁禁止自動(dòng)化武器。他們甚至稱(chēng)完全人工智能的發(fā)展可能招致人類(lèi)歷史的終結(jié)。

以無(wú)人機(jī)為例，美國(guó)媒體曾大肆吹捧無(wú)人機(jī)反恐是“最人道的戰(zhàn)爭(zhēng)形式”，但由于打擊授權(quán)的門(mén)檻設(shè)置過(guò)低和無(wú)人化作戰(zhàn)平臺(tái)自身的不可靠性，相關(guān)作戰(zhàn)行動(dòng)造成了一種事實(shí)上的武力濫用行為，導(dǎo)致了大量平民傷亡。

“伴隨著軍事‘智慧系統(tǒng)’的自生成性、自組織性、自演化性不斷發(fā)展，在未來(lái)無(wú)人化戰(zhàn)爭(zhēng)中，戰(zhàn)爭(zhēng)對(duì)壘雙方已不再是用‘能量殺傷’以消滅敵人‘有生力量’，而是通過(guò)‘腦’控武器來(lái)控制敵人的思想和行動(dòng)。作戰(zhàn)主體由‘知識(shí)戰(zhàn)士’向‘超級(jí)戰(zhàn)士’轉(zhuǎn)化，作戰(zhàn)平臺(tái)由信息化‘低智’向類(lèi)腦化‘高智’發(fā)展，作戰(zhàn)樣式由‘體系作戰(zhàn)’向‘開(kāi)源作戰(zhàn)’演進(jìn)。到那時(shí)， 作戰(zhàn)主體將遠(yuǎn)離戰(zhàn)場(chǎng)，機(jī)器人會(huì)不會(huì)像電子游戲一般視生命為草芥，以一種‘非人性化’的方式殺人 ？畢竟，此時(shí)的‘超級(jí)戰(zhàn)士’已經(jīng)沒(méi)有了人類(lèi)所具有的‘人我共識(shí)’情感體驗(yàn)， ‘隔離因素’將戰(zhàn)爭(zhēng)的發(fā)動(dòng)者與實(shí)施者區(qū)分了開(kāi)來(lái)。”對(duì)此，石海明憂(yōu)心忡忡，“也正因此，有關(guān)戰(zhàn)爭(zhēng)責(zé)任的倫理問(wèn)題就出現(xiàn)了，在這樣的條件下，機(jī)器人是否要受戰(zhàn)爭(zhēng)倫理的約束呢？參戰(zhàn)的機(jī)器人是不是戰(zhàn)斗員？現(xiàn)有的戰(zhàn)爭(zhēng)倫理規(guī)約是否意味著徹底失效？”

石海明介紹，早在2008年，美軍海軍研究辦公室就發(fā)表一份報(bào)告認(rèn)為，運(yùn)用于戰(zhàn)爭(zhēng)的自主機(jī)器人無(wú)法承擔(dān)法律責(zé)任。

“以往在科幻電影中，我們常見(jiàn)到各種‘超級(jí)戰(zhàn)士’的身影：《機(jī)械戰(zhàn)警》中人類(lèi)頭腦和機(jī)械身體完美結(jié)合，身上配備各式武器，能應(yīng)付各種暴力活動(dòng)的機(jī)械警察；《再造戰(zhàn)士》中通過(guò)基因設(shè)計(jì)工程制造出來(lái)的擁有超絕戰(zhàn)斗技巧和力量的超級(jí)戰(zhàn)士；《阿凡達(dá)》中用人類(lèi)的基因與當(dāng)?shù)丶{美人基因相結(jié)合，由人類(lèi)的意識(shí)進(jìn)駐其中得以在這個(gè)星球上自由活動(dòng)的‘化身’。作為作戰(zhàn)鏈條上的信息終端與執(zhí)行終端，未來(lái)的機(jī)器人能否區(qū)分平民和士兵？倘若不能的話(huà)，它們?cè)趺礊樽约旱男袨樨?fù)責(zé)？如果機(jī)器人無(wú)法承擔(dān)責(zé)任，那么，程序設(shè)計(jì)者或后方作戰(zhàn)指揮員誰(shuí)更應(yīng)是其‘代理人’？不難發(fā)現(xiàn) ，當(dāng)機(jī)器戰(zhàn)士或生物戰(zhàn)士全面取代人類(lèi)主宰戰(zhàn)爭(zhēng)后，高端無(wú)人化戰(zhàn)爭(zhēng)也必將引發(fā)一系列倫理困境，這涉及戰(zhàn)爭(zhēng)權(quán)利倫理、戰(zhàn)爭(zhēng)行為倫理及戰(zhàn)爭(zhēng)責(zé)任倫理等多方面，相關(guān)戰(zhàn)爭(zhēng)責(zé)任的追究會(huì)變成一個(gè)比較棘手的問(wèn)題。”他說(shuō)。

李路也指出，“隨著技術(shù)的發(fā)展，相關(guān)爭(zhēng)論很可能會(huì)越來(lái)越現(xiàn)實(shí)和激烈。但根據(jù)歷史經(jīng)驗(yàn)來(lái)看，人類(lèi)的理性恐怕很難阻止新技術(shù)軍事化的步伐。軍事領(lǐng)域自主化時(shí)代的到來(lái)似乎已勢(shì)不可擋。”