“小蜜蜂”殺人機(jī)器人蘊(yùn)含的黑科技

想象一下，在一個(gè)安靜的大學(xué)教室，學(xué)生們都在各自的座位上愜意的自習(xí)。

突然，一群小如蜜蜂的不明飛行物從窗戶、門(mén)縫蜂擁而入，他們盤(pán)旋在教室上空，似乎在進(jìn)行著掃描和確認(rèn)。終于，一個(gè)沉悶的聲音過(guò)后，響起了一聲尖叫——一個(gè)男孩倒在了血泊之中。

僅0.5秒的時(shí)間，一只“小蜜蜂”將其攜帶的3克炸藥傾注在男孩頭上，男生當(dāng)場(chǎng)死亡。頓時(shí)，教室成為了屠宰場(chǎng)，彌漫著尖叫和恐懼。

如此血腥的場(chǎng)景來(lái)自于美國(guó)加州大學(xué)的斯圖爾特·羅素爾教授公布的一段視頻。雖然視頻中“殺人蜂”進(jìn)行的殺戮并非真實(shí)存在，但我們必須清楚的是，視頻中的科技目前已經(jīng)存在。

聯(lián)合國(guó)特定常規(guī)武器公約會(huì)議的“殺手機(jī)器人禁令運(yùn)動(dòng)”

日前，韓國(guó)科學(xué)技術(shù)院于近期開(kāi)設(shè)了人工智能研發(fā)中心，目的是研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無(wú)人水下交通等領(lǐng)域的人工智能技術(shù)。

這引起業(yè)內(nèi)專(zhuān)家的廣泛擔(dān)憂，30個(gè)國(guó)家和地區(qū)的人工智能及機(jī)器人專(zhuān)家宣布將抵制研究人工智能武器的韓國(guó)科學(xué)技術(shù)院（KAIST），但該大學(xué)并未承諾停止研發(fā)。

早在2017年，劍橋大學(xué)的生存威脅研究機(jī)構(gòu)相關(guān)人員就列出了10種可能導(dǎo)致世界末日、人類(lèi)滅絕的威脅。名列前茅的正是人工智能和殺手機(jī)器人。

2012年，聯(lián)合國(guó)人權(quán)理事會(huì)克里斯多夫·海因斯曾發(fā)布一份報(bào)告，呼吁各國(guó)凍結(jié) “殺人機(jī)器人”試驗(yàn)、生產(chǎn)和使用。

他認(rèn)為:“機(jī)器人沒(méi)有人類(lèi)的感情，它們不會(huì)理解和辨別人類(lèi)的情感，由于沒(méi)有足夠的法律問(wèn)責(zé)制度，加上機(jī)器人不應(yīng)該擁有決定人類(lèi)生死的權(quán)力，因此部署此類(lèi)武器系統(tǒng)可能令人無(wú)法接受。”

如若對(duì)軍用殺人機(jī)器人定義為“不需要人類(lèi)干預(yù)，或者只需要遠(yuǎn)程要求，即可在戰(zhàn)場(chǎng)上完成軍事行動(dòng)的自動(dòng)機(jī)械”的話，自動(dòng)炮臺(tái)、掃雷機(jī)器人、軍用無(wú)人機(jī)均可以包括在內(nèi)。而且，這類(lèi)事物活躍在戰(zhàn)場(chǎng)上的時(shí)間遠(yuǎn)比人們想象中長(zhǎng)，機(jī)器人“殺人”，從很早以前就開(kāi)始了。

二戰(zhàn)時(shí)期，德軍曾經(jīng)研制過(guò)一種名為“歌利亞遙控炸彈”的反坦克武器。這是一種通過(guò)有線遙控(必要時(shí)也可無(wú)線遙控)來(lái)控制的無(wú)人“袖珍坦克”，搭載著烈性炸藥，可直接經(jīng)由坦克底部裝甲炸毀重型坦克。

“歌利亞遙控炸彈”

隨著集成電路技術(shù)出現(xiàn)并不斷完善，計(jì)算機(jī)的體積不斷縮小，20世紀(jì)80年代，計(jì)算機(jī)可搭載在軍用無(wú)人載具之內(nèi)。

同時(shí)，計(jì)算機(jī)的功能也在不斷完善，可以完成控制載具行進(jìn)、尋找目標(biāo)、敵我識(shí)別和發(fā)射武器等一系列任務(wù)，而且相對(duì)穩(wěn)定可靠，能夠適應(yīng)復(fù)雜多變的戰(zhàn)場(chǎng)環(huán)境。

目前為人熟知的“掠食者”無(wú)人機(jī)，本質(zhì)就是軍用殺人機(jī)器人。此外，一些國(guó)家已經(jīng)在研制自動(dòng)化程度更高的戰(zhàn)斗機(jī)器人，允許它們?cè)趹?zhàn)場(chǎng)上自主尋找、選擇目標(biāo)，再自己決定是否開(kāi)火。

MQ-9收割者偵查機(jī)

電影《終結(jié)者》給我們描述了一個(gè)機(jī)器人殺戮和奴役人類(lèi)的黑暗未來(lái)，雖然電影中的場(chǎng)景短期內(nèi)難以在現(xiàn)實(shí)生活中復(fù)現(xiàn)，智能相對(duì)論分析師柯鳴認(rèn)為，軍用殺人機(jī)器人的研究和使用，不僅是人性問(wèn)題，更是倫理問(wèn)題。

1.是戰(zhàn)斗員還是武器？

傳統(tǒng)戰(zhàn)爭(zhēng)主要發(fā)生在國(guó)家和政治集團(tuán)之間，戰(zhàn)爭(zhēng)主體是軍隊(duì)和軍人。而殺人機(jī)器人的研發(fā)和應(yīng)用，軍人不再是戰(zhàn)爭(zhēng)的唯一戰(zhàn)士，戰(zhàn)爭(zhēng)主體地位更加復(fù)雜。

傳統(tǒng)火炮、坦克、戰(zhàn)艦離不開(kāi)人手的操作，軍人乃是戰(zhàn)爭(zhēng)的主體。而殺人機(jī)器人具有人工智能、會(huì)思考、能判斷，可以自動(dòng)發(fā)現(xiàn)、識(shí)別和打擊目標(biāo)，自主地完成人賦予的任務(wù)，因而就能替代軍人沖鋒陷陣。

如果殺人機(jī)器人上了戰(zhàn)場(chǎng)，它們就是真正的戰(zhàn)斗員。然而殺人機(jī)器人是一種具有行為能力卻沒(méi)有責(zé)任能力的戰(zhàn)斗員，它不同于傳統(tǒng)意義上的軍人戰(zhàn)斗員，也不同于武器。殺人機(jī)器人到底是戰(zhàn)斗員還是武器，將難以界定，相應(yīng)其倫理地位也難以確定。

2.安全問(wèn)題如何保證？

殺人機(jī)器人也沒(méi)有感情，不會(huì)理解和辨別人類(lèi)的情感，無(wú)法識(shí)別眼前被殺戮者是敵是友。自主的殺人機(jī)器人如果成為戰(zhàn)爭(zhēng)工具，難以保證不濫殺無(wú)辜，尤其是某種原因?qū)е率Э毓收希瑳](méi)有人保證它不會(huì)襲擊人類(lèi)戰(zhàn)友的情況，傷害創(chuàng)造它們、軀體卻弱于它們的智慧種族。

事實(shí)上，目前還沒(méi)有一套控制自動(dòng)系統(tǒng)出錯(cuò)的有效措施。一旦程序出錯(cuò)，或者被人惡意篡改，很可能造成血流成河的慘劇，人類(lèi)的安全將面臨極大的威脅。如果對(duì)研制具有殺人能力的智能機(jī)器人不加以限制，總有一天會(huì)出現(xiàn)這樣的局面：“全自動(dòng)”的“殺人機(jī)器人”走上戰(zhàn)場(chǎng)，并自主決定著人類(lèi)的生死。

3.精準(zhǔn)敵我識(shí)別如何做到？

從冷兵器時(shí)代至今，由于敵我識(shí)別不暢導(dǎo)致的誤傷，一直是戰(zhàn)場(chǎng)上難以避免的問(wèn)題?，F(xiàn)代戰(zhàn)爭(zhēng)中往往會(huì)使用技術(shù)手段來(lái)避免誤傷，但如果想要讓軍用機(jī)器人完全自主行動(dòng)，需要解決的問(wèn)題還要更多。

人類(lèi)士兵不僅可以判斷某個(gè)移動(dòng)的人是敵人、友軍還是平民百姓，而且能夠相對(duì)準(zhǔn)確地了解對(duì)方的來(lái)意。但對(duì)于軍用機(jī)器人來(lái)說(shuō)，它們最多只能分清敵我，卻通常難以判斷對(duì)方的“心思”，所以很可能出現(xiàn)槍殺投降士兵和戰(zhàn)俘的情況，而這一舉動(dòng)是被國(guó)際公約所禁止的。

4.是否賦予自主“殺人能力”？

是否賦予自主行動(dòng)的機(jī)器人“殺人的能力”，一直是包括人工智能、軍事在內(nèi)的各方專(zhuān)家學(xué)者討論的焦點(diǎn)。1940年，著名科幻作家伊薩克·阿西莫夫提出了“機(jī)器人三原則”。他指出:“機(jī)器人不得傷害人類(lèi)；必須服從人類(lèi)指令，但不得與第一原則抵觸；必須保存自身，但不得與前兩條原則抵觸。”

機(jī)器人發(fā)展與道義的關(guān)系

菲利普·迪克在《第二變種》中描述了軍用機(jī)器人對(duì)人類(lèi)社會(huì)的滲透：在美蘇核戰(zhàn)之后，美國(guó)為避免亡國(guó)，制造了可以自行組裝、學(xué)習(xí)并且割人咽喉的軍用機(jī)器人，用以襲擊蘇聯(lián)占領(lǐng)軍；但這些機(jī)器人不斷進(jìn)化，自行組裝了具有蘇軍男女士兵和營(yíng)養(yǎng)不良兒童等外觀的新型機(jī)器人，不僅攻擊人類(lèi)，也自相殘殺，甚至潛入美國(guó)在月球的秘密基地，埋下了人類(lèi)滅亡的伏筆。

當(dāng)然，單個(gè)軍用機(jī)器人如果出現(xiàn)程序錯(cuò)誤，乃至受到來(lái)自敵方的干擾或者計(jì)算機(jī)病毒破壞，確實(shí)有可能出現(xiàn)襲擊人類(lèi)戰(zhàn)友的情況。

但如果據(jù)此擔(dān)心機(jī)器人獲得自我意識(shí)之后，會(huì)全體背叛人類(lèi)并自行制造同伴， 仍然為時(shí)尚早。

耶魯大學(xué)的研究人員把軍用機(jī)器人列為人工智能技術(shù)最有前途的應(yīng)用領(lǐng)域之一。軍用機(jī)器人的用途太誘人：既可降低己方士兵的風(fēng)險(xiǎn)，又能降低戰(zhàn)爭(zhēng)的代價(jià)。它省去了軍人的薪水、住房、養(yǎng)老、醫(yī)療等開(kāi)銷(xiāo)，又在速度、準(zhǔn)確性上高于人類(lèi)，且無(wú)需休息。它不會(huì)出現(xiàn)只有人類(lèi)戰(zhàn)斗員才會(huì)有的戰(zhàn)場(chǎng)應(yīng)激障礙，情緒穩(wěn)定，無(wú)需臨戰(zhàn)動(dòng)員，一個(gè)指令，就能抵達(dá)人類(lèi)不可及之處，完成各種任務(wù)。

但是，如果殺人機(jī)器人濫殺無(wú)辜，責(zé)任又該歸咎于誰(shuí)呢？英國(guó)機(jī)器人技術(shù)教授諾埃爾·沙爾吉認(rèn)為，“顯然這不是機(jī)器人的錯(cuò)。機(jī)器人可能會(huì)向它的電腦開(kāi)火，開(kāi)始發(fā)狂。我們無(wú)法決定誰(shuí)應(yīng)該對(duì)此負(fù)責(zé)，對(duì)戰(zhàn)爭(zhēng)法而言，確定責(zé)任人非常重要。”

從人道主義的角度來(lái)看，不論研制殺人機(jī)器人的初衷是怎樣，機(jī)器人戰(zhàn)爭(zhēng)當(dāng)殺人機(jī)器人被有效利用時(shí)，它應(yīng)遵循期望效果最大化、附帶傷害最小化的功利主義原則。

從功利主義的角度看，殺人機(jī)器人不具備人類(lèi)恐懼的本能，不論智能高低都會(huì)意志堅(jiān)毅，不畏危險(xiǎn)，終會(huì)一往無(wú)前。殺人機(jī)器人也不需要人員及與之相應(yīng)的生命保障設(shè)備，即使被擊毀，也不存在陣亡問(wèn)題，只需換一臺(tái)新的重新上陣，成本可以大大降低。

使用殺人機(jī)器人代替士兵崗位用于戰(zhàn)場(chǎng)中偵察和掃雷和作戰(zhàn)任務(wù)，還有助于把士兵從一些極為危險(xiǎn)的領(lǐng)域中解放出來(lái)，減小戰(zhàn)場(chǎng)傷亡，降低軍事活動(dòng)的成本和負(fù)擔(dān)。但是，殺人機(jī)器人能像人類(lèi)士兵一樣在戰(zhàn)場(chǎng)上自動(dòng)尋找并攻擊目標(biāo)，那么失控的機(jī)器人就可能給人類(lèi)帶來(lái)巨大的災(zāi)難。

此外，如果世界各國(guó)在殺人機(jī)器人方面展開(kāi)軍備競(jìng)賽，那將會(huì)大大增加軍費(fèi)的支出。因此，整體上看使用殺人機(jī)器人帶來(lái)的功利極其有限，反而會(huì)給人類(lèi)帶來(lái)極大的威脅，弊遠(yuǎn)大于利。無(wú)論如何，我們都將難以理解殺人機(jī)器人的研制和使用會(huì)有助于增加人類(lèi)的利益。

誠(chéng)然，軍事殺人機(jī)器人的發(fā)展會(huì)引發(fā)軍事領(lǐng)域的巨大變革，智能相對(duì)論分析師柯鳴認(rèn)為，軍用機(jī)器人的發(fā)展是人工智能應(yīng)用于軍事領(lǐng)域的體現(xiàn)，其究竟是阿里巴巴山洞還是潘多拉魔盒，需要人類(lèi)自身予以甄別，只有將技術(shù)真正應(yīng)用并服務(wù)于人類(lèi)發(fā)展，才能真正構(gòu)建世界的“阿里巴巴山洞”。