最近，一段可怕的視頻在各大平臺(tái)上瘋狂傳開(kāi)：一群神似《黑鏡III》中機(jī)器殺人蜂的小型機(jī)器人，通過(guò)人臉定位瞬間殺死了正在上課的一眾學(xué)生，場(chǎng)面血腥。

這段視頻是在日內(nèi)瓦舉辦的聯(lián)合國(guó)特定常規(guī)武器公約會(huì)議上發(fā)布的，在會(huì)議上，演講者向大家演示了這款恐怖的小型機(jī)器人：只有手掌心大小的機(jī)器人攜帶了3克炸藥，并且對(duì)目標(biāo)對(duì)象一擊即中，直接、精準(zhǔn)穿透人腦的關(guān)鍵部位。

其中，演講者手持的這款名為Stinger的機(jī)器人是殺人機(jī)器人的一種，而殺人機(jī)器人存在于各國(guó)現(xiàn)在的軍備武器中。

神秘的殺人機(jī)器人軍備競(jìng)賽已經(jīng)開(kāi)始

殺人機(jī)器人，專業(yè)名稱為“致命性自主機(jī)器人”。最初是由美國(guó)提出和開(kāi)始研發(fā)的一種能夠代替士兵自動(dòng)殺人的智能機(jī)器人。

隨著計(jì)算機(jī)控制和人工智能等技術(shù)的發(fā)展，這種殺人機(jī)器人由開(kāi)始的人類(lèi)遠(yuǎn)程操控，發(fā)展至由計(jì)算機(jī)軟件和傳感器裝置控制，到如今可以全自動(dòng)執(zhí)行識(shí)別敵人、判斷敵情和殺死敵人等任務(wù)。

現(xiàn)在，除了美國(guó)，韓國(guó)、俄羅斯、英國(guó)、德國(guó)、加拿大、日本等國(guó)都已相繼推出各自的機(jī)器人戰(zhàn)士，各國(guó)已經(jīng)開(kāi)始了殺人機(jī)器人研發(fā)的軍備賽。但研發(fā)進(jìn)度一直是未知的狀態(tài)。

另一方面，為了限制或禁止在武裝沖突中使用特定類(lèi)型的武器，1980年，有51個(gè)國(guó)家在日內(nèi)瓦討論了《特定常規(guī)武器公約》(CCW)，旨在停止使用被認(rèn)為是具有過(guò)度不人道或?yàn)E殺濫傷作用的某些類(lèi)型武器。

隨后該條約于1983年12月生效，截至2017年8月，共有120個(gè)條約締約國(guó)，其中包括中國(guó)。

2014年，締約國(guó)就“致命性自主武器系統(tǒng)”(殺人機(jī)器人)所引發(fā)的法律、道德與社會(huì)問(wèn)題展開(kāi)了探討。至此，殺人機(jī)器人首次被正式帶入到公眾的視野和話題中。

本月13-17日的聯(lián)合國(guó)特定常規(guī)武器公約會(huì)議上，CCW正式將“精準(zhǔn)殺人”的機(jī)器人產(chǎn)品公之于眾。這一會(huì)議由“殺手機(jī)器人禁令運(yùn)動(dòng)”(Campaign to Stop Killer Robots)組織，超過(guò)七十個(gè)國(guó)家的代表出席。

據(jù)了解，此前，因?yàn)槿斯ぶ悄芗夹g(shù)尚未成熟，殺人機(jī)器人不能準(zhǔn)確定位目標(biāo)，以此會(huì)導(dǎo)致誤傷士兵等問(wèn)題，因此遲遲沒(méi)有被推出，亦不被重視。現(xiàn)在加持人臉識(shí)別等AI技術(shù)，且隨著產(chǎn)品成本的逐漸降低，殺人機(jī)器人的問(wèn)題便開(kāi)始迫在眉睫。

接下來(lái)，我們先來(lái)了解一下會(huì)議中用來(lái)演示的這款產(chǎn)品。

面部識(shí)別的“新應(yīng)用”：快速、精準(zhǔn)殺人!

會(huì)議中的這款Stinger小型機(jī)器人，是一種小型無(wú)人機(jī)，它出自一家名為stratoenergetics的科技公司，該公司致力于為國(guó)防等部門(mén)制造替代士兵和人類(lèi)的智能武器。

Stinger是該公司第一個(gè)大規(guī)模生產(chǎn)的小型武器，它搭配有廣角鏡頭、戰(zhàn)術(shù)傳感器、面部識(shí)別技術(shù)和反應(yīng)比人類(lèi)快100倍的處理器，因此是全自動(dòng)的。該無(wú)人機(jī)內(nèi)部裝載了3g的炸藥，以用于殺死目標(biāo)對(duì)象，并且它的運(yùn)動(dòng)模式是隨機(jī)運(yùn)動(dòng)，這是特別為反狙擊手而設(shè)置的功能。

值得指出的是，Stinger大部分的功能實(shí)現(xiàn)取決于其搭載的系統(tǒng)，這款系統(tǒng)就是該公司研發(fā)的anti-Personnel Systems (APS)，它應(yīng)用于該公司所有的產(chǎn)品。

該APS系統(tǒng)采用了一系列尖端的AI技術(shù)以實(shí)現(xiàn)特定的功能：

避障：每個(gè)APS中的神經(jīng)網(wǎng)絡(luò)已經(jīng)在不同的模擬環(huán)境中以相當(dāng)于數(shù)百萬(wàn)小時(shí)的速度進(jìn)行了訓(xùn)練，以此保證可以精準(zhǔn)的避開(kāi)障礙物，即便在運(yùn)動(dòng)中也可以達(dá)到高精度。

隨機(jī)動(dòng)作：訓(xùn)練成千上萬(wàn)的蚊子和其他飛行昆蟲(chóng)的視頻內(nèi)容，讓無(wú)人機(jī)實(shí)現(xiàn)隨機(jī)飛行的運(yùn)動(dòng)模式。

高效的彈藥：通過(guò)精確瞄準(zhǔn)，無(wú)人機(jī)可以把拋射體和推進(jìn)劑的大小驅(qū)動(dòng)到最低限度。

面部識(shí)別：它會(huì)統(tǒng)一目標(biāo)對(duì)象的iPhone、APS以及平行網(wǎng)絡(luò)中所有的信息，通過(guò)步態(tài)、性別、甚至種族等特征來(lái)識(shí)別目標(biāo)。

多個(gè)自定位協(xié)議：搭載GPS和各種空間技術(shù)，APS可以協(xié)助無(wú)人機(jī)在空間中定位目標(biāo)。

Incommonicado和EMP硬化：一旦搭載APS的武器處于飛行狀態(tài)，就沒(méi)有辦法通過(guò)干擾、防空、換頻段或其他任何方式來(lái)阻止它的電磁信號(hào)。

大數(shù)據(jù)鏈接：該公司通過(guò)獲得并整合大量的數(shù)據(jù)集。用戶在使用其服務(wù)器時(shí)，服務(wù)器可以將用戶的各種特征聯(lián)系起來(lái)，以便使用中的精準(zhǔn)定位。

由此，不同于傳統(tǒng)的“殺人機(jī)器人”，Stinger結(jié)合了面部識(shí)別、多種空間定位技術(shù)和大數(shù)據(jù)來(lái)實(shí)現(xiàn)對(duì)目標(biāo)對(duì)象的精準(zhǔn)定位，極大減小了誤傷誤殺的可能性。

但同時(shí)這也預(yù)示著“殺人機(jī)器人”像槍支武器一樣，開(kāi)始真正為人們所用，給大家的安全造成威脅。

不可避免的事實(shí)：禁止殺人武器是根本做不到

2014年，在《特定常規(guī)武器公約》締約國(guó)專家會(huì)議中的開(kāi)幕式致辭中，聯(lián)合國(guó)日內(nèi)瓦辦事處代理總干事邁克爾·穆勒表示：“本次專家會(huì)議是朝著解決‘致命性自主武器系統(tǒng)’問(wèn)題邁出的第一步，我懇請(qǐng)各位代表采取大膽的行動(dòng)。”

隨后，在今年的國(guó)際人工智能聯(lián)合會(huì)議的開(kāi)幕致辭上，以Elon Musk與 DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 所牽頭的來(lái)自 26 個(gè)國(guó)家的 116 名專家正式向聯(lián)合國(guó)發(fā)表公開(kāi)信，呼吁采取相關(guān)的措施來(lái)制止圍繞“智能武器”而展開(kāi)的軍備競(jìng)賽。

此外，他們還表示，可能的話，還應(yīng)該將這類(lèi)武器納入聯(lián)合國(guó)的特定常規(guī)武器公約(CCW)的武器禁用名單。

于是，在今年的CCW會(huì)議上，超過(guò)200名來(lái)自學(xué)界和業(yè)界的加拿大科學(xué)家和100名澳大利亞科學(xué)家聯(lián)名寫(xiě)了公開(kāi)信給本國(guó)總理，呼吁通過(guò)限制相關(guān)研究。

對(duì)此，國(guó)際機(jī)器人武裝控制委員會(huì)的Noel Sharkey表示：“殺手機(jī)器人禁令運(yùn)動(dòng)并非要限制人工智能和機(jī)器人的相關(guān)創(chuàng)新，或者軍用民用的自動(dòng)系統(tǒng)，相反，我們希望確保人類(lèi)對(duì)于每次攻擊的控制權(quán)。”

對(duì)于這一問(wèn)題，國(guó)防大學(xué)教授、海軍少將張召忠也明確表示：“現(xiàn)在這種機(jī)器人在戰(zhàn)場(chǎng)上作戰(zhàn)，如果是占到10%的話，那么10年以后應(yīng)該是30%，那么20年之后應(yīng)該是40%，會(huì)急速的增長(zhǎng)，你限制是沒(méi)有用的。機(jī)器人武器會(huì)大幅發(fā)展，因?yàn)樗″X(qián)，不用人上戰(zhàn)場(chǎng)，人在這個(gè)非常舒服的地方，吹著空調(diào)看著大屏幕，前面的機(jī)器人就在那拼殺，真的人一個(gè)死不了。這機(jī)器人被炸壞了，炸壞了再生產(chǎn)，機(jī)器人的戰(zhàn)爭(zhēng)將來(lái)變得越來(lái)越多，所以說(shuō)，這個(gè)靠法規(guī)條例限制是沒(méi)有用的。”

科技是我們唯一的“盔甲”

視頻最后，伯克利大學(xué)教授、資深A(yù)I研究者Stuart Russell給出提醒：盡管這段視頻和其中的殺人機(jī)器人并非真實(shí)，但視頻中的科技目前已經(jīng)存在。要避免視頻中的悲劇發(fā)生，我們需要盡快行動(dòng)。

值得指出的是，這里的“行動(dòng)”不僅僅指通過(guò)條約或準(zhǔn)則，還包括廣大的研究學(xué)者通過(guò)自己的技術(shù)來(lái)對(duì)產(chǎn)品進(jìn)行破解和保護(hù)。正如新南威爾士洲大學(xué)的AI教授Toby Walsh所說(shuō)：“學(xué)術(shù)界已經(jīng)明確表達(dá)了自己的觀點(diǎn)，自動(dòng)武器很容易被恐怖分子利用，我們需要在這一噩夢(mèng)出現(xiàn)之前有所作為。”