機(jī)器人的力量有時(shí)候使我們?nèi)祟?lèi)無(wú)法估計(jì)的強(qiáng)大，隨著人工智能的爆發(fā)式增長(zhǎng)，許多的業(yè)界人士一直認(rèn)為如果AI機(jī)器人有了意識(shí)，他將會(huì)成為世界的災(zāi)難。他會(huì)自動(dòng)成為機(jī)器殺手。

　　包括霍金在內(nèi)的許多科學(xué)家認(rèn)為AI機(jī)器人獲得意識(shí)僅僅是時(shí)間問(wèn)題，這些機(jī)器人將勝任人類(lèi)的一切工作，然而這也將帶來(lái)法律和道德上的挑戰(zhàn)。據(jù)報(bào)道，在“The ConversaTIon”網(wǎng)站的一篇文章中，美國(guó)俄克拉荷馬州立大學(xué)教授蘇巴什˙卡闡述了機(jī)器人獲得意識(shí)可能造成的后果。

　　蘇巴什˙卡稱(chēng)，人工智能在未來(lái)將有突破性的進(jìn)展： 機(jī)器能夠感知自身和周?chē)h(huán)境，，并且實(shí)時(shí)吸收和處理大量數(shù)據(jù)。它可以進(jìn)入太空、投入戰(zhàn)斗，完成危險(xiǎn)的任務(wù)，還可以做飯、打掃、洗衣服——甚至能在人孤獨(dú)的時(shí)候給予陪伴。一套特別先進(jìn)的機(jī)器能夠代替人類(lèi)完成所有工作，將人類(lèi)從枯燥的工作中解放出來(lái)。但蘇巴什˙卡也指出，這樣的機(jī)器會(huì)動(dòng)搖社會(huì)基礎(chǔ)，帶來(lái)麻煩的法律和倫理問(wèn)題。更可怕的是，它們可能會(huì)反抗、并希望徹底消滅人類(lèi)。他在文章中寫(xiě)道，研究人員在這些超感知機(jī)器是否存在的問(wèn)題上存在分歧。在機(jī)器是否可以或者應(yīng)該被稱(chēng)為“有意識(shí)”的問(wèn)題上，學(xué)界也意見(jiàn)不一。

　　報(bào)道中還提到了“機(jī)器人殺手”和自動(dòng)化武器的運(yùn)用。2016年人權(quán)觀察組織的報(bào)告顯示，由于機(jī)器人無(wú)需為戰(zhàn)爭(zhēng)負(fù)責(zé)，因此需要禁止“機(jī)器人殺手”使用和發(fā)展。去年，超過(guò)1000名科技以及機(jī)器人專(zhuān)家警告，機(jī)器人武器可能只需數(shù)年的發(fā)展，而不是幾十年。在一封公開(kāi)信中，他們稱(chēng)，如果主要的軍事力量推動(dòng)自動(dòng)化武器的發(fā)展，那么“全球軍備競(jìng)賽將無(wú)可避免”。