機器人的力量有時候使我們人類無法估計的強大，隨著人工智能的爆發(fā)式增長，許多的業(yè)界人士一直認為如果AI機器人有了意識，他將會成為世界的災難。他會自動成為機器殺手。

　　包括霍金在內的許多科學家認為AI機器人獲得意識僅僅是時間問題，這些機器人將勝任人類的一切工作，然而這也將帶來法律和道德上的挑戰(zhàn)。據(jù)報道，在“The ConversaTIon”網站的一篇文章中，美國俄克拉荷馬州立大學教授蘇巴什˙卡闡述了機器人獲得意識可能造成的后果。

　　蘇巴什˙卡稱，人工智能在未來將有突破性的進展： 機器能夠感知自身和周圍環(huán)境，，并且實時吸收和處理大量數(shù)據(jù)。它可以進入太空、投入戰(zhàn)斗，完成危險的任務，還可以做飯、打掃、洗衣服——甚至能在人孤獨的時候給予陪伴。一套特別先進的機器能夠代替人類完成所有工作，將人類從枯燥的工作中解放出來。但蘇巴什˙卡也指出，這樣的機器會動搖社會基礎，帶來麻煩的法律和倫理問題。更可怕的是，它們可能會反抗、并希望徹底消滅人類。他在文章中寫道，研究人員在這些超感知機器是否存在的問題上存在分歧。在機器是否可以或者應該被稱為“有意識”的問題上，學界也意見不一。

　　報道中還提到了“機器人殺手”和自動化武器的運用。2016年人權觀察組織的報告顯示，由于機器人無需為戰(zhàn)爭負責，因此需要禁止“機器人殺手”使用和發(fā)展。去年，超過1000名科技以及機器人專家警告，機器人武器可能只需數(shù)年的發(fā)展，而不是幾十年。在一封公開信中，他們稱，如果主要的軍事力量推動自動化武器的發(fā)展，那么“全球軍備競賽將無可避免”。