一般來(lái)說(shuō)，人類制造機(jī)器人是為了讓自己的生活更加方面，但如果我告訴你著名的機(jī)器人三定律中的第二條正在遭遇挑戰(zhàn)，一種在特殊情況下可以不必服從人類命令的機(jī)器人已經(jīng)被制造出來(lái)了，未來(lái)世界，誰(shuí)將占領(lǐng)霸主地位？

第一法則：機(jī)器人不得傷害人類，或坐視人類受到傷害;

第二法則：除非違背第一法則，機(jī)器人必須服從人類的命令;

第三法則：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

上面這個(gè)是著名科幻小說(shuō)家艾薩克·阿西莫夫在小說(shuō)《我，機(jī)器人》的引言中定下的機(jī)器人世界法則。

現(xiàn)在Tufts大學(xué)人機(jī)交互實(shí)驗(yàn)室的研究者們卻開(kāi)始挑戰(zhàn)第二法則了，他們研制的機(jī)器人可以在特殊情況下拒絕人類發(fā)出的指令。

在上面這個(gè)案例中，人類向這個(gè)機(jī)器人發(fā)出命令讓它向前走，不過(guò)機(jī)器人卻兩次拒絕了人類的要求，因?yàn)樗约河X(jué)得前面已經(jīng)沒(méi)路了，這樣對(duì)自己不安全。

上圖演示的是另外一個(gè)案例，機(jī)器人前行的路上被布置了障礙物，當(dāng)人類要求機(jī)器人繼續(xù)向前走時(shí)，同樣遭到了機(jī)器人的拒絕。

所以，機(jī)器人必須服從人類命令這一法則已然遭受了挑戰(zhàn)。對(duì)于Tufts大學(xué)的這些研究們來(lái)說(shuō)，他們想做的當(dāng)然不是讓機(jī)器人去挑戰(zhàn)人類，由于人類往往會(huì)給機(jī)器下一些非常荒謬的命令，所以整體上來(lái)說(shuō)研究者們希望人能與機(jī)器更好的交互。

在上面的這兩個(gè)案例中，機(jī)器人都給出了拒絕人類的理由，人類其實(shí)也可以根據(jù)機(jī)器人給出的理由來(lái)修正自己的命令，進(jìn)而繼續(xù)讓機(jī)器做自己想讓它做的事。

比如，在人類修正命令后，機(jī)器人還是按照人類的要求繼續(xù)向前走了。

我看完之后想的是，當(dāng)這么聰明的機(jī)器人被賦予深度學(xué)習(xí)能力后，真的會(huì)走上反抗人類的道路嗎?