940年，享譽(yù)全球的科幻小說(shuō)作家艾薩克。阿西莫夫（Isaac Asimov）構(gòu)思和醞釀了“機(jī)器人三定律”，于1941年5月至10月完成和發(fā)表的一系列短篇小說(shuō)中，把“機(jī)器人三定律”公之于眾：第一定律。機(jī)器人不得傷害人類個(gè)體、或者目睹人類個(gè)體遭遇危險(xiǎn)卻袖手旁觀;第二定律。機(jī)器人必須服從人類給予它的命令，除非這一命令與第一定律相矛盾;第三定律。不違反第一定律和第二定律的前提下，機(jī)器人要盡可能的確保自己的生存?；凇皺C(jī)器人三定律”，艾薩克。阿西莫夫希望人類（即“碳文明”）和機(jī)器人（即“硅文明”）可以攜手并進(jìn)、共生共存。

盡管“機(jī)器人三定律”堪稱機(jī)器人學(xué)的金科玉律，可它的局限性也顯而易見(jiàn)，比如第一定律中，艾薩克。阿西莫夫強(qiáng)調(diào)了“人類個(gè)體”、卻忽視了“人類整體”，因此，對(duì)于“機(jī)器人三定律”的修訂和補(bǔ)充也陸陸續(xù)續(xù)的提了出來(lái)。艾倫人工智能研究所的首席執(zhí)行官埃齊奧尼認(rèn)為，于“機(jī)器人三定律”的基礎(chǔ)上，還要增補(bǔ)“人工智能系統(tǒng)必須明確的表示它不是人類”、“未經(jīng)允許，人工智能系統(tǒng)不能保留和披露機(jī)密信息”等等規(guī)則。不過(guò)，中國(guó)科技大學(xué)的陳小平教授說(shuō)，修訂和補(bǔ)充“機(jī)器人三定律”的意義和效用并不大，迫在眉睫的問(wèn)題不是“原則”、而是“細(xì)節(jié)”，人類急需完善人工智能和智能機(jī)器人相關(guān)的倫理細(xì)節(jié)。

第一定律中，“機(jī)器人不得傷害人類個(gè)體”，那么“傷害”究竟是指什么呢？機(jī)器人對(duì)待某一人類個(gè)體的什么方式才稱得上“傷害”呢？人們?nèi)绾瘟炕蜆?biāo)準(zhǔn)化“傷害”、且準(zhǔn)確的認(rèn)定和排除“傷害”呢？若機(jī)器人對(duì)某一人類個(gè)體并未造成生理層面的損害，但這一人類個(gè)體因主觀的厭惡和恐懼而出現(xiàn)了精神層面的問(wèn)題，這是不是一種“傷害”呢？以上的問(wèn)題僅僅是九牛一毛而已，還有數(shù)之不盡的問(wèn)題需要細(xì)化和深究，更需要人們探討和制定比較具體的規(guī)則來(lái)“防患于未然”，不能停留在“機(jī)器人三定律”的框架中。

美國(guó)人工智能倫理領(lǐng)域的知名學(xué)者泰格馬克呼吁人們超越艾薩克。阿西莫夫的“機(jī)器人三定律”，商討和確立新的人工智能倫理原則，確保人類的利益不受人工智能的損害、且人工智能與人類的發(fā)展目標(biāo)一致。因此，泰格馬克發(fā)起了“AI有益運(yùn)動(dòng)”，倡導(dǎo)人們把“有益于人類”樹(shù)立為核心，圍繞著這一核心而開(kāi)創(chuàng)一套人工智能倫理體系，已故的物理學(xué)家斯蒂芬?；艚鸷投辔恢茖W(xué)家支持“AI有益運(yùn)動(dòng)”。泰格馬克一再?gòu)?qiáng)調(diào)，AI人工智能在“乘數(shù)效應(yīng)”的推動(dòng)下會(huì)變得越來(lái)越強(qiáng)大，留給人類試錯(cuò)的時(shí)間和空間越來(lái)越小了。

為了呼應(yīng)泰格馬克，美國(guó)機(jī)器智能研究院的開(kāi)創(chuàng)者尤德科夫斯基提出“友善人工智能”的理念，他號(hào)召人工智能領(lǐng)域的研發(fā)人員和科研機(jī)構(gòu)把“友善”樹(shù)立為核心，從人工智能的設(shè)計(jì)和開(kāi)發(fā)之初，就把“友善”植入智能系統(tǒng)中，這樣的話，“友善”就成了人工智能倫理的基礎(chǔ)和宗旨了。

陳小平教授認(rèn)為，現(xiàn)階段的人工智能和智能機(jī)器人并無(wú)重大的隱患和風(fēng)險(xiǎn)，短期之內(nèi)，只有網(wǎng)絡(luò)用戶個(gè)人隱私安全和相關(guān)技術(shù)濫用等等問(wèn)題急需管控和防范，但從長(zhǎng)遠(yuǎn)的角度來(lái)說(shuō)，嶄新和完善的人工智能倫理體系必須盡快的確立和落實(shí)，絕不能出了嚴(yán)重的問(wèn)題之后再“亡羊補(bǔ)牢”，畢竟一些犯錯(cuò)的代價(jià)是人類無(wú)法承受的。