識別人和物品的各種智能程序，在互聯(lián)網(wǎng)上有著免費的巨大數(shù)據(jù)庫上在運行。但是網(wǎng)絡(luò)上的很多數(shù)據(jù)，這些數(shù)據(jù)一方面是過時的，另一方面是帶有偏見的。在這些數(shù)據(jù)上“學(xué)習(xí)”的人工智能也就有了缺陷。如果它在沒有人為控制的情況下執(zhí)行操作，會帶來可怕的結(jié)果。

研究人員查看機器人選擇不同性別和種族的照片的次數(shù)比例。事實證明，它是有偏見地行事。它選了更多地男性，其中包括白人和亞洲人。它最不容易識別的是黑人女性。它更有可能將女性視為“管家”，將黑人男性視為“罪犯”，將西班牙裔視為“看門人”。

什么是人工智能?

用于描述在模擬人類思維能力和我們認(rèn)為是智能的行為的程序。這些程序通常執(zhí)行被認(rèn)為非常困難以至于只有人類才能完成的任務(wù)。人工智能(AI)成功地玩了國際象棋和圍棋等邏輯游戲，還能協(xié)助醫(yī)生診斷病人。人工智能系統(tǒng)還有更多的運用，它們可以使用的領(lǐng)域也會越來越多。

在決策角度，盡管從法律角度懲罰行為不懲罰思想，但只是針對自然人。而現(xiàn)行人工智能的“思想”是可以通過數(shù)據(jù)的方式表達(dá)出來的，故從決策層面來看，人工智能仍存在管控需要。人工智能的“思想”存在錯誤，究其原因是訓(xùn)練算法的數(shù)據(jù)存在問題，即人工智能學(xué)習(xí)了社會存在的問題并加以運用。如美國的電商品牌亞馬遜在進(jìn)行員工錄取時運用人工智能算法對候選人的簡歷進(jìn)行初步篩選，結(jié)果更加傾向于男性，因為工程師在對該算法進(jìn)行訓(xùn)練時，用的是之前亞馬遜已經(jīng)被錄用員工的簡歷進(jìn)行訓(xùn)練的，而亞馬遜男性員工偏多。結(jié)果就是這樣的算法使得亞馬遜的簡歷篩選算法更加傾向于男性，造成了算法的“性別歧視”。記者認(rèn)為，如果是因為算法和訓(xùn)練數(shù)據(jù)的原因造成的法律結(jié)果，則結(jié)果應(yīng)當(dāng)對負(fù)責(zé)算法設(shè)計或訓(xùn)練的責(zé)任主體進(jìn)行追責(zé)。

在行為角度，即便是人工智能在行為執(zhí)行度上已經(jīng)能媲美甚至超越人類，在法律層面，人工智能仍被視為物而并非權(quán)利能力的主體。這也就意味著現(xiàn)在的法律否認(rèn)人工智能能獨立承擔(dān)法律責(zé)任，本質(zhì)上是因為人工智能不能對其所實施的行為負(fù)責(zé)，設(shè)立“負(fù)責(zé)人”制度類似于法人組織的法定代表人制度，由具體的自然人承擔(dān)由行為而產(chǎn)生的責(zé)任。而將“思維”和“行動”區(qū)別開，則可以在歸責(zé)方面更加細(xì)化，在保障有效承擔(dān)責(zé)任的同時不至于影響人工智能行業(yè)發(fā)展的積極性。在現(xiàn)行民事領(lǐng)域，人工智能產(chǎn)品侵權(quán)適用產(chǎn)品責(zé)任，強調(diào)對研發(fā)者、生產(chǎn)者和銷售者的責(zé)任。

人工智能是并不是單純的科技產(chǎn)品，而是社會分工的需要所衍生的。它的出現(xiàn)和進(jìn)步，會極大地解放人力，讓人可以從事更加有價值的勞動，可以有分配更多時間享受生活。所以，從分工的角度，可以毫不夸張的說，人類需要全方位利用人工智能。

人工智能可能以任何形態(tài)存在?？萍歼M(jìn)入量子時代，無論是固體、液體還是氣體，只要能進(jìn)行粒子層面的利用，都有可能嫁接人工智能。這讓科技進(jìn)一步爆炸性發(fā)展成為可能，它將深刻影響人類的文明，甚至人類自身的演化進(jìn)程。

但人類從來對科技就沒有能夠進(jìn)行有效控制，這是人性，僅僅依靠道德、法律來約束是遠(yuǎn)遠(yuǎn)不夠的。比如，美國人人可以持槍，所以一定有人要被槍殺;第一次工業(yè)革命讓英國稱霸全球。以這種邏輯，無論人工智能是否出現(xiàn)國家間的優(yōu)劣態(tài)勢，也無法擺脫人性的罪惡操弄。它將使人與人之間的相害變得非常容易，更會大大提高全球戰(zhàn)爭風(fēng)險。

在能源控制領(lǐng)域，需要建立獨立于人工智能之外的控制體系，并且凌駕于人工智能之上，使得在必要的時候，可以進(jìn)行人工干預(yù)。

在執(zhí)法層面，需要組建一支專門的安全部隊，負(fù)責(zé)監(jiān)控和調(diào)查人工智能領(lǐng)域的違法犯罪行為，它將隸屬于安全防務(wù)部門。