過去一年，人工智能技術(shù)正在復(fù)興。無人駕駛、語音識(shí)別，以及成為圍棋大師的AlphaGo都反映了人工智能的快速發(fā)展。然而我們也要注意到，人工智能可能會(huì)出現(xiàn)問題。我們需要從中吸取經(jīng)驗(yàn)，避免未來更多的錯(cuò)誤。

　　近期，路易斯維爾大學(xué)信息安全實(shí)驗(yàn)室主任羅曼·雅博爾斯基（Roman Yampolskiy）在一篇論文中總結(jié)了人工智能遭遇的失敗，這些問題與“人工智能系統(tǒng)設(shè)計(jì)帶來的問題直接相關(guān)”。

　　雅博爾斯基表示，這些問題可以歸因于人工智能系統(tǒng)學(xué)習(xí)或應(yīng)用階段的失誤。

　　根據(jù)雅博爾斯基和其他多名專家的介紹，TechRepulice網(wǎng)站總結(jié)了2016年人工智能的10大敗筆。

　　1、用于預(yù)測犯罪的人工智能變成種族主義者
 

　　Northpointe開發(fā)了一款人工智能系統(tǒng)，能預(yù)測有案底的罪犯再次犯罪的可能性。這被認(rèn)為存在種族歧視傾向：系統(tǒng)一般認(rèn)為，黑人罪犯再次犯罪的風(fēng)險(xiǎn)更高。

　　另一家名為ProPublica的媒體評論稱，無論罪犯是什么種族，Northpointe的軟件“通常都不能實(shí)現(xiàn)有效的預(yù)測”。

　　2、電子游戲中的NPC制造出突破原計(jì)劃的武器
 

　　今年6月，一款名為《Elite： Dangerous》的電子游戲發(fā)生了出乎意料的事件。人工智能在游戲中開發(fā)出了超級(jí)武器，突破了游戲設(shè)計(jì)。根據(jù)一家游戲網(wǎng)站的報(bào)道，“玩家被拉進(jìn)戰(zhàn)斗中，而對方的艦船配備了可笑的武器，會(huì)將玩家撕成碎片”。游戲開發(fā)者隨后將這些武器下線。

　　3、機(jī)器人誤傷幼童
 

　　今年7月，Knightscope平臺(tái)開發(fā)的“打擊犯罪機(jī)器人”在硅谷一家購物中心撞上了一名16個(gè)月大的幼童。

　　根據(jù)《洛杉磯時(shí)報(bào)》的報(bào)道，該公司表示，這是一起“奇怪的事故”。