Synced最近對全年的人工智能十大“失敗案例”進(jìn)行了首次總結(jié)?

AI人臉識(shí)別闖紅燈 董明珠躺槍

董明珠在寧波“闖紅燈”被抓？原來是在過馬路時(shí)公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識(shí)別系統(tǒng)捕捉到，竟然誤以為是真人！董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。

那輛巴士剛好被投放了印有董明珠頭像的廣告。當(dāng)這輛巴士行駛在寧波中山東路，經(jīng)過江夏橋東一帶時(shí)，恰好從中間垂直方向穿過了一條亮著紅燈的斑馬線，而車身廣告上董明珠的照片正臉剛好對準(zhǔn)了一側(cè)的紅燈，如果是個(gè)真人的話，TA的確是在闖紅燈。高大上的AI檢測系統(tǒng)頓時(shí)變成“人工智障”，把照片當(dāng)成了真人，直接把這輛公交車拍了下來，還鎖定了車身上董明珠的照片，判定此人闖紅燈。該系統(tǒng)還從數(shù)據(jù)庫里搜索，把董明珠的車身廣告照片和一行「＊＊＊，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應(yīng)稱，技術(shù)人員已經(jīng)對該系統(tǒng)進(jìn)行了全面升級。

Uber自動(dòng)駕駛汽車殺死一名行人

在公共道路上第一個(gè)已知的與車輛相關(guān)的自動(dòng)駕駛行人死亡事件中，優(yōu)步的自動(dòng)駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當(dāng)場死亡。

Uber發(fā)現(xiàn)其自動(dòng)駕駛軟件決定在汽車傳感器檢測到行人后卻沒有采取任何行動(dòng)。根據(jù)美國國家運(yùn)輸安全委員會(huì)關(guān)于事故的初步報(bào)告，這是因?yàn)閁ber的自動(dòng)模式禁用了沃爾沃工廠安裝的自動(dòng)緊急制動(dòng)系統(tǒng)。

在悲劇發(fā)生之后，Uber在北美城市暫停了自駕駕駛測試，而Nvidia和豐田也在美國停止了自駕車道路測試。事故發(fā)生8個(gè)月后，Uber宣布計(jì)劃在匹茲堡恢復(fù)自駕車路試，盡管該公司的自駕車未來仍然不明朗。

IBM Watson醫(yī)療保健出現(xiàn)重大漏洞

BM最初是一個(gè)問答機(jī)器，一直在廣泛的應(yīng)用程序和流程（包括醫(yī)療保健）中探索Watson的AI功能。 2013年，IBM開發(fā)了Watson首個(gè)針對癌癥治療推薦的商業(yè)應(yīng)用程序，該公司在過去五年中與醫(yī)院和研究中心建立了許多重要的合作伙伴關(guān)系。但Watson AI Health并沒有給醫(yī)生留下深刻印象。一些人抱怨它對癌癥治療提出了錯(cuò)誤的建議，可能會(huì)導(dǎo)致嚴(yán)重甚至致命的后果。

據(jù)報(bào)道，在沒有顯著進(jìn)步的項(xiàng)目上花費(fèi)數(shù)年后，IBM正在縮小Watson Health的規(guī)模并裁掉該部門員工的一半以上。

亞馬遜AI招聘工具性別歧視

據(jù)報(bào)道，亞馬遜人力資源部門在2014年至2017年期間使用了支持AI的招聘軟件來幫助審核簡歷并提出建議。然而，該軟件對男性申請人更有利，因?yàn)槠淠Ｐ褪窃谶^去十年中提交給亞馬遜的簡歷上接受培訓(xùn)的，當(dāng)時(shí)雇用了更多的男性候選人。

據(jù)報(bào)道，該軟件降級了包含“女性”一詞的簡歷，或暗示申請人是女性，例如因?yàn)樗麄冊妥x過女子大學(xué)。亞馬遜此后放棄了該軟件。該公司并未否認(rèn)使用該工具提出建議，但表示從未用于評估候選人。

DeepFakes將色情主角錯(cuò)認(rèn)成《星戰(zhàn)》Daisy Ridley

去年12月，Reddit網(wǎng)上出現(xiàn)了一些國際頂級女星——25歲《星戰(zhàn)》女星黛絲烈尼（Daisy Ridley）的色情視頻，原因竟然是是“DeepFakes”采用生成對抗網(wǎng)絡(luò)，將明星的臉與色情視頻中女性的臉進(jìn)行了交換。

雖然面部交換技術(shù)已經(jīng)開發(fā)多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現(xiàn)在都可以制作他們自己非常有說服力的假視頻。色請視頻的創(chuàng)作者，就是將《星球大戰(zhàn)》知名演員Daisy Ridley的臉與上面的色情女星交換了。

2018年，逼真的名人假視頻依舊充斥著互聯(lián)網(wǎng)。雖然這種方法在技術(shù)上并非“失敗”，但其潛在的危險(xiǎn)是嚴(yán)重而深遠(yuǎn)的：如果視頻證據(jù)不再可信，這可能會(huì)進(jìn)一步鼓勵(lì)流傳假新聞。

Google Photo出現(xiàn)了bug

Google相冊包含一個(gè)相對未知的AI功能，可以自動(dòng)檢測具有相同背景／場景的圖像，并將它們合并為單個(gè)全景圖片。 1月份，Reddit用戶“MalletsDarker”在滑雪場拍攝了三張照片：兩張是風(fēng)景照，另一張是他朋友的照片。當(dāng)谷歌照片合并這三個(gè)時(shí)，發(fā)生了一件奇怪的事情，因?yàn)樗呐笥训哪X袋被渲染成一個(gè)從森林中窺視出來的尖峰巨人。尷尬作死瞬間如圖：

這張照片使得r／funny subreddit排名前十，并獲得了202k的贊成票。社交媒體稱贊谷歌算法巧妙地混合了圖像，同時(shí)嘲笑它在構(gòu)圖基礎(chǔ)方面的愚蠢。

LG機(jī)器人Cloi在揭幕儀式上“傻掉”

1月8日應(yīng)該是LG的IoT AI助手Cloi在拉斯維加斯舉行的2018年國際消費(fèi)電子展上首次亮相的那一天。 Cloi被呈現(xiàn)為一個(gè)簡單而愉快的界面，能夠識(shí)別控制家用電器的語音命令。然而，當(dāng)可愛的機(jī)器人走上舞臺(tái)進(jìn)行現(xiàn)場演示時(shí)，觀眾正在觀看和等待，一直等待……因?yàn)樗茨芑貞?yīng)LG市場營銷主管的命令，只產(chǎn)生尷尬的沉默。

波士頓動(dòng)力學(xué)機(jī)器人blooper

SoftBank擁有的機(jī)器人制造商波士頓動(dòng)力公司今年不止一次為互聯(lián)網(wǎng)贏得了驚喜：它的機(jī)器人SpotMini可以靈巧地用頭戴式抓手臂打開門；它的人形機(jī)器人阿特拉斯現(xiàn)在可以做“跑酷”了——順利跳過原木，跳躍一系列40厘米的步驟而不會(huì)停下步伐。

但即使是波士頓動(dòng)力公司也有其不小心“哎呀”的時(shí)刻：在未來科學(xué)家和技術(shù)專家大會(huì)上首次亮相時(shí)，阿特拉斯在一個(gè)完美的演示中舉起了盒子等。但正當(dāng)表演結(jié)束準(zhǔn)備離開時(shí)，這個(gè)可憐的機(jī)器人絆倒在窗簾上，笨拙地從舞臺(tái)上摔下來。不過，它摔倒的樣子倒也挺像人類的。

2018年AI對世界杯的預(yù)測幾乎都錯(cuò)

2018年世界杯是一年中最重要的體育賽事，高盛、德國多特蒙德技術(shù)大學(xué)、Electronic Arts、彼爾姆國立研究大學(xué)和其他機(jī)構(gòu)的人工智能研究人員運(yùn)行了機(jī)器學(xué)習(xí)模型，來預(yù)測多階段比賽的結(jié)果。然而大多數(shù)都是完全錯(cuò)誤的，只有EA——使用其視頻游戲FIFA 18的新評級進(jìn)行模擬——正確地支持了勝利者法國。EA游戲引擎以眾多機(jī)器學(xué)習(xí)技術(shù)為后盾，旨在使玩家的表現(xiàn)盡可能逼真。

SQL服務(wù)數(shù)據(jù)科學(xué)家Nick Burns提供了一個(gè)解釋：“無論你的模型有多好，它們都只是和你的數(shù)據(jù)一樣好……最近的足球數(shù)據(jù)還不足以預(yù)測世界杯的表現(xiàn)。缺少信息和未定義的影響太多了?！?/p>

Startup聲稱可以從面部掃描預(yù)測智商

以色列機(jī)器學(xué)習(xí)初創(chuàng)公司Faception提出了有爭議的說法，即其人工智能技術(shù)可以分析面部圖像和骨骼結(jié)構(gòu)，以揭示人們的智商，個(gè)性，甚至是暴力傾向。數(shù)據(jù)科學(xué)家Ben Snyder在Twitter上斥責(zé)該公司的技術(shù)：“那是顱相學(xué)。你只是把ML當(dāng)作一個(gè)種族主義的背鍋俠?！斑@條推文收到了超過6，500次轉(zhuǎn)推送和近17，000個(gè)點(diǎn)贊。