你可能會(huì)認(rèn)為，在特朗普大廈上建設(shè)一個(gè)直升機(jī)停機(jī)坪會(huì)給總統(tǒng)在曼哈頓的住宅平添一份豪氣。畢竟，沒(méi)有什么事情比乘坐海軍一號(hào)直達(dá)你自己的摩天大樓更能象征財(cái)富和權(quán)力了。

佩妮（Penny）是一個(gè)可以通過(guò)衛(wèi)星圖像來(lái)預(yù)測(cè)紐約城的收入水平以及變化的人工智能系統(tǒng)。當(dāng)我通過(guò)它簡(jiǎn)潔的頁(yè)面查看特朗普住宅區(qū)情況時(shí)，顯示的只有滿滿的財(cái)氣。“Penny十分堅(jiān)信這個(gè)區(qū)域的居民收入是中高等的。”報(bào)告稱。但當(dāng)我從屏幕底部的工具欄中選擇了一個(gè)直升機(jī)圖標(biāo)，并把它拖到屋頂上時(shí)，Penny改變了主意。“你的調(diào)整導(dǎo)致Penny把這個(gè)地區(qū)重新劃分為中低等收入地區(qū)”。

“直升機(jī)停機(jī)坪”是財(cái)富的有力象征，不是嗎？難道Penny知道一些我不知道的東西，還是誤讀了數(shù)據(jù)？那么為什么會(huì)有人需要這樣的工具呢？如果你能回答這些問(wèn)題，就能理解Penny是怎么運(yùn)行的了。

Aman TIwari是卡內(nèi)基梅隆大學(xué)的一名計(jì)算機(jī)科學(xué)家，他在紐約的高分辨率衛(wèi)星圖像上覆蓋了人口普查數(shù)據(jù)，并通過(guò)神經(jīng)網(wǎng)絡(luò)來(lái)豐富它的數(shù)據(jù)庫(kù)。（他在圣路易斯利用人口普查數(shù)據(jù)和衛(wèi)星圖像做了同樣的事情，但每個(gè)模型只能預(yù)測(cè)對(duì)應(yīng)城市的家庭收入。）

Aman TIwari解釋到，人工智能開(kāi)始將城市景觀中的視覺(jué)模式與收入聯(lián)系起來(lái)，不同的物體和形狀似乎與不同的收入水平相關(guān)，停車場(chǎng)聯(lián)系著低收入，綠地聯(lián)系著高收入，諸如此類。TIwari與數(shù)據(jù)可視化工作室Stamen合作，創(chuàng)建了一個(gè)界面來(lái)探索這些相關(guān)性。你可以在這個(gè)用戶界面上隨意拖拽棒球棒、太陽(yáng)能板、建筑物或其他東西到你的城鎮(zhèn)中。

創(chuàng)造Penny的主要目的并不是設(shè)計(jì)一座城市，而是可以更多地了解人工智能到底可以做什么，不能做什么。通常情況下，Penny依據(jù)直覺(jué)作出反應(yīng)。把高速公路或停車場(chǎng)搬到上東區(qū)，人工智能預(yù)測(cè)的收入中值會(huì)更低。再加上一些褐砂石和公園到紐約東部，突然間收入中位數(shù)增加了。Penny總會(huì)給你帶來(lái)一些不可思議。把廣場(chǎng)酒店扔進(jìn)哈萊姆區(qū)，讓Penny更確信這是一個(gè)低收入地區(qū)，即使添加樹(shù)也不能將收入拉高。

人工智能違背直覺(jué)的情況，凸顯了任何基于機(jī)器學(xué)習(xí)的系統(tǒng)的力量和局限性。TIwari表示：“我們不知道它是否知道我們沒(méi)有注意到的東西，或者它作出的判斷是完全錯(cuò)誤的。

“有時(shí)候，人工智能會(huì)做出一些神奇的事情，或者在一些問(wèn)題上給出非常明智的解決方案，但這個(gè)解決方案對(duì)我們來(lái)說(shuō)是有的時(shí)候無(wú)法理解的，所以我們不明白為什么它的行為是違反直覺(jué)的，”Jeff Clune作出評(píng)論。他是懷俄明州的一名計(jì)算機(jī)科學(xué)家，研究了神經(jīng)網(wǎng)絡(luò)的不透明內(nèi)部運(yùn)作。“但同時(shí)，這些系統(tǒng)并不像我們認(rèn)為的那樣知道的那么多，而且它們經(jīng)常以奇怪或令人困惑的方式作出錯(cuò)誤的決定。也就是說(shuō)，它們做出的預(yù)測(cè)很多時(shí)候是非常不準(zhǔn)確的，因?yàn)樗鼈兊腻e(cuò)誤有的時(shí)候很明顯。

”這樣的缺陷讓大量的科技工作者每天都在不斷與之互動(dòng)測(cè)試。比如Facebook的新聞推送，它使用算法來(lái)調(diào)整你的社交流構(gòu)成?；蛘吖雀璧男码娔X視覺(jué)平臺(tái)，Lens，把你手機(jī)的攝像頭變成了一個(gè)搜索框。或者是特斯拉汽車的事故規(guī)避技術(shù)草案。即使是那些創(chuàng)造了這些產(chǎn)品的人工智能工程師，也不能完全理解這些復(fù)雜的系統(tǒng)所做的決定。

Penny讓我們得以見(jiàn)證人工智能和機(jī)器學(xué)習(xí)對(duì)城市的意義。“這項(xiàng)科技不是為了決定是否在你的院子里安置一座籬笆墻，而是為了幫助我們理解機(jī)器是如何對(duì)我們的世界發(fā)揮作用的，”他數(shù)字地球公司產(chǎn)品經(jīng)理Jordan Winkler說(shuō)。該公司為這一項(xiàng)目提供了衛(wèi)星圖像。但他表示，Penny主要是為了讓人們了解人工智能和機(jī)器學(xué)習(xí)是如何工作的，或者是不可以做什么。

佩妮很好地處理了這個(gè)任務(wù)，有效的減少了用戶探索的時(shí)間。如果佩妮的早期預(yù)測(cè)符合用戶的期望，他們就不會(huì)再進(jìn)一步檢驗(yàn)這個(gè)系統(tǒng)的準(zhǔn)確性了。他們只會(huì)認(rèn)為人工智能是非常聰明的。Clune說(shuō)：“這表明，在人工智能王國(guó)一切都進(jìn)行的井井有序，但實(shí)際上背后的事情要復(fù)雜得多。”只有不斷花時(shí)間用這個(gè)系統(tǒng)去探索并發(fā)現(xiàn)錯(cuò)誤的和人們預(yù)期不相似的結(jié)果，你才會(huì)開(kāi)始質(zhì)疑它結(jié)果的可靠性，以及它工作的原理。

我們?cè)倩氐教乩势沾髲B的例子，增加一個(gè)直升機(jī)停機(jī)坪會(huì)減少預(yù)測(cè)的收入種植，因?yàn)橹鄙龣C(jī)停機(jī)坪是影響的負(fù)面因素，還是因?yàn)榧由狭艘粋€(gè)因素而改變了其他財(cái)富相關(guān)特征？所以我們是否可以假設(shè)佩妮的決定基于一些獨(dú)立的因素比如樹(shù)木、直升機(jī)或者建筑物，還是從整體來(lái)看所有的因素都會(huì)產(chǎn)生影響呢？不過(guò)從某種程度上來(lái)說(shuō)，Penny是一個(gè)很有價(jià)值的工具，因?yàn)樗屓藗兯伎妓澈蟮墓ぷ鳈C(jī)制。

在目前的版本中，這個(gè)模型引發(fā)的問(wèn)題比它提供的答案更多。Clune說(shuō)，一個(gè)解決方案是讓模型產(chǎn)生低、中、高收入的社區(qū)。對(duì)于人工智能來(lái)說(shuō)，這項(xiàng)任務(wù)更像是在寫(xiě)一篇論文，而不是一個(gè)多項(xiàng)選擇考試。它會(huì)讓人們?cè)谂cPenny的互動(dòng)中，更全面地了解它所看到的、知道的和關(guān)心的。