《連線》專訪奧巴馬：神經(jīng)網(wǎng)絡(luò)、自動駕駛和世界的未來

很難想象，未來50年中還有別的技術(shù)比人工智能對人類世界的影響更大。目前，機(jī)器學(xué)習(xí)技術(shù)正幫助我們的計(jì)算機(jī)自學(xué)各種技能，因此各種突破指日可待，無論是醫(yī)療診斷，還是自動駕駛汽車。與此同時(shí)，人們也產(chǎn)生了越來越大的擔(dān)憂。

誰將控制科技?

技術(shù)是否將搶走我們的工作?

人工智能危險(xiǎn)嗎?

美國總統(tǒng)奧巴馬很愿意回答這些問題。近期，奧巴馬和麻省理工學(xué)院媒體實(shí)驗(yàn)室主任伊藤穰一在白宮接受了《連線》雜志的專訪，他們談到了關(guān)于人工智能的希望、熱潮和擔(dān)憂。AI世代對此進(jìn)行了翻譯整理。

以下為專訪全文：

《連線》：最近怎么樣，總統(tǒng)先生?

奧巴馬：很忙，很有建設(shè)性。你知道，許多地方發(fā)生了國際危機(jī)。

《連線》：我希望對話能圍繞人工智能。人工智能正在從科幻小說變成現(xiàn)實(shí)，改變我們的生活。你是何時(shí)知道，真正的人工智能時(shí)代已經(jīng)降臨?

奧巴馬：我的觀察是，人工智能正在以各種方式滲透至人們的生活，但我們尚未察覺。部分原因在于，流行文化對人工智能的描繪存在偏見?！哆B線》的讀者可能已經(jīng)知道，通用人工智能和專用人工智能之間存在差別。在科幻小說中，你看到的是通用人工智能。計(jì)算機(jī)比人類更聰明，而結(jié)論是人類變得越來越?jīng)]用。隨后，人工智能給我們灌輸“毒品”，讓我們在愉快中變得肥胖，或者我們將會陷入《黑客帝國》的世界。

根據(jù)高級科學(xué)顧問與我的對話，我們距離這樣的現(xiàn)實(shí)還很遙遠(yuǎn)。思考這樣的場景很有價(jià)值，這讓我們想象力發(fā)散，促使我們思考選擇和自由意志等問題，最終帶來圍繞專用人工智能的重要應(yīng)用。我們已在生活的各個(gè)領(lǐng)域看到了專用人工智能，例如醫(yī)藥、交通，以及電力傳輸。這創(chuàng)造了更高效的經(jīng)濟(jì)。如果妥善應(yīng)用，專用人工智能可以帶來繁榮和機(jī)會。不過從導(dǎo)致就業(yè)機(jī)會減少來看，專用人工智能也存在不利的方面，而我們需要對此進(jìn)行研究。這可能導(dǎo)致不平等，影響工資水平。

伊藤穰一：這也讓我們麻省理工學(xué)院的學(xué)生們感到失望。然而我擔(dān)心的問題之一在于，這一領(lǐng)域?qū)⒈荒贻p的孩子，尤其是白人孩子們所主導(dǎo)。他們將圍繞人工智能開發(fā)核心的計(jì)算技術(shù)。相對于與人交談，與計(jì)算機(jī)的對話讓他們更舒適。他們中許多人認(rèn)為，如果能開發(fā)出類似科幻小說中的通用人工智能，我們將不必?fù)?dān)心政治和社會等許多復(fù)雜問題。他們認(rèn)為，機(jī)器將為我們指明所有一切。

奧巴馬：是的。

伊藤穰一：然而他們低估了困難，我認(rèn)為，今年人工智能將不再僅僅是計(jì)算機(jī)問題。所有人都需要理解人工智能的行為方式，這很重要。在媒體實(shí)驗(yàn)室，我們采用術(shù)語擴(kuò)展智能(擴(kuò)展智能意為通過機(jī)器學(xué)習(xí)技術(shù)去強(qiáng)化人類智能)。因?yàn)閱栴}在于，我們要如何給人工智能帶來社會價(jià)值?

奧巴馬：在我們剛剛的午餐過程中，伊藤穰一用無人駕駛汽車來舉例。技術(shù)已經(jīng)在這里。我們的機(jī)器可以做出許多快速決策，大幅減少交通事故，提高交通路網(wǎng)的效率，協(xié)助解決導(dǎo)致全球變暖的碳排放等問題。然而，伊藤穰一提出了非常重要的一點(diǎn)，即我們可以給汽車加入什么價(jià)值?你可以做許多選擇，而最典型的問題是：當(dāng)自動駕駛時(shí)，車輛可以轉(zhuǎn)向避免撞到行人，但汽車將會因此撞墻導(dǎo)致你自己的傷亡。這是個(gè)道德問題，而誰可以來制定這些規(guī)則?

伊藤穰一：在我們研究這一“搭車問題”時(shí)，我們發(fā)現(xiàn)許多人都更傾向于犧牲司機(jī)和乘客，確保更多人的安全。不過他們也表示，不會購買無人駕駛汽車。(笑)

《連線》：在我們探討人工智能的道德問題時(shí)，政府將扮演什么角色?

奧巴馬：我的看法是，在人工智能的早期發(fā)展階段，監(jiān)管框架應(yīng)當(dāng)支持百花齊放。政府應(yīng)當(dāng)施加相對較少的監(jiān)管，更多地投資于科研，確?；A(chǔ)研究和應(yīng)用研究之間的轉(zhuǎn)化。隨著技術(shù)的興起和成熟，隨后我們要考慮如何將其納入現(xiàn)有監(jiān)管框架中。這是個(gè)更難的問題，而政府需要更多參與。我們并不總是要讓新技術(shù)去適應(yīng)現(xiàn)存監(jiān)管框架，而是確保監(jiān)管符合更廣泛的價(jià)值。否則我們可能會發(fā)現(xiàn)，某些人群將因此處于不利地位。

伊藤穰一：不知道你是否聽過神經(jīng)多元化運(yùn)動?？屏_拉多州立大學(xué)教授坦佩爾·格拉丁(Temple Grandin)認(rèn)為，如果莫扎特、愛因斯坦和特斯拉仍然健在，那么都會被認(rèn)為是自閉癥患者。

奧巴馬：他們可能屬于自閉癥譜系人群。

伊藤穰一：是的。如果我們消除自閉癥，讓所有人的精神都保持正常，我可以打賭，麻省理工學(xué)院的許多孩子們將不會是現(xiàn)在這樣。無論我們討論的是自閉癥還是更廣泛的多元化，問題之一都在于，我們何時(shí)才允許市場來做出決定。即使你可能不希望自己的孩子成為愛因斯坦，但簡單地表態(tài)“我想要個(gè)普通孩子”，這也無法創(chuàng)造最大化的社會價(jià)值。

奧巴馬：這是我們與人工智能打交道時(shí)面臨的更大的問題。人類的一大特點(diǎn)就是會有奇思妙想。有時(shí)，一些突變或異常反而能創(chuàng)造出藝術(shù)和新發(fā)明。我們必須假定，如果系統(tǒng)是完美的，那么就是靜態(tài)的。然而讓人類發(fā)展到目前狀態(tài)，確保人類生存的重要一部分在于，我們是動態(tài)的，我們常常干出乎意料的事。我們需要思考的挑戰(zhàn)之一在于，何時(shí)何地讓事情嚴(yán)格按照預(yù)想中發(fā)展才合適?

《連線》：關(guān)于將擴(kuò)展智能用于政府、民營行業(yè)和學(xué)術(shù)界，研究中心在哪，或者說是否有這樣的中心?

伊藤穰一：我認(rèn)為，麻省理工學(xué)院可能會說，應(yīng)該是在麻省理工。(笑)以往，這通常是一群學(xué)術(shù)界人士，并獲得了政府的協(xié)助。然而目前，大部分投資達(dá)到10億美元的實(shí)驗(yàn)室都屬于企業(yè)。

奧巴馬：我們認(rèn)識向人工智能投資的人士。如果你接觸拉里·佩奇(Larry Page)或其他這些人，他們一般的態(tài)度是，“在我們尋求獨(dú)角獸的過程中，最不想看到的是一系列官僚主義導(dǎo)致進(jìn)度放慢”。這樣的想法可以理解。

然而我們看到的問題的一部分是，社會對基礎(chǔ)研究的投入正在減少。我們共同行動的信心正在消失，這部分是由于我們的思想和言論。

關(guān)于偉大的技術(shù)突破，我們?nèi)栽谑褂玫念惐仁堑窃?，即使登月已?jīng)過去了50年。有人提醒我，登月項(xiàng)目的耗資達(dá)到了GDP的0.5%。這聽來不算什么，但按今天的情況來看相當(dāng)于每年花800億美元。實(shí)際上，我們目前每年對人工智能的投入只有不到10億美元。這一數(shù)字毫無疑問將上升，但我們需要理解的一點(diǎn)是，如果希望這些突破性技術(shù)去代表多元化群體的價(jià)值，那么政府投資必須成為其中的一部分。如果政府不參與投資，那么伊藤穰一提出的關(guān)于技術(shù)價(jià)值的問題將不會得到解答，甚至不會被討論。

《連線》：你提到了一種有趣的緊張關(guān)系，而伊藤穰一曾經(jīng)也寫過：邊緣創(chuàng)新與發(fā)生在諸如太空項(xiàng)目中創(chuàng)新的差異。我們?nèi)绾未_保所有這些思想得到傳播?

奧巴馬：我想要強(qiáng)調(diào)的是，政府提供資金并收集數(shù)據(jù)并不意味著我們會隱瞞，或是軍方需要這些?？梢耘e個(gè)具體例子：在精確醫(yī)療的項(xiàng)目中，所做工作的一部分是通過足夠多的美國人收集關(guān)于人類基因足夠大的數(shù)據(jù)集。我們的做法不是向斯坦福大學(xué)或哈佛大學(xué)提供資金，讓他們獨(dú)享這些樣本數(shù)據(jù)，而是提供了一個(gè)所有人都可以訪問的基因數(shù)據(jù)庫。我們提供了公共的數(shù)據(jù)值、公共的架構(gòu)，確保研究可以被分享，而不是只被某個(gè)集團(tuán)用于謀利。

《連線》：然而毫無疑問會存在一些風(fēng)險(xiǎn)。我們聽到伊隆·馬斯克(Elon Musk)和尼克·博斯特羅姆(Nick Bostrom)等人說，人工智能的發(fā)展有可能超過我們的理解能力。隨著我們的進(jìn)步，我們要如何看待他們的言論?我們不僅試圖保護(hù)自己，還試圖保護(hù)整個(gè)人類。

奧巴馬：我們首先來談?wù)勛钇惹械膿?dān)心。在專用人工智能的領(lǐng)域，這是個(gè)可以解決的問題。我們需要警惕。如果你的計(jì)算機(jī)可以下圍棋，一種有著許多變化的復(fù)雜棋類游戲，那么開發(fā)一種算法，讓你在紐約股票交易所的利潤最大化也并非遙不可及。如果有人或組織首先做到了這點(diǎn)，那么他們就可以迅速摧垮股市，或是導(dǎo)致我們對金融市場的完備性產(chǎn)生懷疑。

隨后，可能會有一種算法說：“去滲透核武器密碼，研究如何發(fā)射導(dǎo)彈。”如果這就是軟件的全部工作，如果軟件能自我學(xué)習(xí)，同時(shí)又是個(gè)非常有效的算法，那么你就會遇到麻煩。我對國家安全團(tuán)隊(duì)的指令是，目前還不用太擔(dān)心機(jī)器會掌管世界。如果你擔(dān)心的是非政府組織，或是懷有敵意的活動者去滲透這些系統(tǒng)，那么從理論上來說，這與我們目前所做的信息安全工作沒有太大區(qū)別。這只是意味著，我們需要做得更好，因?yàn)榭赡懿渴疬@些系統(tǒng)的人也在變得更厲害。

伊藤穰一：總體上同意這一說法。唯一的警告是，有些人認(rèn)為，有很高的概率通用人工智能會在未來10年中誕生。然而在我看來，如果希望開發(fā)出通用人工智能，那么我們需要十余項(xiàng)甚至二十余項(xiàng)突破。你可以看看，這些突破會發(fā)生在什么時(shí)間。

奧巴馬：你可以讓人坐在電源旁。(笑)如果你發(fā)現(xiàn)通用人工智能誕生，那么可以讓他立即把電源拔了。

伊藤穰一：重要的是找到愿意將人工智能用于善意用途的人群，包括社區(qū)和領(lǐng)導(dǎo)者，隨后研究如何給予他們幫助。

奧巴馬：傳統(tǒng)上，當(dāng)我們思考安全問題，以及如何保護(hù)自己時(shí)，我們會想到盔甲和墻壁。然而目前我會越來越多地想到藥品、病毒和抗體。信息安全問題依然很困難，部分原因在于，威脅并不像是一隊(duì)坦克朝你沖來，而是整個(gè)系統(tǒng)很容易被蠕蟲入侵。這意味著，對于安全問題我們需要有不同的思考，進(jìn)行不同的投資。這樣的投資可能并不性感，但卻與其他東西一樣重要。

很多時(shí)候我會擔(dān)心諸如傳染病的問題。你不可能建設(shè)一堵墻，將通過空氣傳播的致命流感阻擋在我們的土地外。我們需要具備的能力是建設(shè)體系，在全世界各個(gè)地方發(fā)展公共健康系統(tǒng)，在發(fā)現(xiàn)有異常時(shí)啟動開關(guān)通知我們，確保我們有迅速執(zhí)行的協(xié)議和系統(tǒng)，讓疫苗更智能。因此，通過公共健康的模式，你就可以想象我們?nèi)绾翁幚硇畔踩珕栴}，以及如何以建設(shè)性的方式去思考人工智能威脅。

伊藤穰一：有趣的一方面在于我們?nèi)绾慰创⑸铩Ｓ卸喾矫孀C據(jù)顯示，利用好細(xì)菌去攻擊壞細(xì)菌，而非全面殺菌，是一種策略。

奧巴馬：是這樣。我不會允許寵物犬Sunny和Bo5去舔我，因?yàn)楫?dāng)我在路邊草坪遛狗時(shí)，我發(fā)現(xiàn)他們會撿地上的東西咬。我可不想要這些。(笑)

伊藤穰一：我們需要思考，干凈的定義是什么。信息安全和國家安全的情況也類似。我認(rèn)為，如果你的思路是制定嚴(yán)格命令，或是清除一切可能的病原體，那么將非常困難。

《連線》：這是否可能帶來新軍備競賽的風(fēng)險(xiǎn)?

奧巴馬：毫無疑問，圍繞信息安全和人工智能制定國際準(zhǔn)則、協(xié)議和認(rèn)證機(jī)制還處于起步階段。這一問題之所以有趣，部分是因?yàn)楣艉头烙g的界線正在模糊。而在人們失去對政府信任的情況下，這尤為困難。全球許多國家都認(rèn)為美國是信息霸主，因此是時(shí)候我們?nèi)フf，“我們愿意自我限制，只要你們也愿意自我限制”。挑戰(zhàn)在于最復(fù)雜的政府參與者，例如俄羅斯和伊朗，他們通常和我們有著不同的價(jià)值觀和準(zhǔn)則。然而，我們需要把這些定位成國際問題，從而有效地處理。

伊藤穰一：我認(rèn)為，我們正處于人們愿意相互溝通的黃金時(shí)代。如果我們有能力保證，資金和能源可以帶來公開的分享，那么將有很多好處。你無法憑空做得很好，目前仍是國際社會的問題。

奧巴馬：我認(rèn)為伊藤穰一的說法完全正確。我們與對此感興趣的所有人舉辦了一系列會議。我們說得不多，而我想回頭去看的一方面是，我們需要思考經(jīng)濟(jì)方面的意義。大部分人沒有花很多時(shí)間去擔(dān)心“奇點(diǎn)”，而是擔(dān)心“我的工作是否會被機(jī)器取代”。

我傾向于持樂觀態(tài)度。以往我們也曾接受過新技術(shù)，人們會看到新工作崗位被創(chuàng)造出來，而他們將會隨之遷移，我們的生活標(biāo)準(zhǔn)將普遍上升。我認(rèn)為，由于人工智能和其他技術(shù)的普遍適用性，目前我們處于一個(gè)略微不同的時(shí)期。在這樣的體系下，高技能人才做得很好。他們可以利用自己的才能，可以通過機(jī)器界面去擴(kuò)大覆蓋，增加銷售，拓展產(chǎn)品和服務(wù)。

低薪酬、弱技能的人群將越來越顯得多余，他們的工作崗位可能不會被替代，但工資將持續(xù)受到壓力。如果我們希望成功管理這樣的過渡，那么關(guān)于如何進(jìn)行管理，我們需要展開全社會的對話。如果我們完成更多的生產(chǎn)，但其中越來越多的部分只被少數(shù)人獲取，那么我們?nèi)绾未_保經(jīng)濟(jì)具有包容性?我們?nèi)绾未_保，人們擁有維持生活的收入?從支持藝術(shù)和文化發(fā)展，或是確保老兵得到合適照顧的角度來看，這又意味著什么?社會契約需要容納這些新技術(shù)，我們的經(jīng)濟(jì)模式也需要容納這些技術(shù)。

伊藤穰一：很難猜測，什么樣的工作將被取代。如果假定你有一臺計(jì)算機(jī)，能理解醫(yī)療系統(tǒng)，非常善于診斷，那么相對于護(hù)士和藥劑師，醫(yī)生更容易被取代，因?yàn)樽o(hù)士和藥劑師的成本更低。一些高端工作崗位，例如律師和審計(jì)師，也有可能不復(fù)存在。相對而言，許多服務(wù)行業(yè)工種，以及藝術(shù)類工作，即計(jì)算機(jī)不太擅長的領(lǐng)域，很難被替代。我不知道你如何看待普遍基本收入，但當(dāng)我們看到有崗位被替代時(shí)，一種思路是我們?nèi)タ纯雌渌Ｊ?，例如學(xué)術(shù)研究和藝術(shù)，在這些領(lǐng)域人們的目標(biāo)不與金錢直接相關(guān)。我認(rèn)為，問題之一在于，我們有一種普遍的觀念，如果你沒錢，那么算什么聰明?但實(shí)際上，在學(xué)術(shù)界，我遇到過許多沒錢的聰明人。

奧巴馬：完全正確，這也是我所說的重新設(shè)計(jì)社會契約。目前，無論普遍基本收入是否是正確的模式，這一模式是否被廣泛的人群所接受?這是個(gè)我們已經(jīng)討論了10年、20年的話題。人工智能取代的不僅是弱技能的工作，也可能會是高技能的工作，但這些工作的可重復(fù)性很強(qiáng)，因此計(jì)算機(jī)有能力勝任。毋庸置疑的是，隨著人工智能得到更廣泛的應(yīng)用，社會可能會越來越富裕，生產(chǎn)和分配之間的關(guān)聯(lián)，即干多少和掙多少之間的關(guān)聯(lián)將越來越弱化。計(jì)算機(jī)將會去完成大量工作。因此，我們需要做一些更困難的決定。我們給老師們支付的報(bào)酬不足，盡管這是困難的工作，計(jì)算機(jī)也很難做得好。因此我們需要重新評估價(jià)值觀，我們愿意為什么樣的人支付更高的報(bào)酬，是教師、護(hù)士、護(hù)工、全職媽媽、藝術(shù)家?這些事都很有價(jià)值，但在我們的薪酬體系中排序不高。我們需要啟動這樣的對話。

《連線》：在解決政府中最大的挑戰(zhàn)時(shí)，你會關(guān)心什么樣的技術(shù)?

奧巴馬：為了讓政府對人民更友好，或者說至少讓你的報(bào)稅流程變得像點(diǎn)披薩或買機(jī)票一樣簡單，我們還有很多工作要做。無論是鼓勵(lì)人們投票，還是推進(jìn)大數(shù)據(jù)應(yīng)用，幫助人們更快地完成在線表格處理，都需要做很多工作，推動聯(lián)邦政府、州政府和地方政府進(jìn)入21世紀(jì)。政府和企業(yè)界的人才差距并不是那么大。然而，技術(shù)的差距是巨大的。當(dāng)我首次來到這里時(shí)，我認(rèn)為白宮戰(zhàn)情室肯定非常酷，就像是湯姆·克魯斯在《少數(shù)派報(bào)告》中場景。實(shí)際上根本不是這樣。(笑)特別是我們要打擊地球另一邊的恐怖分子時(shí)，電影會把我們描繪成為無所不能，實(shí)際并非如此。我們的資金不足，機(jī)制設(shè)置也不合理。

關(guān)于圍繞技術(shù)更廣泛的問題，我堅(jiān)定地相信，如果我們希望正確處理氣候改變，如果我們想要踩下剎車，阻止海平面上升6英尺，那么人類需要弄清一些問題。我是樂觀主義者。我們已經(jīng)完成了許多不錯(cuò)的工作，但還有很長的路要走。

關(guān)于我們要如何以負(fù)責(zé)任、透明、安全的方式管理互聯(lián)網(wǎng)上的連接，幫助我們找出壞家伙，并保證政府不會對我們所有人的生活造成太大干擾，我們?nèi)栽谶M(jìn)行研究。其中一些是技術(shù)問題，加密就是很好的例子。我多次見過自由主義者和與國家安全相關(guān)的人士。這是個(gè)棘手的問題，因?yàn)殛P(guān)于我們要如何調(diào)和這一問題，沒有人能給我真正好的答案。

由于這是個(gè)前沿問題，我希望提到的最后一點(diǎn)是，我仍是個(gè)太空迷，而在對下一代太空旅行展開探索的過程中我們的資金投入不足。民營公司完成了很棒的工作，因?yàn)閷Ο偪窀拍畹耐顿Y已經(jīng)取代了政府投資。不過當(dāng)我們設(shè)想太空飛行時(shí)，我們研究的仍然是“阿波羅”時(shí)代的化學(xué)反應(yīng)。時(shí)間已經(jīng)過了50年，我們應(yīng)當(dāng)取得一些突破。

《連線》：我知道你是《星際迷航》的粉絲。這部電影的靈感來自于對技術(shù)的烏托邦式理想。在你對未來的看法中，這帶來了什么影響?

奧巴馬：當(dāng)我還是小孩子時(shí)，我就很喜歡《星際迷航》。電影很有趣。讓這部電影經(jīng)久不衰的是，這實(shí)際上與技術(shù)無關(guān)。這關(guān)于價(jià)值觀和人際關(guān)系。這也說明了，為何特效不是那么重要。這部電影探討的關(guān)鍵在于共同人性，以及我們解決問題能力的信心。

近期有部電影反映了同樣的精神，這就是《火星救援》。不僅是因?yàn)檫@有著復(fù)雜的場景，也是由于電影中展示了許多不同人物嘗試解決同一個(gè)問題。通過創(chuàng)造性和努力，并堅(jiān)信最終能夠成功，我們就可以做到。這是我最喜歡美國的一點(diǎn)，也是這部電影持續(xù)吸引全球各地觀眾的原因，即對于面臨的問題，我們的精神是“我們可以解決這個(gè)問題”。以這種觀念來看，科學(xué)最大的價(jià)值也是在于幫助我們解決問題。我們會嘗試，如果不成功，我們將會探索為何不成功，隨后再進(jìn)行別的嘗試。我們將暴露自己的錯(cuò)誤，因?yàn)檫@最終將教會我們?nèi)绾谓鉀Q問題。如果失去這樣的精神，我們將會失去美國的本質(zhì)和人類的本質(zhì)。

伊藤穰一：完全贊成。我喜歡《星際迷航》中的樂觀精神。而我也看到，聯(lián)邦的構(gòu)成非常多元化，船員多元化，而壞家伙實(shí)際上并不是惡魔，他們只是被誤導(dǎo)。

奧巴馬：與任何優(yōu)秀的故事一樣，《星際迷航》所說的是，我們所有人都很復(fù)雜，我們總是有多個(gè)側(cè)面。這就是我所說的解決問題。解決問題的一部分是克服障礙，彌合差異。我們相信理性，并保持一定的謙卑。對最優(yōu)秀的藝術(shù)和科學(xué)來說，情況都是這樣。我們已經(jīng)掌握了可以為我所用的許多難以置信的思想。然而，我們?nèi)灾唤议_了幕布一角，不應(yīng)該過于自大。我們應(yīng)當(dāng)提醒自己，還有很多是我們不知道的。