最近引起轟動(dòng)的AI失控事件可以追溯到上個(gè)月Facebook傳出關(guān)閉智能對(duì)話機(jī)器人項(xiàng)目的消息。研究員對(duì)兩個(gè)聊天機(jī)器人進(jìn)行對(duì)話策略迭代升級(jí),結(jié)果發(fā)現(xiàn)它們竟自行發(fā)展出了人類無(wú)法理解的獨(dú)特語(yǔ)言,科研人員不得不對(duì)其進(jìn)行人工干預(yù)。

Facebook近日公開回應(yīng)關(guān)閉AI失控語(yǔ)言事件,認(rèn)為一些媒體的報(bào)道有失事實(shí),造成不良影響。Facebook并沒有關(guān)閉機(jī)器人聊天系統(tǒng),而是在使它們變得更加聰明可控。

一篇論文引起的風(fēng)波

事件起源于Facebook上個(gè)月發(fā)表的一篇論文。論文中闡述了一個(gè)Facebook例行的科學(xué)研究項(xiàng)目,展示了兩個(gè)人工智能機(jī)器人如何在看過(guò)人類的談判后,開始互相之間展開對(duì)話交流,并通過(guò)試錯(cuò)逐漸提升談判的能力。

具體而言,Facebook人工智能研究院的科學(xué)家利用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)開發(fā)了一個(gè)人工智能系統(tǒng)。這個(gè)結(jié)構(gòu)叫做“生成式對(duì)抗網(wǎng)絡(luò)”(GenerativeAdversarialNetworks,GAN)。所謂“生成式對(duì)抗網(wǎng)絡(luò)”,就好比人類的對(duì)抗游戲,你的賬戶能在不斷的對(duì)抗中提升技能,玩得越多,水平就會(huì)越高。

Facebook的研究人員希望訓(xùn)練這樣一個(gè)聊天機(jī)器人,讓它帶著“目的”和人類對(duì)話。這個(gè)目的也很簡(jiǎn)單:一共有兩本書、一頂帽子和三個(gè)籃球,三樣?xùn)|西分別設(shè)定了不同的權(quán)重,為的是讓機(jī)器人明白它到底有哪些需求,然后去和人談判。

Facebook的研究員對(duì)兩個(gè)機(jī)器人聊天能聊成什么樣產(chǎn)生了興趣。在研究過(guò)程中,系統(tǒng)中的兩個(gè)聊天機(jī)器人Alice和Bob產(chǎn)生了讓人看不懂的對(duì)話。這段對(duì)話炸一看像是一堆無(wú)法解讀的亂碼,研究人員后來(lái)發(fā)現(xiàn),原來(lái)是在為系統(tǒng)設(shè)置激勵(lì)條件時(shí),雖然告訴了它們“請(qǐng)用英文”,但忘了告訴它們:“請(qǐng)用英文語(yǔ)法”。

這原本是一個(gè)非常正常的純學(xué)術(shù)研究。Facebook人工智能實(shí)驗(yàn)室(FAIR)主任YannLeCun此前接受第一財(cái)經(jīng)記者專訪時(shí)透露,Facebook每年大約會(huì)提交近百篇這樣的論文,并公開實(shí)驗(yàn)結(jié)果。但這項(xiàng)研究卻因?yàn)楣剂巳祟愃鶡o(wú)法理解的語(yǔ)言而受到媒體的大肆炒作。甚至有人擔(dān)心“失控”的語(yǔ)言將威脅到人類,必須“關(guān)閉”。

北京的一家科技公司國(guó)承萬(wàn)通CEO郭成博士對(duì)第一財(cái)經(jīng)記者表示:“Facebook不太高明的工程師寫了個(gè)不太高明的算法,里面忘記設(shè)置要用英語(yǔ)語(yǔ)法交流,結(jié)果兩臺(tái)機(jī)器自己不管語(yǔ)法,搞了點(diǎn)人仔細(xì)看也能看懂的語(yǔ)言出來(lái)。就像我們小時(shí)候玩的紅白機(jī)boss會(huì)做一些詭異的攻擊動(dòng)作一樣。”他補(bǔ)充道,人工智能可能還很傻,千萬(wàn)別高估了它。

Facebook研究人員對(duì)此表示:“人工智能機(jī)器人確實(shí)沒有使用標(biāo)準(zhǔn)正確的英語(yǔ)語(yǔ)法進(jìn)行對(duì)話,但這并不是重點(diǎn)。這項(xiàng)研究原本是為了使得機(jī)器人之間能夠更加有效地進(jìn)行談判,我們的目的達(dá)到了,完成了任務(wù)。”

為此,Facebook重新設(shè)定了正確的激勵(lì)機(jī)制,修正了機(jī)器人的行為,讓機(jī)器人說(shuō)“人話”。這段表態(tài)中值得注意有兩點(diǎn),其一,機(jī)器人并沒有發(fā)明自己的語(yǔ)言,只是創(chuàng)造了新的表達(dá)方式,其二,Facebook修正機(jī)器人行為,并不代表“關(guān)掉”這個(gè)系統(tǒng),原因也不是因?yàn)楹ε孪到y(tǒng)失控,而是為了更加有效地進(jìn)行新的實(shí)驗(yàn)。

上海威盛電子語(yǔ)音交互部門技術(shù)總監(jiān)張國(guó)峰對(duì)第一財(cái)經(jīng)記者表示:“只是一項(xiàng)普通的研究實(shí)驗(yàn),最終的目的也不是讓兩個(gè)機(jī)器人聊天,而是通過(guò)機(jī)器人和機(jī)器人的聊天,來(lái)提高機(jī)器人和人聊天的技巧。根本還是為了實(shí)現(xiàn)人機(jī)之間的交互。”

至于Facebook為什么要允許兩個(gè)機(jī)器人之間進(jìn)行交流,張國(guó)峰表示,因?yàn)闄C(jī)器人的表達(dá)方式有限,因此機(jī)器人與機(jī)器人的對(duì)話相對(duì)容易做,而目前的人工智能技術(shù)尚不支持機(jī)器人的邏輯推理能力。

張國(guó)峰向第一財(cái)經(jīng)記者說(shuō)道:“給機(jī)器設(shè)定策略和另外一個(gè)機(jī)器談判,這確實(shí)看上去很智能,但這還是在人設(shè)定的邏輯框架下,目前的人工智能尚不具備邏輯推理的能力。

他進(jìn)一步解釋道,Facebook“關(guān)閉”的這個(gè)項(xiàng)目就是試圖在開放領(lǐng)域通過(guò)互相對(duì)話來(lái)學(xué)習(xí)對(duì)話策略以及表達(dá)方式。“但這并不是說(shuō)發(fā)明了新的語(yǔ)言,而是它們的語(yǔ)言完全不收斂,這個(gè)項(xiàng)目的方法錯(cuò)了,沒有繼續(xù)的必要。沒有內(nèi)在的推理和記憶能力,通過(guò)統(tǒng)計(jì)方法學(xué)習(xí)是一條死路。”

通過(guò)機(jī)器之間的互相博弈來(lái)學(xué)習(xí),AlphaGo此前已經(jīng)加入了圍棋推理和記憶能力,所以自己和自己下棋能夠提高棋藝,但是這種推理還是由人類加入的推理,仍然無(wú)法在開放領(lǐng)域?qū)崿F(xiàn)。所謂開放領(lǐng)域,就是指沒有限制的對(duì)話。相比較于機(jī)器之間的對(duì)話,機(jī)器與人的對(duì)話更難,就是因?yàn)槿说恼Z(yǔ)言是毫無(wú)限制的。

人工智能威脅論再現(xiàn)

雖然人工智能發(fā)展迅速,但是目前機(jī)器的智慧水平還遠(yuǎn)不及人類。所以盡管人工智能威脅論幾乎每十年就會(huì)被拋出一次,但反對(duì)的聲音蓋過(guò)威脅論。為此,FacebookCEO扎克伯格還和特斯拉CEO馬斯克懟上了。馬斯克說(shuō)他一談到人工智能,就感到恐懼,他認(rèn)為人工智能是人類存在的最大風(fēng)險(xiǎn)。而扎克伯格卻認(rèn)為人工智能會(huì)讓人們的生活更美好,還稱馬斯克的威脅論極不負(fù)責(zé)任。

創(chuàng)新工場(chǎng)董事長(zhǎng)、CEO李開復(fù)也公開反對(duì)馬斯克的“威脅論”,他明確反對(duì)馬斯克“人工智能終將滅絕人類”的悲觀論調(diào)。李開復(fù)表示,人工智能現(xiàn)在僅僅是人類的工具,離擁有意識(shí)的“超級(jí)智能”的能力還非常遙遠(yuǎn)。

針對(duì)此次Facebook關(guān)閉“失控”AI事件,李開復(fù)發(fā)表文章稱,人形機(jī)器人將馬上進(jìn)入千家萬(wàn)戶的說(shuō)法是無(wú)稽之談。當(dāng)機(jī)器人在言談舉止各方面都與人類極其相似時(shí),普通家庭用戶對(duì)機(jī)器人的“人類素質(zhì)”的期望也會(huì)變得高不可攀。僅僅這種期望所帶來(lái)的失望就足以讓很多公司的“未來(lái)十年讓科幻小說(shuō)成為現(xiàn)實(shí)”的展望受挫,更別提消費(fèi)市場(chǎng)對(duì)價(jià)格的苛刻要求了。

對(duì)人工智能持懷疑態(tài)度的最強(qiáng)大的代表是著名物理學(xué)家霍金。在今年早些時(shí)候舉行的2017全球移動(dòng)互聯(lián)網(wǎng)大會(huì)(GMIC)上,霍金通過(guò)視頻發(fā)表主題演講。他表示:“人工智能的崛起可能是人類文明的終結(jié)。”

這已經(jīng)不是霍金第一次提出“人工智能威脅論”。在今年3月,霍金向英國(guó)《媒體》表示,人類必須建立有效機(jī)制盡早識(shí)別威脅所在,防止人工智能對(duì)人類的威脅進(jìn)一步上升。

不過(guò),霍金也表示,雖然他對(duì)人工智能有各種擔(dān)憂,但他對(duì)人工智能技術(shù)本身還是抱有樂觀的態(tài)度。他認(rèn)為人工智能帶來(lái)的收益是巨大的,人類或許借助這一強(qiáng)大的工具,可以減少工業(yè)化對(duì)自然的傷害。但他表示不確定我們是會(huì)被智能無(wú)限地幫助,還是被無(wú)限地邊緣化,甚至毀滅。

借用霍金的話說(shuō):“這是一個(gè)美麗但充滿不確定的世界,而你們是先行者。”