谷歌開發(fā)者大會爐邊談話:AI如何影響人類理解大腦
導語:Geoffrey Hinton在谷歌I/O大會爐邊談話中討論深層神經(jīng)網(wǎng)絡,解析AI技術可行性及意義。
智東西5月10日消息,最新一屆圖靈獎得主、多倫多大學名譽教授兼谷歌大腦AI 團隊的高級研究員Geoffrey Hinton在山景城(Mountain View)谷歌I / O開發(fā)者大會的爐邊聊天中發(fā)表了講話。他討論了神經(jīng)網(wǎng)絡的起源,以及人工智能的可行性和意義。
Geoffrey Hinton被稱為“人工智能教父”,在過去30年里一直致力于解決AI面臨的一些最大挑戰(zhàn)。除了在機器學習方面的開創(chuàng)性工作,Geoffrey Hinton還撰寫或與別人合著了共200多篇同行評議的論文,其中包括1986年關于機器學習技術的一篇叫做“backpropagation”(反向傳播)的論文。
Geoffrey Hinton推廣了深層神經(jīng)網(wǎng)絡的概念,包含上述功能的人工智能模型,它們被安排在相互連接的層中,傳輸“信號”并調(diào)整連接的突觸強度(權重)。通過這種方式,他們從輸入數(shù)據(jù)中提取特征,并學會做出預測。
一、自注意力網(wǎng)絡優(yōu)于最先進模型,所需訓練數(shù)據(jù)更少
Transformers是一種自注意力網(wǎng)絡架構,是一系列深度神經(jīng)網(wǎng)絡體系結構,通過自注意力層相互堆疊,多重轉換學習輸入分詞,在具體的情境中得到了完善。谷歌的研究人員兩年前的在一篇博客文章和隨附論文“注意力就是你所需要的一切”中對此進行了詳細闡述。由于動態(tài)計算權重的注意力機制,Transformers在語言翻譯任務中的表現(xiàn)優(yōu)于最先進的模型,而且訓練所需的計算量更少。
Geoffrey Hinton承認,創(chuàng)新的步伐甚至讓他感到驚訝。他表示“在2012年的時候,我并沒想到在未來五年內(nèi),我們會使用相同的技術在多種語言之間進行翻譯?!?/p>
Geoffrey Hinton認為,當前的AI和機器學習方法有其局限性。他指出,大多數(shù)計算機視覺模型沒有反饋機制,也就是說,它們不會嘗試從更高層次的表示中重建數(shù)據(jù)。相反,他們試圖通過改變權重來區(qū)分性地學習特征。
Geoffrey Hinton說:“”他們并沒有在各種級別特征探測器級別上檢查他們是否能夠重建下面的數(shù)據(jù)?!?/p>
二、AI研究為神經(jīng)科學提供借鑒
Geoffrey Hinton和他的同事最近轉向人類視覺皮層尋求靈感。Geoffrey Hinton表示,人類視覺需要一種重建的學習方法,事實證明,計算機視覺系統(tǒng)中的重建技術增強了他們對抗對抗性攻擊的能力。
大腦科學家們都同意這樣的觀點,如果你的大腦皮層有兩個區(qū)域處于知覺通路中,并且一個區(qū)域與另一個區(qū)域之間存在聯(lián)系,那么總會有一個向后的路徑?!?/p>
Geoffrey Hinton認為,神經(jīng)科學家可以從AI研究人員那里學到很多東西。他認為未來的AI系統(tǒng)大多數(shù)都是無監(jiān)督的。無監(jiān)督學習是機器學習的一個分支,可以從未標記的、未分類和未分類的測試數(shù)據(jù)中收集知識。其學習共性、并對共性的存在或不存在做出反應的能力幾乎與人類相似。
如果你采用具有數(shù)十億參數(shù)的系統(tǒng),并且在一些目標函數(shù)中進行學術梯度下降,它的效果會比預期的要好得多,規(guī)模越大,效果越好。Geoffrey Hinton說:“這使得大腦計算某些目標功能的梯度并更新突觸的強度以遵循這一梯度的說法更加可信。我們只需要知道它是如何得到梯度的,以及目標函數(shù)是什么?!?/p>
Geoffrey Hinton認為,這甚至可能解開夢的奧秘。關于為什么我們會不記得夢境的疑問。他認為這可能與“忘卻”有關,他在一篇關于玻爾茲曼機器的合著論文中解釋了這一理論。這些AI系統(tǒng),由對稱連接的神經(jīng)元單位組成網(wǎng)絡,可以隨機決定是“開”還是“關”,通過系統(tǒng)觀察到的數(shù)據(jù)結果來看,“忘卻”并不那么令人驚訝。
Geoffrey Hinton說:“做夢的意義可能在于,你把整個學習過程顛倒過來?!?/p>
三、神經(jīng)網(wǎng)絡學習應用于教育領域會帶來何種改變?
Geoffrey Hinton相信,這些學習可以改變許多領域,比如教育,他預計將人類生物化學的課程變得更加個性化、針對性更強。
Geoffrey Hinton說:“你可能會認為,如果我們真正了解目前的情況,我們應該能夠改善教育等方面的狀況,我認為我們會做到。如果你最終能夠理解大腦是如何工作以及學習的,卻不為了更好地學習而去適應環(huán)境,那將是非常奇怪的?!?/p>
他警告說,這需要時間。就近期而言,Geoffrey Hinton設想了智能助理的未來,比如Google Assistant或Amazon的Alexa,它們可以與用戶互動,并在日常生活中引導他們。
Geoffrey Hinton的預測是在谷歌的前執(zhí)行主席Eric Schmidt最近的一次演講之后發(fā)布的。Eric Schmidt同樣相信,在未來,個性化的AI助手將使用我們的行為知識來讓我們了解情況。
Geoffrey Hinton總結說:“在幾年內(nèi),我不確定我們會學到多少東西。但是如果你仔細看看,助理程序現(xiàn)在已經(jīng)相當智能,一旦它們能夠真正理解對話,智能助理就可以與孩子進行對話并教育他們?!?/p>
結語:AI融入生活,技術改變未來
AI已經(jīng)逐漸融入了我們的日常生活,無論是智能家居產(chǎn)品還是智能穿戴設備,都成為了我們簡化我們工作生活的工具。
未來AI技術還有無限的發(fā)展?jié)摿?,它也將對我們的未來生活產(chǎn)生越來越大的影響。