據(jù)外媒報道，暑假后你回到學(xué)校時，可能會覺得你已經(jīng)把上一年學(xué)到的知識都還給了老師。 但是，如果你像人工智能系統(tǒng)那樣學(xué)習(xí)知識，那么你在你每一年的第一天，你的大腦就真的會拿一個記憶的橡皮擦，把你之前學(xué)到的所有知識一點(diǎn)不留的擦掉——真真正正的從零開始。而這正是人工智能算法一直以來的學(xué)習(xí)方法，它從來不會真正記住任何東西。

人工智能系統(tǒng)在設(shè)計上就傾向于在每次開始新的學(xué)習(xí)之前，忘記先前學(xué)到的所有東西，這被稱為災(zāi)難性遺忘。

很明顯，這是一個大問題。尖端的學(xué)習(xí)算法大多依賴給定答案的有監(jiān)督學(xué)習(xí)。 例如，面部識別AI系統(tǒng)將分析人臉的數(shù)千張照片，這些照片已經(jīng)手動標(biāo)注好答案以便AI在視頻輸入中能檢測到人臉。 但是因?yàn)檫@些人工智能算法實(shí)際上并不“理解”他們所做的事情的基本邏輯，所以教導(dǎo)他們做其他任何事情，即使是非常相似的任務(wù)，都顯得非常困難。比如說，讓人工智能去識別特定的情感，這意味著你要從頭開始訓(xùn)練這套模型。 一旦算法被訓(xùn)練，它能做的事情就固定下來了，我們不能再訓(xùn)練它去做其他事情。

多年來，科學(xué)家們一直試圖弄清楚如何解決這個問題。 如果他們成功，AI系統(tǒng)將能夠從一組新的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)，而不會覆蓋他們在此過程中已經(jīng)學(xué)習(xí)到的內(nèi)容。 也就是說，如果機(jī)器人真的有一天會崛起，我們的新“領(lǐng)主”將能夠在征服地球上的所有生命的同時吹泡泡糖——同時做兩件事。

但是，災(zāi)難性的遺忘仍然是阻礙科學(xué)家們研發(fā)出強(qiáng)人工智能(AGI)的主要障礙之一。強(qiáng)人工智能指具有人類級別的聰明甚至是情感，這包括我們在電視和電影中看到的無所不能的，有同情心和想象力的人工智能。

事實(shí)上，上周在布拉格參加人類人工智能峰會的一些人工智能專家表示，災(zāi)難性遺忘的問題是邁向強(qiáng)人工智能最大的障礙之一。而他們并不認(rèn)為近期內(nèi)會在這方面有所突破。

但谷歌DeepMind的高級研究科學(xué)家伊琳娜希金斯(Irina Higgins)在會議的演講上宣布她的團(tuán)隊(duì)已經(jīng)開始破解災(zāi)難性遺忘的奧秘。

她開發(fā)了一個AI代理人，這有點(diǎn)像一個由AI算法控制的電子游戲中的角色。它可以比典型機(jī)器學(xué)習(xí)算法更有創(chuàng)造性地思考。 通過在虛擬的環(huán)境中經(jīng)歷一些事情，它可以“想象”類似的事情在其他環(huán)境中會怎樣發(fā)生。 換句話說，神經(jīng)網(wǎng)絡(luò)能夠從它所處的環(huán)境中抽象出關(guān)鍵物體和事件。

這與人類的想象力不同，我們可以完全想出一些從未見過的事物。比如，你可以在腦海中想象一只圓圓的、紅色的鳥鳥的樣子。 人工智能系統(tǒng)尚不如人類的大腦復(fù)雜，但它已經(jīng)可以想象已經(jīng)見過的事情在其他場景中發(fā)生的樣子。

希金斯在由GoodAI組織的會議上發(fā)言時說道：“我們希望機(jī)器能夠在探索中學(xué)習(xí)安全常識，這樣它就不會對自身造成損害。” 。她早些時候在arXiv上發(fā)表了她的論文，并撰寫了一篇相關(guān)的博客文章。

現(xiàn)在，希金斯的人工智能系統(tǒng)可以從五張同一物體的不同角度的照片中“理解”這個物體，理解物體與環(huán)境的關(guān)系，以及在從未給算法見過的其他角度下的樣子，或是在不同光線下的呈現(xiàn)的模樣。希金斯的論文重點(diǎn)介紹了如何訓(xùn)練算法來發(fā)現(xiàn)白色手提箱或扶手椅。 在訓(xùn)練之后，算法可以想象該對象在一個全新的虛擬世界中的外觀，并在遇到它時識別該對象。

希金斯說：“我們呈現(xiàn)一個圖像給人工智能模型看物體在一個環(huán)境下的樣子，并要求模型想象這個物體在不同環(huán)境中會是什么樣子。” 與其他傳統(tǒng)AI系統(tǒng)相比，她的新算法在識別從未見過的物體方面表現(xiàn)優(yōu)異。

簡而言之，該算法能夠記錄它遇到的內(nèi)容與過去看到的內(nèi)容之間的差異。 像大多數(shù)人一樣，但與大多數(shù)其他算法不同的是，希金斯為谷歌搭建的新系統(tǒng)可以理解它從沒有遇到的全新的對象。通過從一個新的角度看待對象， 它可以使用一些備用計算能力來從中提取新信息，更新它對世界的了解。而這一切無需重新學(xué)習(xí)，也無需遺忘先前的訓(xùn)練成果 。 換句話說，這套系統(tǒng)能夠?qū)⑵洮F(xiàn)有知識轉(zhuǎn)移并應(yīng)用于新環(huán)境。

當(dāng)然，希金斯的模型本身不能把強(qiáng)人工智能變成現(xiàn)實(shí)。 但它標(biāo)志著人工智能算法邁出了重要的一步。從此人工智能算法可以不斷更新，在不丟失已有功能的情況下學(xué)習(xí)有關(guān)世界的新知識。

希金斯說：“我認(rèn)為無遺忘學(xué)習(xí)是接近真正人工智能的道路上至關(guān)重要的一步。”

這項(xiàng)研究仍處于早期階段。 與許多其他物體識別AI工具一樣，這些算法只能在一個系列特定的任務(wù)中進(jìn)行學(xué)習(xí)，例如查看照片并在許多不是面部的圖像中挑選出一張臉。 但希金斯新的人工智能系統(tǒng)正在以一種更具創(chuàng)造力和想象力的方式完成這些任務(wù)。

即使希金斯的研究沒有立即讓我們進(jìn)入強(qiáng)人工智能時代，她的新算法已經(jīng)能夠改進(jìn)我們一直使用的AI系統(tǒng)。 例如，希金斯在用于訓(xùn)練面部識別軟件的一組主要數(shù)據(jù)上嘗試了她的新AI系統(tǒng)。 在分析了數(shù)據(jù)集中發(fā)現(xiàn)的數(shù)百萬張頭像后，該算法可以生成從未在圖片庫中出現(xiàn)過的頭像。 例如，希金斯展示了按膚色排列的頭像集合。

希金斯隨后透露，她的算法也能夠?qū)χ饔^評價作出預(yù)測。比如它可以對人們對頭像的評價作出判斷。在學(xué)習(xí)了上百萬張頭像之后，希金斯的算法繪制了幾副它認(rèn)為 “有吸引力”的頭像：一系列年輕白人女性的頭像。 也就是說，拋開種族問題不談，希金斯的算法發(fā)現(xiàn)了人們的審美偏見： 白人更具吸引力。

當(dāng)局者迷，旁觀者清，這種創(chuàng)造性的新算法已經(jīng)比人類更善于尋找人類的偏見， 之后工程師可以從系統(tǒng)中移除這些偏見。

雖然最新的人工智能算法還不能取代藝術(shù)家，但毫無疑問，希金斯團(tuán)隊(duì)的研發(fā)成果是人類邁向強(qiáng)人工智能的一大步。