關(guān)鍵信息：Deepmind公司的計(jì)算機(jī)科學(xué)家已經(jīng)創(chuàng)造出了一種人工智能—ToMnet，它可以探測(cè)其他計(jì)算機(jī)的“思想”和“信仰”，并預(yù)測(cè)它們的下一步行為，這是機(jī)器之間互相協(xié)作的開始。研究人員本月在斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會(huì)議上報(bào)告上宣布了這一消息。

關(guān)鍵數(shù)據(jù)：ToMnet由三個(gè)神經(jīng)網(wǎng)絡(luò)組成。

關(guān)鍵意義：理解他人的想法和信仰，是人類和其他動(dòng)物心智發(fā)展的關(guān)鍵階段，機(jī)器人能做到這一步，是不是離人工智能威脅又近了一步？

與Siri或天貓精靈進(jìn)行過互動(dòng)的人都知道，數(shù)字助理無法從根本吸引人，因?yàn)樗鼈儾欢说乃枷?、需求，無法像真正的人類朋友一樣對(duì)話，它們需要心理學(xué)家所謂的“心智理論”，即對(duì)他人信仰和欲望方面的認(rèn)識(shí)。

現(xiàn)在，谷歌旗下Deepmind公司的計(jì)算機(jī)科學(xué)家已經(jīng)創(chuàng)造出了一種人工智能，它可以探測(cè)其他計(jì)算機(jī)的“思想”，并預(yù)測(cè)它們的下一步行為。這也是機(jī)器之間的協(xié)同合作的第一步。

加州大學(xué)伯克利分校的發(fā)展心理學(xué)家Gopnik說：“心智理論顯然是一種至關(guān)重要的能力。”因?yàn)樵?歲時(shí)，人類的孩子就會(huì)明白，另一個(gè)人的信仰可能會(huì)偏離現(xiàn)實(shí)，而這些信念可以用來預(yù)測(cè)一個(gè)人的未來行為。今天的一些程序可以識(shí)別出“快樂”或“憤怒”的面部表情，這也是一種與心智理論相關(guān)的技能，但它們極少能理解人類的情緒或者動(dòng)機(jī)。

Deepmind新項(xiàng)目始于一項(xiàng)讓人類理解計(jì)算機(jī)的努力。人工智能所使用的許多算法并不是由程序員編寫的，而是依賴于依次解決問題時(shí)的機(jī)器學(xué)習(xí)，但計(jì)算機(jī)生成的解決方案通常是“黑盒子”，算法過于復(fù)雜，人類的洞察力看不透。

因此，DeepMind的研究科學(xué)家Neil Rabinowitz和他的同事們創(chuàng)造了一種名為“ToMnet”的思維AI理論，看它是否能通過觀察其他AI知道后者是如何工作的。

ToMnet由三個(gè)神經(jīng)網(wǎng)絡(luò)組成，每個(gè)神經(jīng)網(wǎng)絡(luò)由小的計(jì)算元素和連接組成，它們從經(jīng)驗(yàn)中學(xué)習(xí)，類似于人類的大腦。第一個(gè)網(wǎng)絡(luò)根據(jù)AI們過去的行為學(xué)習(xí)它們的傾向性；第二個(gè)網(wǎng)絡(luò)是理解AI們當(dāng)前的“信仰”；第三個(gè)則從另外兩個(gè)網(wǎng)絡(luò)中獲取輸出，根據(jù)具體情況預(yù)測(cè)人工智能的下一步動(dòng)作。

在試驗(yàn)中，被觀察的AI是一個(gè)簡單的角色，它在一個(gè)虛擬的房間里收集彩色的盒子，ToMnet從上方觀察了房間，發(fā)現(xiàn)有三種角色：一個(gè)看不到周圍的墻壁，一個(gè)不記得最近的走過步驟，還有一個(gè)既看的到周圍的墻壁也記得住最近的步驟。

“失明”的角色傾向于沿著墻走，“健忘癥患者”會(huì)移動(dòng)到最近的物體上，第三個(gè)角色形則成了子目標(biāo)：以特定的順序戰(zhàn)略性地抓取物體以獲得更多的點(diǎn)數(shù)。

在經(jīng)過一些訓(xùn)練后，ToMnet不僅能在幾個(gè)步驟之后識(shí)別出一個(gè)角色的種類，而且還能正確預(yù)測(cè)它未來的行為，研究人員本月在斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會(huì)議上報(bào)告上宣布了這一消息。

最后一項(xiàng)測(cè)試顯示，ToMnet甚至可以理解一個(gè)人是否持有錯(cuò)誤的信念，這是人類和其他動(dòng)物心智發(fā)展理論的關(guān)鍵階段。

在這個(gè)測(cè)試中，一種類型的角色被設(shè)定為近視眼；當(dāng)電腦在游戲進(jìn)行到一半改變了他們視力范圍之外的景象時(shí)，ToMnet準(zhǔn)確地預(yù)測(cè)角色會(huì)比視力好的角色更能堅(jiān)持原來的路線，因?yàn)樗鼈儗?duì)新環(huán)境的適應(yīng)能力較差。這項(xiàng)研究是神經(jīng)網(wǎng)絡(luò)驚人的學(xué)習(xí)技能的例子，但這仍然不能使它們與人類兒童處于同一水平。

Josh Tenenbaum是麻省理工學(xué)院的心理學(xué)家和計(jì)算機(jī)科學(xué)家，他也研究了心智能力理論的計(jì)算模型。他說，與他的團(tuán)隊(duì)的系統(tǒng)相比，ToMnet更有效地注入了信念。但她補(bǔ)充說，ToMnet的理解與它被訓(xùn)練的環(huán)境緊密相關(guān)，這使得它在全新的環(huán)境中的預(yù)測(cè)能力變得越來越弱，它系統(tǒng)的所達(dá)到的功能可能連小孩子都能做到。

Gopnik指出，在未來結(jié)合其他方法，可能會(huì)讓這個(gè)領(lǐng)域出現(xiàn)“非常有趣的方向”，計(jì)算機(jī)正在發(fā)展的那種社會(huì)能力不僅能改善與人類的合作，或許還能改善欺騙行為。