關(guān)鍵信息：Deepmind公司的計(jì)算機(jī)科學(xué)家已經(jīng)創(chuàng)造出了一種人工智能—ToMnet，它可以探測其他計(jì)算機(jī)的“思想”和“信仰”，并預(yù)測它們的下一步行為，這是機(jī)器之間互相協(xié)作的開始。研究人員本月在斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會議上報(bào)告上宣布了這一消息。

關(guān)鍵數(shù)據(jù)：ToMnet由三個神經(jīng)網(wǎng)絡(luò)組成。

關(guān)鍵意義：理解他人的想法和信仰，是人類和其他動物心智發(fā)展的關(guān)鍵階段，機(jī)器人能做到這一步，是不是離人工智能威脅又近了一步？

與Siri或天貓精靈進(jìn)行過互動的人都知道，數(shù)字助理無法從根本吸引人，因?yàn)樗鼈儾欢�人的思想、需求，無法像真正的人類朋友一樣對話，它們需要心理學(xué)家所謂的“心智理論”，即對他人信仰和欲望方面的認(rèn)識。

現(xiàn)在，谷歌旗下Deepmind公司的計(jì)算機(jī)科學(xué)家已經(jīng)創(chuàng)造出了一種人工智能，它可以探測其他計(jì)算機(jī)的“思想”，并預(yù)測它們的下一步行為。這也是機(jī)器之間的協(xié)同合作的第一步。

加州大學(xué)伯克利分校的發(fā)展心理學(xué)家Gopnik說：“心智理論顯然是一種至關(guān)重要的能力�！币�?yàn)樵?歲時，人類的孩子就會明白，另一個人的信仰可能會偏離現(xiàn)實(shí)，而這些信念可以用來預(yù)測一個人的未來行為。今天的一些程序可以識別出“快樂”或“憤怒”的面部表情，這也是一種與心智理論相關(guān)的技能，但它們極少能理解人類的情緒或者動機(jī)。

Deepmind新項(xiàng)目始于一項(xiàng)讓人類理解計(jì)算機(jī)的努力。人工智能所使用的許多算法并不是由程序員編寫的，而是依賴于依次解決問題時的機(jī)器學(xué)習(xí)，但計(jì)算機(jī)生成的解決方案通常是“黑盒子”，算法過于復(fù)雜，人類的洞察力看不透。

因此，DeepMind的研究科學(xué)家Neil Rabinowitz和他的同事們創(chuàng)造了一種名為“ToMnet”的思維AI理論，看它是否能通過觀察其他AI知道后者是如何工作的。

ToMnet由三個神經(jīng)網(wǎng)絡(luò)組成，每個神經(jīng)網(wǎng)絡(luò)由小的計(jì)算元素和連接組成，它們從經(jīng)驗(yàn)中學(xué)習(xí)，類似于人類的大腦。第一個網(wǎng)絡(luò)根據(jù)AI們過去的行為學(xué)習(xí)它們的傾向性；第二個網(wǎng)絡(luò)是理解AI們當(dāng)前的“信仰”；第三個則從另外兩個網(wǎng)絡(luò)中獲取輸出，根據(jù)具體情況預(yù)測人工智能的下一步動作。

在試驗(yàn)中，被觀察的AI是一個簡單的角色，它在一個虛擬的房間里收集彩色的盒子，ToMnet從上方觀察了房間，發(fā)現(xiàn)有三種角色：一個看不到周圍的墻壁，一個不記得最近的走過步驟，還有一個既看的到周圍的墻壁也記得住最近的步驟。

“失明”的角色傾向于沿著墻走，“健忘癥患者”會移動到最近的物體上，第三個角色形則成了子目標(biāo)：以特定的順序戰(zhàn)略性地抓取物體以獲得更多的點(diǎn)數(shù)。

在經(jīng)過一些訓(xùn)練后，ToMnet不僅能在幾個步驟之后識別出一個角色的種類，而且還能正確預(yù)測它未來的行為，研究人員本月在斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會議上報(bào)告上宣布了這一消息。

最后一項(xiàng)測試顯示，ToMnet甚至可以理解一個人是否持有錯誤的信念，這是人類和其他動物心智發(fā)展理論的關(guān)鍵階段。

在這個測試中，一種類型的角色被設(shè)定為近視眼；當(dāng)電腦在游戲進(jìn)行到一半改變了他們視力范圍之外的景象時，ToMnet準(zhǔn)確地預(yù)測角色會比視力好的角色更能堅(jiān)持原來的路線，因?yàn)樗鼈儗π颅h(huán)境的適應(yīng)能力較差。這項(xiàng)研究是神經(jīng)網(wǎng)絡(luò)驚人的學(xué)習(xí)技能的例子，但這仍然不能使它們與人類兒童處于同一水平。

Josh Tenenbaum是麻省理工學(xué)院的心理學(xué)家和計(jì)算機(jī)科學(xué)家，他也研究了心智能力理論的計(jì)算模型。他說，與他的團(tuán)隊(duì)的系統(tǒng)相比，ToMnet更有效地注入了信念。但她補(bǔ)充說，ToMnet的理解與它被訓(xùn)練的環(huán)境緊密相關(guān)，這使得它在全新的環(huán)境中的預(yù)測能力變得越來越弱，它系統(tǒng)的所達(dá)到的功能可能連小孩子都能做到。

Gopnik指出，在未來結(jié)合其他方法，可能會讓這個領(lǐng)域出現(xiàn)“非常有趣的方向”，計(jì)算機(jī)正在發(fā)展的那種社會能力不僅能改善與人類的合作，或許還能改善欺騙行為。

期待未來的撲克機(jī)器人可以掌握虛張聲勢的藝術(shù)～