我們真的永遠也理解不了人工智能嗎?
但湯普森驚訝地發(fā)現(xiàn),該電路所用元件數(shù)量比任何人類工程師的設(shè)計都要少,甚至有幾個元件根本沒有和其它元件相連。而要讓電路順利運作,這些元件應(yīng)當(dāng)不可或缺才對。
于是他對電路進行了剖析。做了幾次實驗后,他發(fā)現(xiàn)該電路的相鄰元件間存在微弱的電磁干擾。未與電路相連的元件通過干擾鄰近電場、對整個電路造成了影響。人類工程師通常會杜絕這類干擾,因為干擾的結(jié)果難以預(yù)料。果不其然,若用另一組元件復(fù)制該電路布局,甚至只是改變環(huán)境溫度,同樣的電路便會徹底失靈。
該電路揭露了機器訓(xùn)練的一大重要特征:它們總是盡可能緊湊簡潔,與所在環(huán)境完美相容,但往往難以適應(yīng)其它環(huán)境。它們能抓住工程師發(fā)現(xiàn)不了的規(guī)律,但不知道別處是否也有這一規(guī)律。機器學(xué)習(xí)研究人員想盡力避免這種名為“過擬合”的現(xiàn)象。但隨著應(yīng)用這些算法的情況愈發(fā)復(fù)雜多變,這一缺陷難免會暴露出來。
普林斯頓大學(xué)計算機科學(xué)教授桑吉夫·阿羅拉認為,這一問題是人類追求可解釋模型的主要動機,希望有了可解釋模型后、能對網(wǎng)絡(luò)進行干預(yù)和調(diào)整。距阿羅拉表示,有兩大問題可體現(xiàn)缺乏可解釋性對機器性能造成的硬性限制。一是“組合性”:當(dāng)一項任務(wù)同時涉及多項決策時(如圍棋或自動駕駛汽車),神經(jīng)網(wǎng)絡(luò)便無法高效判定是哪個決策導(dǎo)致了任務(wù)失敗!叭祟愒谠O(shè)計某樣?xùn)|西時,會先弄清不同元件的作用,再將其組合在一起,因此能夠?qū)Σ贿m合當(dāng)前環(huán)境的元件進行調(diào)整!
二是阿羅拉所稱的“域適應(yīng)性”即將在某種情境中學(xué)到的知識靈活運用于其它情境的能力。人類非常擅長這項任務(wù),但機器則會出現(xiàn)各種離奇錯誤。據(jù)阿羅拉描述,即使只對環(huán)境做了微調(diào)、人類調(diào)整起來不費吹灰之力,計算機程序也會遭遇慘敗。例如,某個網(wǎng)絡(luò)經(jīng)過訓(xùn)練后、能對維基百科等正式文本的語法進行分析,但如果換成推特這樣的口語化表達,就會變得毫無招架之力。
按這樣來看,可解釋性似乎不可或缺。但我們真的理解它的意思嗎?著名計算機科學(xué)家馬文·閔斯基用“手提箱詞匯”來形容這類詞匯,包括“意識”、“情緒”等用來描述人類智能的單詞。閔斯基指出,這些詞其實反映了多種多樣的內(nèi)在機制,但都被鎖在“手提箱”中。一旦我們用這些詞代替了更根本性的概念、僅對這些詞匯進行研究,我們的思維就會被語言所局限。那么在研究智能時,“可解釋性”會不會也是這樣一個“手提箱詞匯”呢?
雖然很多研究人員都持樂觀態(tài)度,認為理論學(xué)家遲早能打開這個“手提箱”、發(fā)現(xiàn)某套主宰機器學(xué)習(xí)(或許也包括人類學(xué)習(xí))的統(tǒng)一法則或原理,就像牛頓的力學(xué)原理一樣。但也有人警告稱,這種可能性微乎其微。紐約城市大學(xué)哲學(xué)教授馬西莫·皮戈里奇指出,神經(jīng)科學(xué)、乃至人工智能領(lǐng)域所謂的“理解”也許是一種“集群概念”,即可能有多個不同定義。如果該領(lǐng)域真的有“理解”之說,也許相對于物理學(xué)、會更接近進化生物學(xué)的情況。也就是說,我們將發(fā)現(xiàn)的也許不是“基本力學(xué)原理”,而是“物種起源學(xué)說”。
當(dāng)然,這并不意味著深度網(wǎng)絡(luò)將預(yù)示著某種新型自主生命的出現(xiàn)。但深度網(wǎng)絡(luò)就像生命本身一樣費解。該領(lǐng)域采用的漸進式實驗手段和事后解讀方式也許并不是在黑暗中苦苦等待理論之光時的絕望情緒,而是我們能夠盼來的唯一光芒?山忉屝砸苍S會以碎片化的形式呈現(xiàn)出來,就像不同類別的“物種”一樣,采用的分類法則根據(jù)具體情境而定。
在國際機器學(xué)習(xí)大會的專題研討會結(jié)束時,部分發(fā)言人參加了一場討論會,試圖給“可解釋性”下一個定義。結(jié)果每個人都各執(zhí)一詞。進行了一系列討論后,大家似乎達成了一點共識:一個模型要能被解釋,就要具備“簡單性”。但在簡單性的定義問題上,大家又產(chǎn)生了分歧!白詈唵巍钡哪P途烤故侵敢蕾囎钌偬卣鞯哪P停窟是程序規(guī)模最小的模型?還是有其它解釋?一直到研討會結(jié)束,大家都沒有達成共識。
正如馬里奧托夫說的那樣:“簡單性并不簡單!
每日一篇人工智能文章,還有技術(shù)文章同步發(fā)布,喜歡的朋友可以關(guān)注一下,

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月8日立即報名>> 【在線會議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7月31日免費預(yù)約>> OFweek 2025具身機器人動力電池技術(shù)應(yīng)用大會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機器人及智能工廠展
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
推薦專題