From： Fast Company； 作者：Iris

人工智能正以多種方式進(jìn)入我們的生活——手機(jī)智能助手幫助我們完成一系列基礎(chǔ)任務(wù)，智能家電能自動(dòng)打掃我們的房屋，地圖導(dǎo)航指揮著我們?cè)擇傁蚝畏�。隨著AI在日常生活中的重要性逐漸提高，關(guān)于人與機(jī)器之間的信任危機(jī)的問(wèn)題又進(jìn)入了大眾的視野：我們能信任它們嗎？我們?cè)趺粗�道它們�?huì)準(zhǔn)確地聽(tīng)從指令并執(zhí)行任務(wù)？

可解釋性AI（XAI）是人工智能研究的一個(gè)分支，它的關(guān)注點(diǎn)在于如何提升人工智能之于人類(lèi)的可信任度。要實(shí)現(xiàn)機(jī)器人和人一起和諧工作的愿景，可信度發(fā)揮著至關(guān)重要的作用。XAI便致力于開(kāi)發(fā)讓人類(lèi)感覺(jué)值得信賴(lài)的人工智能系統(tǒng)，以促進(jìn)它們更好地融入人類(lèi)社會(huì)。

從開(kāi)瓶蓋入手

淺談機(jī)器人自我解釋能力

加州大學(xué)洛杉磯分校的研究團(tuán)隊(duì)嘗試讓機(jī)器人向人類(lèi)用戶(hù)解釋它的行動(dòng)的內(nèi)容和目標(biāo)，并證明這么做是有效的。有趣的是，可信賴(lài)度最高的智能自我解釋形式，與性能最佳的學(xué)習(xí)算法并不對(duì)應(yīng)�？梢�(jiàn)，機(jī)器人的性能和自我解釋的能力并不相同——我們不能只單獨(dú)優(yōu)化它的性能或自我解釋的能力。這要求在設(shè)計(jì)機(jī)器人的過(guò)程中既要考慮良好的性能，又要考慮到可信賴(lài)度高的自我解釋形式。

用戶(hù)演示、機(jī)器學(xué)習(xí)、任務(wù)表現(xiàn)和解釋能力的關(guān)系圖

機(jī)器人如何才能做到最高效率地執(zhí)行用戶(hù)指定的任務(wù)？用戶(hù)又應(yīng)如何回應(yīng)機(jī)器人的自我解釋行為呢？

為了回答這兩個(gè)問(wèn)題，團(tuán)隊(duì)決定做一個(gè)實(shí)驗(yàn)，他們嘗試讓機(jī)器人學(xué)習(xí)如何擰開(kāi)藥瓶的瓶蓋。實(shí)驗(yàn)中，一個(gè)研究人員戴著一個(gè)有觸覺(jué)記憶系統(tǒng)的手套，當(dāng)他打開(kāi)瓶子時(shí)，手套會(huì)記錄下人手的姿勢(shì)和力量。這能幫助機(jī)器人通過(guò)象征性信息和觸覺(jué)信息來(lái)了解人類(lèi)的行為。象征性信息是指有意義的行為動(dòng)作，比如抓取的動(dòng)作。觸覺(jué)信息指的是與身體姿勢(shì)和動(dòng)作相關(guān)的感覺(jué)，例如手指合攏的感覺(jué)信息。

總結(jié)出的象征性信息（中間）和觸覺(jué)模型（底部）為機(jī)器人的動(dòng)作提供解釋文本

機(jī)器人在吸收了象征性信息后，會(huì)對(duì)完成打開(kāi)瓶子的任務(wù)所需的步驟序列進(jìn)行編碼。在接觸觸覺(jué)信息后，機(jī)器人將形成一種觸覺(jué)模型，該模型幫助機(jī)器人“想象”著自己處于人類(lèi)用戶(hù)的視角，并試著預(yù)測(cè)人類(lèi)在這種場(chǎng)合會(huì)采取什么行動(dòng)。

事實(shí)證明，當(dāng)把象征性信息和觸覺(jué)信息結(jié)合在一起輸入系統(tǒng)時(shí)，機(jī)器人能夠達(dá)到自身的最佳性能。與單獨(dú)分開(kāi)輸入這兩種信息相比，同時(shí)獲得這兩種信息的機(jī)器人在依照步驟來(lái)執(zhí)行任務(wù)和通過(guò)夾持器進(jìn)行實(shí)時(shí)感知方面表現(xiàn)得更好。也就是說(shuō)，要讓機(jī)器人高效率地執(zhí)行任務(wù)，共同輸入這兩項(xiàng)信息是必不可少的。

象征性信息的總結(jié)和語(yǔ)法符號(hào)推導(dǎo)過(guò)程示意圖

既然機(jī)器人能夠理解自己要做的任務(wù)，它又該怎么向人類(lèi)用戶(hù)解釋它的行為呢？這種自我解釋真的能促進(jìn)人類(lèi)對(duì)機(jī)器人的信任嗎？

在實(shí)驗(yàn)中，團(tuán)隊(duì)為人類(lèi)添加了自我解釋的流程：在機(jī)器人完成打開(kāi)藥瓶的任務(wù)后，它需用文本記錄的形式提供了一個(gè)任務(wù)執(zhí)行總結(jié)。團(tuán)隊(duì)邀請(qǐng)了150名參與者，分成五組，觀(guān)察機(jī)器人執(zhí)行打開(kāi)藥瓶的任務(wù)的過(guò)程。

任務(wù)完成后，機(jī)器人給其中四組提供不同的任務(wù)解釋——基于象征性信息的解釋文本能詳細(xì)說(shuō)明每個(gè)步驟的動(dòng)作內(nèi)容，基于觸覺(jué)信息的解釋文本則著重于說(shuō)明機(jī)械手臂夾持的位置和姿勢(shì)，總結(jié)性的解釋文本則將象征性信息和觸覺(jué)信息結(jié)合在一起，而第五組的參與者只能觀(guān)看機(jī)器人開(kāi)瓶子的視頻，沒(méi)有得到任何文本反饋。

A）解釋面板實(shí)物；B）象征性解釋文本；C）觸覺(jué)說(shuō)明文本；D）文字說(shuō)明總結(jié)

團(tuán)隊(duì)發(fā)現(xiàn)，同時(shí)提供象征性和觸覺(jué)信息的文本解釋最能培養(yǎng)機(jī)器人與人類(lèi)之間的信任。有趣的是，完全基于觸覺(jué)信息的解釋文本在增強(qiáng)人機(jī)之間的信賴(lài)感方面并無(wú)貢獻(xiàn)，這表明人類(lèi)更喜歡機(jī)器人逐步解釋它們工作的內(nèi)容。

為人機(jī)關(guān)系的未來(lái)而勉勵(lì)前行

這項(xiàng)研究最有趣的結(jié)果是，機(jī)器人的良好性能與讓它們博取人類(lèi)信任的因素是完全不同的。這也突顯了未來(lái)人工智能和機(jī)器人研究領(lǐng)域的重要目標(biāo)：專(zhuān)注于追求機(jī)器性能和自我解釋能力，而不厚己薄彼。

性能和自我解釋能力并非兩個(gè)可以實(shí)現(xiàn)互補(bǔ)的因素，因此在構(gòu)建AI系統(tǒng)時(shí)，兩者都是需要著重考慮的首要目標(biāo)。這項(xiàng)工作也是系統(tǒng)研究人機(jī)關(guān)系發(fā)展前景的關(guān)鍵環(huán)節(jié)，若研究人員能從中得出具有突破性的成就，那么，未來(lái)研究中更具挑戰(zhàn)性的一環(huán)將是從“我相信機(jī)器人做X”到“我相信機(jī)器人”。

機(jī)器人要想在人們的日常生活中占有一席之地，必須先獲得人類(lèi)的信任。了解機(jī)器人如何提供有助于增進(jìn)人類(lèi)的信賴(lài)度的自我解釋文本，是使人類(lèi)和機(jī)器人能夠共同工作、和睦相處的重要一步。