什么是可解釋的人工智能?
可解釋的人工智能意味著人類可以理解IT系統(tǒng)做出決定的路徑。人們可以通過(guò)分解這個(gè)概念來(lái)探究人工智能如此重要的原因。
雖然人工智能應(yīng)用越來(lái)越廣泛,但關(guān)于人工智能也有一些誤解。有些人采用“黑盒”這個(gè)術(shù)語(yǔ)描述人工智能,認(rèn)為其內(nèi)涵是神秘和不祥的部分,其“X檔案”的內(nèi)容比IT 日常業(yè)務(wù)還要多。
然而,像機(jī)器學(xué)習(xí)或深度學(xué)習(xí)這樣的人工智能系統(tǒng),確實(shí)需要人工輸入,然后在沒(méi)有可解釋的場(chǎng)景的情況下產(chǎn)生輸出(或做出決定)。人工智能系統(tǒng)做出決定或采取行動(dòng),人們不一定知道它為什么或如何達(dá)到這個(gè)結(jié)果。人工智能系統(tǒng)就是這么做的,而這就是人工智能的黑盒模型,它確實(shí)很神秘。在某些用例中應(yīng)用很好,而在其他情況下卻不一定。
PubNub公司首席技術(shù)官兼聯(lián)合創(chuàng)始人Stephen Blum表示:“對(duì)于像人工智能驅(qū)動(dòng)的聊天機(jī)器人或社交信息的情感分析這樣的小事情,而人工智能系統(tǒng)是否在黑盒中運(yùn)行并不重要。但是對(duì)于人類具有巨大影響的用例(例如自動(dòng)駕駛車輛、飛行導(dǎo)航、無(wú)人機(jī)、軍事應(yīng)用)能夠理解決策過(guò)程是至關(guān)重要的任務(wù)。隨著人們?cè)谌粘I钪性絹?lái)越依賴人工智能,需要能夠理解其思維過(guò)程,并隨著時(shí)間的推移做出改變和改進(jìn)!
輸入可解釋的人工智能——有時(shí)以縮寫詞XAI或類似術(shù)語(yǔ)(如可解釋的AI)來(lái)表示。顧名思義,它可以被人類解釋和理解,雖然這是一種有點(diǎn)簡(jiǎn)化的方式,是一種可解釋的人工智能。
以下是最近的HBR公司分析服務(wù)研究報(bào)告《現(xiàn)實(shí)世界人工智能的執(zhí)行指南》中更明確的定義:“機(jī)器學(xué)習(xí)技術(shù)是一種使人類用戶能夠理解、適當(dāng)信任和有效管理的人工智能。”
而包括美國(guó)國(guó)防部高級(jí)研究計(jì)劃署(DARPA)在內(nèi)的多個(gè)組織正在努力解決這個(gè)問(wèn)題。
“信任”這個(gè)詞很關(guān)鍵。為此,人工智能專家Blum和其他專家提出了可解釋的人工智能定義,并解釋這一概念對(duì)于從金融服務(wù)到醫(yī)學(xué)等領(lǐng)域的人工智能工作的組織至關(guān)重要的原因。這種背景可以加強(qiáng)組織成員和團(tuán)隊(duì)的理解,并幫助組織中的其他人員理解可解釋的人工智能及其重要性。以下先從定義開始。
簡(jiǎn)單定義的可解釋人工智能
SAS公司執(zhí)行副總裁兼首席信息官Keith Collins說(shuō),“‘可解釋的人工智能’術(shù)語(yǔ)是指人類能夠通過(guò)動(dòng)態(tài)生成的圖表或文本描述輕松理解人工智能技術(shù)做出決策的路徑。”
PubNub公司首席技術(shù)官和聯(lián)合創(chuàng)始人Stephen Blum說(shuō),“可解釋的人工智能可以等同于數(shù)學(xué)問(wèn)題中的‘展示工作’。所有的人工智能決策過(guò)程和機(jī)器學(xué)習(xí)都不是在黑盒中進(jìn)行的——它是一種透明的服務(wù),具有被人類從業(yè)者解剖和理解的能力!
Sutherland公司首席分析官Phani Nagarjuna說(shuō),“可解釋的人工智能是我們可以解釋人工智能的結(jié)果,同時(shí)在人工智能達(dá)到結(jié)果的路徑上能夠清楚地解釋從輸入到結(jié)果!
SPR公司數(shù)據(jù)分析師Andrew Maturo說(shuō),“可解釋的人工智能是一種機(jī)器學(xué)習(xí)或人工智能應(yīng)用,伴隨著易于理解的推理,它如何得出一個(gè)給定的結(jié)論。無(wú)論是通過(guò)先發(fā)制人的設(shè)計(jì)還是回顧性的分析,都在采用新技術(shù)來(lái)降低人工智能的黑盒不透明性!
CognitiveScale公司創(chuàng)始人和首席技術(shù)官M(fèi)att Sanchez說(shuō),“簡(jiǎn)單來(lái)說(shuō),可解釋的人工智能意味著人工智能在其操作中是透明的,這樣人類就能夠理解和信任決策。組織必須問(wèn)這個(gè)問(wèn)題——那么能解釋其人工智能是如何產(chǎn)生這種特定的洞察力或決策的嗎?”

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 7 張勇等人退出阿里合伙人
- 8 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人
- 9 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)
- 10 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市