深度解讀《人工智能的可解釋性》
人工智能對我們來說是非常重要的。
《經濟學人》智庫亞洲編輯部主任Charles Ross 用與谷歌合作的一個調查數(shù)據(jù)告訴我們人工智能對于每個國家所帶來的影響,左邊這幅圖,顯示的是如果國家能夠持續(xù)對人工智能產業(yè)采取比較積極投資和政策支持,2030年這些國家的GDP將得到顯著的更進一步的提升。而增長最快的是澳大利亞,可以增加2.71%的GDP,反之則帶來非常不利的影響。
但隨著AI研究與應用不斷取得突破性進展,高性能的復雜算法、模型及系統(tǒng)普遍卻缺乏決策邏輯的透明度和結果的可解釋性,導致在涉及需要做出關鍵決策判斷的國防、金融、醫(yī)療、法律、網安等領域中,或要求決策合規(guī)的應用中,AI技術及系統(tǒng)難以大范圍應用。而XAI(eXplainable Artificial Intelligence)技術就是主要研究如何使得AI系統(tǒng)的行為對人類更透明、更易懂、更可信。
什么是人工智能的可解釋性
主講嘉賓:菲律賓聯(lián)合銀行人工智能和數(shù)據(jù)資深顧問 David Hardoon 博士以汽車的發(fā)展史為例,深入淺出地解釋了人工智能的可解釋性是一個什么概念。
它就好像在1914年拿到了一輛福特T型車,很多駕駛員可以解釋他大部份的工作原理,懂得如何自己修理。而現(xiàn)在當我們拿到了一輛特斯拉,我們可能不知道它的運作原理,只是知道這個啟動按鈕,踩一下這個油門,這輛車就開了。與長期的汽車演化歷史相比,AI的出現(xiàn)和廣泛的運用是如此的突然,而在如此短暫的時間里,我們作為使用者,無法完全了解這個產業(yè)鏈的相關信息,所以在可解釋性的第一個層面,就是回答這個問題:誰了解這個技術以及它的產業(yè)鏈,誰為什么環(huán)節(jié)負責,如何負責。這將是我們建立信任的基礎。
我們有三個方面的內容需要考慮:
01可解釋性的前提——不同的應用場景和交流語境
02解釋的對象是誰?他/她需要了解什么?
03政策和規(guī)范對人工智能的可解釋性有什么標準?
可解釋性,其實是人性的需求,也是建立互信的需要。理解這個底層需求,是非常非常重要的。我們不僅僅討論的是可解釋性,我們實際上是通過解釋,通過讓人了解,去建立彼此的互信。

請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月8日立即報名>> 【在線會議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7月31日免費預約>> OFweek 2025具身機器人動力電池技術應用大會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機器人及智能工廠展
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
推薦專題