易觀數(shù)字化：今年以來(lái)，政府層面、金融監(jiān)管層面在科技倫理治理的指導(dǎo)要求上持續(xù)加碼，《中共中央辦公廳 國(guó)務(wù)院辦公廳印發(fā)關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》中，點(diǎn)明人工智能作為重點(diǎn)領(lǐng)域應(yīng)完善科技倫理治理的規(guī)范和標(biāo)準(zhǔn)；《中國(guó)銀保監(jiān)會(huì)辦公廳關(guān)于銀行業(yè)保險(xiǎn)業(yè)數(shù)字化轉(zhuǎn)型的指導(dǎo)意見(jiàn)》中指出，要防范模型和算法風(fēng)險(xiǎn)，定期評(píng)估模型預(yù)測(cè)能力及在不同場(chǎng)景下的局限性，確保模型的可解釋性和可審計(jì)性，防止算法歧視。人工智能治理的形勢(shì)日益迫切，在這當(dāng)中，人工智能是否可信被視為一種重要的品質(zhì)，需要引起金融機(jī)構(gòu)的足夠重視。本文將從可信AI對(duì)于銀行的重要性、關(guān)鍵特征、評(píng)估與驗(yàn)證方式、合作廠(chǎng)商選擇等維度進(jìn)行專(zhuān)題分析。

可信AI在銀行數(shù)字化轉(zhuǎn)型背景下的重要性日益凸顯

銀行業(yè)在數(shù)字化轉(zhuǎn)型建設(shè)過(guò)程中，人工智能技術(shù)是構(gòu)建數(shù)智化能力的關(guān)鍵領(lǐng)域，在技術(shù)創(chuàng)新與應(yīng)用的同時(shí)，銀行也面臨著來(lái)自人工智能的風(fēng)險(xiǎn)挑戰(zhàn)。

易觀分析認(rèn)為，人工智能的倫理風(fēng)險(xiǎn)、模型與算法風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)、隱私風(fēng)險(xiǎn)是當(dāng)前銀行需要應(yīng)對(duì)的幾類(lèi)主要AI風(fēng)險(xiǎn)，人工智能黑盒性、不確定性、脆弱易攻擊性造成的隱憂(yōu)和不信任感，使銀行在應(yīng)用層面難以對(duì)其委以重任，在研發(fā)層面也難以進(jìn)行有突破性的探索。因此AI是否可信、可控在當(dāng)前以數(shù)字化能力為依托的轉(zhuǎn)型背景下變得尤為關(guān)鍵，實(shí)現(xiàn)可信AI是銀行科技能力建設(shè)布局的重要內(nèi)容，是銀行實(shí)現(xiàn)業(yè)務(wù)穩(wěn)健發(fā)展的前提和有力保障。

可信AI的特征應(yīng)結(jié)合銀行實(shí)際應(yīng)用需求加以延展

可信AI的概念在國(guó)內(nèi)是由何積豐院士于2017年香山科學(xué)會(huì)議上首次提出，是指人工智能技術(shù)本身具備可信的品質(zhì)。目前學(xué)術(shù)界針對(duì)人工智能治理已經(jīng)發(fā)表了多篇研究論述，對(duì)其治理原則的普遍認(rèn)識(shí)聚焦在透明、安全、公平、可問(wèn)責(zé)、隱私保護(hù)幾項(xiàng)特性中。結(jié)合銀行業(yè)AI應(yīng)用發(fā)展現(xiàn)狀，易觀分析認(rèn)為，可信AI應(yīng)當(dāng)具備八大關(guān)鍵特征，即穩(wěn)定性、魯棒性、可解釋性、安全性、公平性、普惠性、客戶(hù)自治性以及可追溯性。

相應(yīng)地，銀行對(duì)于AI是否具備可信品質(zhì)的考量應(yīng)圍繞自主可控戰(zhàn)略要求，結(jié)合銀行實(shí)際應(yīng)用需求，如識(shí)別欺詐、隱私泄露、系統(tǒng)攻擊、信貸風(fēng)險(xiǎn)、洗錢(qián)風(fēng)險(xiǎn)等風(fēng)險(xiǎn)場(chǎng)景，對(duì)可信AI的關(guān)鍵特征加以延展。例如，AI在進(jìn)行智能決策分析、智能推薦、智能風(fēng)控等活動(dòng)時(shí)應(yīng)做到透明可釋、記錄可溯，具備可解釋性、客戶(hù)自治性、可追溯性；在進(jìn)行智能識(shí)別、智能問(wèn)答等活動(dòng)時(shí)應(yīng)做到抗擾動(dòng)、抗欺騙，且符合倫理道德與行業(yè)規(guī)范，具備魯棒性、公平性、普惠性。同時(shí)，人工智能應(yīng)具備抗風(fēng)險(xiǎn)、抗攻擊和隱私保護(hù)的穩(wěn)定性、安全性特征。

可信AI本身作為技術(shù)能力的一種表現(xiàn)，是反映在算法和模型層面，而不是直接體現(xiàn)在業(yè)務(wù)流程或是客戶(hù)體驗(yàn)中的。

易觀分析認(rèn)為，銀行在推進(jìn)人工智能相關(guān)項(xiàng)目時(shí)，應(yīng)有的放矢地進(jìn)行可信AI的評(píng)測(cè)。在銀行業(yè)對(duì)可信AI尚無(wú)統(tǒng)一評(píng)測(cè)標(biāo)準(zhǔn)的情況下，銀行應(yīng)基于場(chǎng)景視角，選擇有需求、有痛點(diǎn)、頻次高、風(fēng)險(xiǎn)敏感等場(chǎng)景，以自主技術(shù)能力開(kāi)展可信AI相關(guān)的評(píng)估與驗(yàn)證，并將其作為銀行IT治理架構(gòu)下的關(guān)鍵任務(wù)進(jìn)行統(tǒng)籌考慮。評(píng)估與驗(yàn)證應(yīng)以小規(guī)模驗(yàn)證為主，通過(guò)風(fēng)險(xiǎn)點(diǎn)和樣本設(shè)置，重點(diǎn)驗(yàn)證可信AI一個(gè)或多個(gè)特征在單一場(chǎng)景下的表現(xiàn)，經(jīng)小規(guī)模驗(yàn)證后再規(guī)�；瘑�動(dòng)。

對(duì)廠(chǎng)商的選擇應(yīng)關(guān)注其人工智能的整體能力表現(xiàn)

從目前人工智能領(lǐng)域的市場(chǎng)來(lái)看，可信AI相關(guān)的參與者和產(chǎn)品提供者以大型互聯(lián)網(wǎng)公司、獨(dú)立創(chuàng)業(yè)公司、滲透行業(yè)的供應(yīng)商、產(chǎn)業(yè)背景公司為主，這些廠(chǎng)商具備了不同程度的可信AI研發(fā)能力，但并不存在單一提供可信AI產(chǎn)品的廠(chǎng)商。

易觀分析認(rèn)為，銀行應(yīng)從整體能力出發(fā)對(duì)廠(chǎng)商進(jìn)行選型評(píng)價(jià)，并且將可信能力需要作為AI產(chǎn)品及解決方案的重要評(píng)價(jià)標(biāo)準(zhǔn)之一，結(jié)合自身場(chǎng)景需求選擇合適的合作伙伴。

聲明須知：易觀數(shù)字化在本文中引用的第三方數(shù)據(jù)和其他信息均來(lái)源于公開(kāi)渠道，易觀數(shù)字化不對(duì)此承擔(dān)任何責(zé)任。任何情況下，本文僅作為參考，不作為任何依據(jù)。本文著作權(quán)歸發(fā)布者所有，未經(jīng)易觀數(shù)字化授權(quán)，嚴(yán)禁轉(zhuǎn)載、引用或以任何方式使用易觀數(shù)字化發(fā)布的任何內(nèi)容。經(jīng)授權(quán)后的任何媒體、網(wǎng)站或者個(gè)人使用時(shí)應(yīng)原文引用并注明來(lái)源，且分析觀點(diǎn)以易觀數(shù)字化官方發(fā)布的內(nèi)容為準(zhǔn)，不得進(jìn)行任何形式的刪減、增添、拼接、演繹、歪曲等。因不當(dāng)使用而引發(fā)的爭(zhēng)議，易觀數(shù)字化不承擔(dān)因此產(chǎn)生的任何責(zé)任，并保留向相關(guān)責(zé)任主體進(jìn)行責(zé)任追究的權(quán)利。

       原文標(biāo)題 : 銀行推進(jìn)人工智能技術(shù)應(yīng)用時(shí)需同步考量可信AI的評(píng)估與驗(yàn)證