考慮實施透明度

世上并不存在完美的人工智能系統(tǒng)。但是，對于人工智能系統(tǒng)來說，要判斷輸出是否具有誤導性是很難的，因為其內部算法可能十分令人費解。

因為將商業(yè)租約搞錯可能會造成重大的經(jīng)濟損失，這個“黑匣子”問題是Priam關注的問題，對很多公司來說也是如此。為了解決這個問題，Leverton的工具從租約中提取所有細節(jié)，但也包括返回原始文檔中的文本的鏈接。

Leverton的首席執(zhí)行官Abhinav Somani說：“我們不可能讓人工智能做對所有的事情。某些細微差別或奇怪的術語是任何人都難以發(fā)現(xiàn)或理解的�！�

Somani說，系統(tǒng)與使用它的資產(chǎn)管理者之間存在合作關系。系統(tǒng)除了使資產(chǎn)管理者可以快速查看合同中的詳細信息外，還將強調需要人工關注的地方。

博思艾倫（Booz Allen Hamilton）的負責人Lauren Neal說，目前，人們在可解釋性，透明度以及理解人工智能系統(tǒng)的內置偏差等方面正在進行大量研究。她說，就供應商的模型如何創(chuàng)建并得到訓練而言，各大公司了解這方面的信息越多，他們就能越了解這些模型的局限性。

網(wǎng)絡安全咨詢公司NCC Group的研究主管Jennifer Fernick告誡說，不要與那些對自己的人工智能模型守口如瓶的供應商合作。

Fernick說：“一般來說，所有不愿談論算法和實現(xiàn)方法的供應商是不可能做什么有意義的事情的”。她表示，這并不是說客戶可以要求查看源代碼，但供應商應該樂于談論它們所使用的算法工具的類型，這些算法工具是否基于開源庫，以及他們將如何將這些工具應用于數(shù)據(jù)。

Fernick說：它們‘不能把秘密武器拿給你看’和它們的產(chǎn)品中有頗具創(chuàng)新性的東西，前面的說法和后面的可能性之間呈逆相關的關系，即越是賣關子，越是沒有干貨。”

透明度的另一面（當今所有公司的首要任務無非是應對隱私和安全性問題）。尤其是人工智能系統(tǒng)，這些系統(tǒng)非常需要數(shù)據(jù)，如果數(shù)據(jù)很敏感，這可能會使公司面臨風險。

Fernick說：“你的安全性強度取決于供應商的安全強度，供應商有多弱，你就有多弱�！�

例如，供應商是否要求你將數(shù)據(jù)遷移到它們的云中，并且它們還不具備一個優(yōu)秀的安全團隊？數(shù)據(jù)是否以明文形式顯示給供應商的員工看？

Fernick說：“除了工具本身的分析能力外，還有很多因素要考慮�！�

對于高度敏感的數(shù)據(jù)，公司可能會考慮能提供內部部署解決方案的供應商。

專注于商業(yè)價值

一年半前，Waqqas Mahmood以先進技術和創(chuàng)新總監(jiān)的身份加入會計和咨詢公司天職國際（Baker Tilly Virchow Krause），領導其數(shù)字化轉型戰(zhàn)略。

在全球雇傭了大約4，000名員工的天職國際經(jīng)歷了多次合并，導致許多流程需要標準化并提高效率。此外，天職國際希望為技術支持工單實施聊天機器人系統(tǒng)。

Mahmood說，公司無法獨立實施這樣的系統(tǒng)。他說：“因為我們缺乏這樣的技能，而在內部創(chuàng)建這樣的系統(tǒng)要花費大量的時間——但這原本要花費更長的時間�！�

對于Mahmood來說，與人工智能供應商建立關系的關鍵是選擇具有特定目標的項目。他說：“如果你在實施人工智能前沒有合適的商業(yè)案例和正確的需求，這是不可能成功的。”

對于工作流程自動化，天職國際決定采用NICE機器人自動化，這種關系已經(jīng)取得了成效，他說，自動化任務的完成時間只需以前的三分之一。

Mahmood說：“我們已經(jīng)減免了很多本該收費的時間，按百分比算達到了兩位數(shù)。我們試圖在更短的時間內以更高的質量完成同樣的工作——我們的目的并非為短期的收益收取更多的時間費用。我們希望為客戶提供高價值的服務。”

天職國際的工作流程自動化策略所要實現(xiàn)的長期目標是增加預測分析——這不僅可以將流程和標記項目自動化，還有助于制定決策，從而免去不必要的人力勞動。

Mahmood說：“這將對全職人力工時（FTE）產(chǎn)生影響。因此，我們可以讓人們從事更高價值的工作�！�

Mahmood說，至于技術支持，天職國際大概花了12周時間部署了Bold360的聊天機器人，此舉將技術支持的時間縮短了35％。他說：“我們每年大約花8萬小時來解決工單，如人們打電話要求重置密碼，購買新的打印機或者要處理某些無法正常工作的東西而必須下載新的軟件”。Mahmood說，聊天機器人能理解請求并對其進行路由。他說：“這談不上誘人，但這能解決我們后端的痛苦�！�

Mahmood補充說，這兩個項目都是長期計劃的一部分。他說：“我們正在為公司創(chuàng)建一個整體數(shù)據(jù)戰(zhàn)略，我們如何管理數(shù)據(jù)，如何使用數(shù)據(jù)，架構應該是什么樣的。我們正在創(chuàng)建一個平臺，該平臺將在中間部署具有人工智能功能的分析引擎。”

要有耐心

Mahmood已經(jīng)制定了天職國際的人工智能之旅，該旅程目前仍處于初級階段。他說：“這需要極大的耐心�！�

Constellation Research的首席分析師兼創(chuàng)始人Ray Wang表示，大家總是低估自己將要付出的努力和金錢。

Wang說：“客戶面臨的最大問題往往是，雖然他們想要做這些項目，但他們只是為概念驗證提供資金，而這些項目都是長期項目。”

Wang說，此外，如果一家公司選擇了一個沒有優(yōu)秀商業(yè)案例的起始項目，人們就提不起興趣。

Wang說：“很多公司都經(jīng)歷過這樣的事情，而你因此浪費了很多錢�！�