由中國(guó)高科技行業(yè)門(mén)戶OFweek維科網(wǎng)和高科會(huì)主辦、OFweek人工智能網(wǎng)承辦“OFweek（第二屆）國(guó)際人工智能產(chǎn)業(yè)大會(huì)”于8月30日盛大召開(kāi)。此次大會(huì)，隨著上千名AI學(xué)術(shù)領(lǐng)袖、政府領(lǐng)導(dǎo)、領(lǐng)軍企業(yè)與業(yè)界精英的到來(lái)，會(huì)場(chǎng)氣氛持續(xù)高漲。

大會(huì)持續(xù)兩天，其中中科創(chuàng)達(dá)副總裁兼智能視覺(jué)事業(yè)全執(zhí)行總裁孫力作為演講嘉賓之一出席了第一天的主論壇，給大家?guī)��?lái)了《解析深度學(xué)習(xí)的前沿研究以及應(yīng)用出口》的主題演講，介紹了嵌入式人工智能人工智能的挑戰(zhàn)與實(shí)踐。

孫力先生

中科創(chuàng)達(dá)副總裁兼智能視覺(jué)事業(yè)全執(zhí)行總裁孫力首先分享了建筑設(shè)計(jì)的三個(gè)主題， 分別是嵌入式AI方面的發(fā)展趨勢(shì)、嵌入式人工智能的挑戰(zhàn)與落地、中科創(chuàng)達(dá)做的一些實(shí)踐。

其次分享了嵌入式人工智能的一些應(yīng)用、落地挑戰(zhàn)、壓縮網(wǎng)絡(luò)和常見(jiàn)技術(shù)。最終再介紹了中科創(chuàng)達(dá)在人工智能視覺(jué)方面的工作。

以下是中科創(chuàng)達(dá)副總裁兼智能視覺(jué)事業(yè)全執(zhí)行總裁孫力的現(xiàn)場(chǎng)演講內(nèi)容，OFweek小編作了不改變?cè)�意的整理和編輯�?/strong>

各位業(yè)界的朋友，大家好，我今天分享的主題是嵌入式人工智能的挑戰(zhàn)和實(shí)踐。 因?yàn)榇蠹叶颊f(shuō)到，人工智能最后免不了要落地，不管你跑到云上還是跑到設(shè)備上，或者是跑在邊緣側(cè)。

今天我要聚焦的是一個(gè)建筑設(shè)計(jì)方面的一個(gè)分享，大約有三個(gè)主題，第一個(gè)是嵌入式AI方面的發(fā)展，因?yàn)槟悴还芙兴�什么，總而言之人工智能要落地，你得跑在這些設(shè)備上。第二個(gè)是嵌入式人工智能的一些挑戰(zhàn)，還有應(yīng)用的落地上遇到的一些經(jīng)驗(yàn)分享。第三個(gè)是中科創(chuàng)達(dá)做的一些實(shí)踐。

在嵌入式AI發(fā)展這塊，大約有三個(gè)話題，首先我們看看嵌入式和云端的區(qū)別，它們二者是共存的，并不矛盾，根據(jù)需要以及所處場(chǎng)景，有一些需要跑在端側(cè)，有的可以純粹跑在云端。

嵌入式能帶來(lái)一些好處，比如說(shuō)更快的響應(yīng)或者更低的功耗，還有更好的數(shù)據(jù)隱私，因?yàn)橛行��?shù)據(jù)并不希望被傳到云端。

另外大家都知道，目前的物聯(lián)網(wǎng)雖然非常碎片化，但是從整體來(lái)講的話，其數(shù)量還是相當(dāng)龐大。而對(duì)于AI來(lái)說(shuō)，未來(lái)這些物聯(lián)網(wǎng)的硬件設(shè)備，再加上AI的算法，還有云端的結(jié)合，便可以使人工智能滲透到越來(lái)越多的場(chǎng)景里。

對(duì)于整個(gè)視覺(jué)市場(chǎng)和嵌入式這一塊，首先中科創(chuàng)達(dá)做了很多關(guān)于視覺(jué)這塊的業(yè)務(wù)，目前視覺(jué)方面都是指視覺(jué)的終端，比如帶攝像頭的設(shè)備，并且數(shù)量呈現(xiàn)快速增長(zhǎng)的趨勢(shì)，語(yǔ)音方面更不用說(shuō)了，已經(jīng)取得了非常大的成就。

那么接下來(lái)，不管是在安防、汽車(chē)、小機(jī)器人等很多的設(shè)備上面，攝像頭都會(huì)快速地增加。而且大家看到，不管是給開(kāi)發(fā)者還是企業(yè)用的，邊緣側(cè)的智能視覺(jué)設(shè)備也越來(lái)越多，有的為了投放教育市場(chǎng)，有的是可以用來(lái)做開(kāi)發(fā)的一些設(shè)備，當(dāng)然很多設(shè)備的工業(yè)設(shè)計(jì)或者結(jié)構(gòu)等會(huì)不一樣，可能針對(duì)不同的場(chǎng)景需要定制化。

為此，中科創(chuàng)達(dá)推出了我們自己的TurboX AI Kit，來(lái)做這些人工智能的開(kāi)發(fā)，設(shè)計(jì)基于高通驍龍845平臺(tái)來(lái)安置，我們提供豐富的嵌入式 AI 開(kāi)發(fā)、分析、優(yōu)化和調(diào)試工具，加速端側(cè) AI 的實(shí)現(xiàn)與普及，助力生態(tài)系統(tǒng)構(gòu)建。

我再說(shuō)一些嵌入式人工智能的應(yīng)用和落地挑戰(zhàn)。實(shí)際上人工智能最后要落地到嵌入式這一塊，市場(chǎng)上有那么多的芯片，密度不同，操作系統(tǒng)不同，但運(yùn)算力卻那么有限，甚至有的人在挑戰(zhàn)一些操作系統(tǒng)來(lái)部署人工智能生態(tài)系統(tǒng)，這樣做對(duì)于一些比較小的封閉的生態(tài)系統(tǒng)來(lái)說(shuō)的話，對(duì)于算法的開(kāi)發(fā)者就會(huì)比較困難。

對(duì)于嵌入式AI算法的部署本身，比較簡(jiǎn)單，你要做訓(xùn)練，訓(xùn)練完要轉(zhuǎn)換模型，要把它放入嵌入式，然后讓它跑起來(lái)。最麻煩的就在于當(dāng)你放到不同的芯片上，你到底是放在CPU，還是DSP上，或者GPU上？所以這些都帶來(lái)非常大的一些挑戰(zhàn)。

對(duì)于嵌入式算法的優(yōu)化策略，無(wú)非就是說(shuō)要針對(duì)你所使用的tag的芯片硬件，來(lái)做深度的硬件和軟件的優(yōu)化。那么對(duì)于硬件的話，你先要考慮的就是它的功耗和成本。你不能把芯片給吹爆了，因?yàn)樗�的算力是有限的。但是如果你把這些網(wǎng)絡(luò)裁剪太厲害，它的精度又不夠了，實(shí)際上這就是一個(gè)迭代的流程，要不停的去迭代，而且一定要壓榨干所有芯片上的DSP、GPU。首先就要跟芯片平臺(tái)有非常深度的合作，另外在軟件方面一定要降低算法模型的運(yùn)算量。

實(shí)際上不管什么樣的嵌入式終端，首先你都要根據(jù)你要落地的芯片，先看這個(gè)算力有多少，而后才能知道你的神經(jīng)網(wǎng)絡(luò)的層數(shù)、神經(jīng)網(wǎng)絡(luò)的大小。然后你再看它的KPI是多少，根據(jù)這些給你的目標(biāo)平臺(tái)和芯片做一個(gè)性能的評(píng)估。最終你要看到你的算法復(fù)雜度的上限，并且你一定要摸到底，但是基于限制的神經(jīng)，網(wǎng)絡(luò)神經(jīng)模型可能會(huì)很大，這樣在嵌入式里面會(huì)跑不動(dòng)，接著你要把它進(jìn)行裁剪。

你要給網(wǎng)絡(luò)做很多的裁剪和壓縮。之后利用一些工具來(lái)測(cè)量它的真實(shí)性能，也即檢測(cè)你裁剪完之后跑的效果。如果不能滿足性能，裁剪就沒(méi)有用。如果在滿足這些性能之后，然后再進(jìn)行迭代，不停的迭代，一定不要浪費(fèi)掉你的DSP和GPU。

另外在嵌入式這一塊的算法進(jìn)行優(yōu)化，一定要對(duì)網(wǎng)絡(luò)的模型進(jìn)行 paper上的重訓(xùn)練，然后使用不同參數(shù)進(jìn)行反復(fù)的調(diào)，再測(cè)量它的性能。另外還要修改神經(jīng)網(wǎng)絡(luò)的一些通道，找到準(zhǔn)確率和速度的最佳平衡點(diǎn)。

再跟大家分享一些關(guān)于嵌入式上的壓縮網(wǎng)絡(luò)和常見(jiàn)技術(shù)，網(wǎng)絡(luò)上大家都能看得到一些工友的paper，大家可以針對(duì)這些模型進(jìn)行一些深度優(yōu)化，在類似的精度上面，大家可以去做裁剪嘗試。另外就是所謂的裁剪，不管你剪的什么也好，網(wǎng)絡(luò)太復(fù)雜，就意味著大腦太大。那么你在嵌入式的設(shè)備上就跑不動(dòng)，那就還需要進(jìn)行減值。

最后，我再分享一下中科創(chuàng)達(dá)在視覺(jué)方面的一些工作，因?yàn)槲覀冇蟹浅｝嫶蟮囊曈X(jué)團(tuán)隊(duì)，包括圖像整理團(tuán)隊(duì)，我們整體加起來(lái)有四五百人，我們跟高通是戰(zhàn)略合作關(guān)系，還有跟ARM等公司都有在平臺(tái)層面的深度合作。中科創(chuàng)達(dá)有AI平臺(tái)架構(gòu)，我們有自己的算法。

但是各種操作系統(tǒng)太碎片化了，有的客戶說(shuō)我一定要跑在DSP上，因?yàn)楣�耗比GPU要好。有的客戶說(shuō)我就跑到GPU上。面對(duì)各種不同的操作系統(tǒng)，故視覺(jué)工作面臨非常大的挑戰(zhàn)。在這種情況下，實(shí)際我們公司擁有有非常多的經(jīng)驗(yàn)，我們?cè)诤芏嗟男酒�，很多的操作系統(tǒng)的碎片化上進(jìn)行服務(wù)。加上中科創(chuàng)達(dá)是服務(wù)型公司，所以我們接觸的這些案例相當(dāng)多。

我分享幾個(gè)比較有趣的案例給大家，我們?cè)诮衲陝偨桓督o我們一個(gè)歐洲的客戶，其公司是做微波爐的， 產(chǎn)品是用高通的芯片，但是芯片算力太差。比如微波爐想要要識(shí)別里邊的食物，從而自動(dòng)選擇加熱的方法，其實(shí)這種情況下對(duì)算法的精度要求不是很高的。比如你到底是三皇雞還是土雞不重要，是個(gè)雞就可以了，你是黃牛肉還是澳洲產(chǎn)的牛肉也不重要，能識(shí)別出牛肉就可以，所以在那種情況下，你要先知道客戶的需求，你就可以將很差的芯片進(jìn)行裁剪，從而滿足客戶的要求。

但是其實(shí)解決這些面臨挺大挑戰(zhàn)的，假如你真的要做食物方面的識(shí)別。其實(shí)有很多東西很難，因?yàn)橛袝r(shí)候人都看不太出來(lái)，你到底是一個(gè)小狗還是個(gè)餅干，所以實(shí)際上，真正的一個(gè)算法，從一個(gè)demo給大家秀一下到商用化，其中“最后一公里”是特別困難的，測(cè)試過(guò)程總是能夠找到bug，所以必須來(lái)反復(fù)的調(diào)整。

如果再將這些產(chǎn)品放到市場(chǎng)，那挑戰(zhàn)更大。我們?cè)�做了這些產(chǎn)品給食堂，包括關(guān)于面包店的一些解決方案，雖然這個(gè)面包，看起來(lái)很容易，但是有各種不同的面包，你不能說(shuō)光把面包識(shí)別出來(lái)就完了，如果說(shuō)今天新推出一個(gè)面包，你怎么辦？

另外其實(shí)我們還接到大量的工業(yè)上的一些需求，比如說(shuō)瑕疵的檢測(cè)，現(xiàn)在有很多的工廠，比如說(shuō)液晶面板，有的工廠里還有大量工人在做質(zhì)檢。雖然實(shí)際上現(xiàn)在的人工智能不是萬(wàn)能的，他必須得結(jié)合傳統(tǒng)的圖像處理的方法，不能純粹用人工智能，但這樣就可以把部分人類解放出來(lái)。雖然說(shuō)有些人要失業(yè)，但是他可以做更有趣的一些工作，因?yàn)橘|(zhì)檢要輪班，并且對(duì)視力、對(duì)精神實(shí)際上都有很大的壓力。

好，這就是我今天的分享，謝謝。