高通為什么進(jìn)入數(shù)據(jù)中心推理市場(chǎng)？

除了技術(shù)方面的考慮之外，另外一個(gè)推動(dòng)高通公司進(jìn)入AI推理加速器市場(chǎng)的重要因素便是－錢(qián)！

盡管目前人們對(duì)人工智能推理市場(chǎng)的最終規(guī)模能達(dá)到多少存在很大爭(zhēng)議，但是高通公司認(rèn)為，到2025年，數(shù)據(jù)中心推理加速器市場(chǎng)可能會(huì)達(dá)到170億美元。如果預(yù)測(cè)成真，這確實(shí)是一個(gè)相當(dāng)大的市場(chǎng)，也是一個(gè)高通絕對(duì)不愿意錯(cuò)過(guò)的市場(chǎng)，它完全可以媲美高通當(dāng)前的芯片制造業(yè)務(wù)。

此外，值得注意的是，上面所說(shuō)的還只是單純的推理市場(chǎng)，而不是整個(gè)數(shù)據(jù)中心推理＋訓(xùn)練市場(chǎng)，這里存在很大的區(qū)別。因?yàn)椋�雖然訓(xùn)練也很重要，但是針對(duì)訓(xùn)練的計(jì)算需求和針對(duì)推理的計(jì)算需求有很大不同。雖然可以使用相對(duì)低精度的數(shù)據(jù)類(lèi)型（比如INT8，有時(shí)還會(huì)更低）執(zhí)行準(zhǔn)確的推理，但是目前大多數(shù)訓(xùn)練任務(wù)都需要FP16或者更高精度的數(shù)據(jù)類(lèi)型。這就需要一種不同類(lèi)型的芯片，特別是我們討論的是ASIC，而不是類(lèi)似于GPU那樣的通用產(chǎn)品。

推理加速器的規(guī)模可以很容易地?cái)U(kuò)展：雖然訓(xùn)練神經(jīng)網(wǎng)絡(luò)可能需要部署大量資源，但是只需要部署一次就可以了，然后，訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)可以復(fù)制到推理加速器集群中去執(zhí)行。所以，對(duì)于和訓(xùn)練同樣重要的推理，潛在客戶(hù)需要的推理加速器數(shù)量要遠(yuǎn)大于訓(xùn)練用處理器。

與此同時(shí)，盡管高通公司沒(méi)有明確喊話，但是很明顯，它正打算顛覆市場(chǎng)領(lǐng)導(dǎo)者英偉達(dá)，英偉達(dá)已經(jīng)用自己的AI處理器建立了一個(gè)小型的人工智能帝國(guó)。目前，英偉達(dá)的特斯拉T4／P4／P40加速器構(gòu)成了數(shù)據(jù)中心AI推理處理器世界的支柱，從財(cái)報(bào)上來(lái)看，來(lái)自數(shù)據(jù)中心的收入是英偉達(dá)整體營(yíng)收中利潤(rùn)率很高的板塊。因此，即使整個(gè)數(shù)據(jù)中心市場(chǎng)沒(méi)有像之前預(yù)期的速度和規(guī)模增長(zhǎng)，這依然是一塊非常有利可圖的業(yè)務(wù)。

加入這個(gè)戰(zhàn)局，高通還必須時(shí)刻牢記來(lái)自英特爾的威脅。英特爾公開(kāi)表達(dá)了自己的人工智能計(jì)劃，從低功耗的Movidius加速器到最新的Cascade Lake Xeon可擴(kuò)展CPU，英特爾有幾個(gè)不同的AI產(chǎn)品系列計(jì)劃。不過(guò)，具體到高通公司想要進(jìn)入的數(shù)據(jù)中心AI推理加速器市場(chǎng)而言，來(lái)自英特爾最大的威脅可能是它即將推出的Xe GPU，這些GPU來(lái)自英特爾最近剛剛重建的GPU部門(mén)。和高通一樣，英特爾也在對(duì)英偉達(dá)發(fā)起挑戰(zhàn)，因?yàn)槿斯ぶ悄芡评硎袌?chǎng)上的競(jìng)爭(zhēng)對(duì)手們沒(méi)有一個(gè)希望失敗。

努力落地

高通公司只是表達(dá)勃勃的雄心遠(yuǎn)遠(yuǎn)不夠，在接下來(lái)的12個(gè)月內(nèi)，它的重點(diǎn)將是發(fā)展第一批客戶(hù)。要做到這一點(diǎn)，高通必須證明，它對(duì)于云AI 100系列所做的所有事情都是極其認(rèn)真的，它的硬件拿得出手，而且還能提供可以與競(jìng)爭(zhēng)對(duì)手的軟件生態(tài)系統(tǒng)PK的易用軟件。所有這一切都不容易，所以高通公司需要從現(xiàn)在開(kāi)始努力，以?xún)冬F(xiàn)吹過(guò)的牛逼。

多年來(lái)，高通公司一直對(duì)服務(wù)器和數(shù)據(jù)中心市場(chǎng)抱有各種各樣的夢(mèng)想，但是都是“過(guò)于雄心勃勃”。比如，高通公司在2017年大張旗鼓地宣布將突出基于ARM的服務(wù)器CPU－Centriq系列，結(jié)果整個(gè)項(xiàng)目在一年內(nèi)就遭遇了滑鐵盧。高通公司的Centriq雖然失敗了，但是它的另外兩個(gè)拳頭產(chǎn)品－移動(dòng)處理器和調(diào)制解調(diào)器－都是非常強(qiáng)悍的存在。為了讓數(shù)據(jù)中心運(yùn)營(yíng)商們信任并敢于使用云AI 100系列，高通公司不僅需要為其第一代產(chǎn)品制定一個(gè)偉大的計(jì)劃，還需要為未來(lái)幾代產(chǎn)品制定可以執(zhí)行落地的計(jì)劃。

在這個(gè)年輕、不斷增長(zhǎng)的推理加速器市場(chǎng)中，數(shù)據(jù)中心運(yùn)營(yíng)商也愿意嘗試CPU之外的新處理器。所以，我們沒(méi)有理由認(rèn)為高通的云AI 100系列肯定不會(huì)取得成功，但是，高通公司要說(shuō)服在其它方面依然謹(jǐn)慎的數(shù)據(jù)中心運(yùn)營(yíng)商，它就必須在其產(chǎn)品上投入更多的資源。

除了器件本身，軟件層面同樣重要。英偉達(dá)在人工智能領(lǐng)域取得的巨大成功在很大程度上應(yīng)該歸功于他們的人工智能軟件生態(tài)系統(tǒng)，該生態(tài)系統(tǒng)本身就是自己十年前的CUDA生態(tài)系統(tǒng)的擴(kuò)展，CUDA生態(tài)系統(tǒng)讓其在GPU領(lǐng)域的競(jìng)爭(zhēng)對(duì)手AMD被打壓得抬不起頭來(lái)。對(duì)于高通公司來(lái)說(shuō)，它的優(yōu)勢(shì)在于目前已經(jīng)存在最流行的框架、運(yùn)行時(shí)工具。TensorFlow、Caffe2和ONNX都是很不錯(cuò)的選擇，高通知道這一點(diǎn)，它也有能力實(shí)現(xiàn)它，所以它承諾為其AI加速處理器提供廣泛的軟件棧。不過(guò)，高通公司必須在軟件棧上加快速度，因?yàn)樗麄兊能浖�棧�?shí)際運(yùn)行性能如何決定了整個(gè)項(xiàng)目的成敗。高通必須提供良好的硬件和軟件組合才能在這個(gè)市場(chǎng)上取得成功。

高通公司今天發(fā)布的公告是一個(gè)預(yù)告片，它宣布了未來(lái)一年將要發(fā)生的事情。它制定了一項(xiàng)雄心勃勃的計(jì)劃，旨在打入日益增長(zhǎng)的人工智能推理加速器市場(chǎng)，并提供和這個(gè)開(kāi)放性的市場(chǎng)上其它任何產(chǎn)品都有所不同的加速器。從預(yù)告片到正式上映將會(huì)是一個(gè)巨大的挑戰(zhàn)，但是高通公司是在資金和工程資源方面最有實(shí)力的處理器巨頭，所以，高通公司能夠在推理加速器市場(chǎng)上取得多大的成績(jī)?nèi)�決于它有多渴求這個(gè)市場(chǎng)。它有能力開(kāi)發(fā)這種處理器，也知道如何避免導(dǎo)致之前的服務(wù)器處理器計(jì)劃失敗的失誤。

不過(guò)，最重要的是，高通公司也不會(huì)輕易地攻下推理加速器市場(chǎng)，它必須為之一戰(zhàn)。高通的成功等價(jià)于英偉達(dá)市場(chǎng)份額的丟失，英偉達(dá)肯定不會(huì)束手就擒，英特爾也在虎視眈眈，更不用說(shuō)其他GPU廠商、FPGA供應(yīng)商和ASIC廠商了。在這個(gè)新興技術(shù)主導(dǎo)的年輕市場(chǎng)中，所有參與者都有可能迅速崛起和衰敗。所以，雖然距離2020年還有差不多一年，但是，人工智能加速器市場(chǎng)必將在2020年掀起第一場(chǎng)世界大戰(zhàn)。