為什么邊緣設備和計算中的AI應用是未來？

變革一直是發(fā)展不可或缺的一部分。隨著技術的飛速發(fā)展，公司也需要自己接受這些技術，以實現(xiàn)最大的收益。就像我們目睹了計算從大型機向云計算的轉變一樣，人工智能（AI）正在移向邊緣IoT設備和網絡。隨著數(shù)據(jù)的不斷增長，我們需要選擇將數(shù)據(jù)存儲和數(shù)據(jù)計算放置在設備上。高通，NVIDIA和英特爾等公司正在幫助我們實現(xiàn)這一現(xiàn)實。

盡管邊緣站點計算系統(tǒng)比中央數(shù)據(jù)中心的系統(tǒng)要小得多，但是它們已經成熟，并且由于當今x86商用服務器的處理能力的巨大增長，現(xiàn)在已經成功運行了許多工作負載。此外，如果應用程序對延遲敏感，則Edge是更好的選擇。更好的隱私性、安全性、低延遲和帶寬是邊緣平臺的一些特點。

什么是邊緣人工智能？

它指的是在硬件設備上本地處理的AI算法。它也被稱為設備上AI。這使您可以在不到幾毫秒的時間內使用設備處理數(shù)據(jù)，從而為您提供實時信息。使用Edge AI，人們可以從設備上的應用程序獲得她想要的個性化功能。

根據(jù)IDC的預測，到2023年，Edge AI軟件市場預計將從2018年的3．55億美元增長到1．12萬億美元。IDC研究總監(jiān)Dave McCarthy說：“ AI是邊緣計算中最常見的工作負載。隨著物聯(lián)網實施的成熟，人們對在生成點應用人工智能進行實時事件檢測的興趣與日俱增�！�

云端邊緣

當前，AI處理是在需要大量計算能力的基于云的數(shù)據(jù)中心中使用深度學習模型完成的。延遲是云環(huán)境或由云支持的物聯(lián)網設備面臨的最常見問題之一。此外，在將數(shù)據(jù)傳輸?shù)皆破陂g，始終存在數(shù)據(jù)被盜或泄漏的風險。使用edge可以對數(shù)據(jù)進行整理，然后再將其發(fā)送到遠程位置進行進一步分析。此外，邊緣人工智能將實現(xiàn)智能物聯(lián)網管理。

在基于邊緣的體系結構中，推理在設備上本地發(fā)生。這樣可以減少流回云的網絡流量，同時將IoT設備的響應時間縮短到最短，從而使管理決策可在本地使用，并靠近具有眾多優(yōu)勢的設備。

Edge AI需求的驅動因素：

有幾個因素要求將AI處理推向邊緣：

實時的客戶參與度與用戶或設備位置無關，例如使用設備上的在線支付，監(jiān)控鍛煉活動。

能夠在邊緣設備上運行大規(guī)模DNN模型。幾種框架和技術都支持模型壓縮，包括Google的TensorFlow Lite、Facebook的Caffe2Go，蘋果的CoreML、Nervana的神經網絡蒸餾器和SqueezeNet。

快速處理和分析物聯(lián)網傳感器數(shù)據(jù)。

降低Edge平臺的帶寬成本。

邊緣設備產品：

根據(jù)AI應用程序和設備類別，有幾種用于執(zhí)行AI邊緣處理的硬件選項。選件包括中央處理器（CPU）、GPU、專用集成電路（ASIC）、現(xiàn)場可編程門陣列（FPGA）和片上系統(tǒng)（SoC）加速器。邊緣在大多數(shù)情況下指的是設備，不包括網絡集線器或微型數(shù)據(jù)中心，除非其中包括網絡錄像機（NVR）的安全攝像機。