從云端運(yùn)算

走向邊緣運(yùn)算

邊緣計(jì)算

邊緣運(yùn)算是一種分散式運(yùn)算的架構(gòu)，將應(yīng)用程序、數(shù)據(jù)資料與服務(wù)的運(yùn)算，由網(wǎng)絡(luò)中心節(jié)點(diǎn)移往邊緣設(shè)備(也稱為邊緣節(jié)點(diǎn))來處理，允許在數(shù)據(jù)收集源附近實(shí)時(shí)處理和分析數(shù)據(jù)；由于邊緣節(jié)點(diǎn)更接近于用戶終端裝置且資料不需直接上云，可加快資料處理并減少延遲，更適合處理實(shí)時(shí)性的數(shù)據(jù)分析及服務(wù)。

智慧制造對(duì)于邊緣運(yùn)算需求大增 

由于智慧制造帶出的龐大數(shù)據(jù)量，企業(yè)面臨通訊延遲、資料安全和頻寬成本等因素已讓制造業(yè)從云端運(yùn)算逐漸轉(zhuǎn)向邊緣運(yùn)算，讓機(jī)器不需時(shí)時(shí)聯(lián)網(wǎng)卻具備實(shí)時(shí)決策與反應(yīng)力，因此將資料初步計(jì)算與推論運(yùn)算的任務(wù)轉(zhuǎn)移至終端設(shè)備為近期的趨勢(shì)；而將資料留在當(dāng)?shù)厝〈貍髟贫?，也更能滿足制造業(yè)提升資安與隱私的需求。其中，在邊緣運(yùn)算中最重要的三個(gè)指標(biāo)為體積、運(yùn)算效能以及耗能。

Hailo AI加速芯片-Hailo-8?

小封裝面積與低耗能

目前市面上由NVIDIA AGX Xavier以及周邊顯示卡稱霸，并于運(yùn)算效能表現(xiàn)亮點(diǎn)，然而Hailo解決方案在資源利用率上有顯著地差異。透過以下圖表可以說明，當(dāng)位于ResNet-50執(zhí)行程序時(shí)，Hailo的資源利用為2.8 TOPS/W、AGX Xavier則是0.14 TOPS/W，相當(dāng)于20倍以上的能源利用效率讓Hailo加速芯片成為在邊緣端應(yīng)用不可或缺的一項(xiàng)利器。

Hailo AI 加速芯片與NIVIDIA AGX Xavier之比較

獨(dú)創(chuàng)架構(gòu)能達(dá)到26 Tops高運(yùn)算性能

Hailo-8?采用創(chuàng)新「結(jié)構(gòu)定義資料流」(structure-defined dataflow)架構(gòu)，讓以往只能在云端上進(jìn)行的復(fù)雜計(jì)算，現(xiàn)在能在邊緣裝置上實(shí)現(xiàn)，使其能達(dá)到26 TOPS、3 TOPS/W的運(yùn)算性能；這代表Hailo-8?賦予了邊緣裝置在計(jì)算性能、系統(tǒng)功耗、實(shí)時(shí)性、資安隱私和系統(tǒng)可靠性上突破性優(yōu)化，足以勝任在Edge端復(fù)雜的AI計(jì)算需求。

結(jié)構(gòu)定義資料流架構(gòu)

支援主流平臺(tái)與提供完整模型

Hailo-8?同時(shí)支持市場(chǎng)主流的神經(jīng)操作數(shù)，例如：TensorFlow以及ONNX。除此之外，方案商可以透過Hailo SDK協(xié)助將訓(xùn)練好的模型無痛移轉(zhuǎn)到加速裝置并且產(chǎn)出最大化的執(zhí)行效能。

強(qiáng)大推論效能

超恩ABP-3000 AI嵌入式系統(tǒng)搭載Hailo-8? AI加速芯片后，在多種AI人工智能類神經(jīng)網(wǎng)絡(luò)計(jì)算平臺(tái)的驗(yàn)證測(cè)試中領(lǐng)先市面上同級(jí)產(chǎn)品的AI推論(Inference)性能，以及最高25W的系統(tǒng)低功耗表現(xiàn)，其性能于其他平臺(tái)如下：

在Resnet-50平臺(tái)上，最高每秒傳輸幀數(shù)可達(dá)3000幀 (FPS)

在Mobilenet-V1 SSD平臺(tái)上，最高每秒傳輸幀數(shù)可達(dá)2500幀 (FPS)

在Yolo-v5m平臺(tái)上，最高每秒傳輸幀數(shù)可達(dá)450幀 (FPS)

在Yolo-v3平臺(tái)上，最高每秒傳輸幀數(shù)可達(dá)230幀 (FPS)

與他廠性能基準(zhǔn)測(cè)試比較-柱狀圖顯示執(zhí)行每一個(gè)模型的FPS (frames per second)速率

應(yīng)用領(lǐng)域

ABP-3000AI成功于各項(xiàng)邊緣應(yīng)用領(lǐng)域提供強(qiáng)大的推論效能，尤其在戶外環(huán)境以及有限空間中更能發(fā)揮其效能。例如:在各個(gè)主要渠道路口辨識(shí)車流與車輛違規(guī)狀況、在商店或是公共空間計(jì)算人流資料以及在工廠協(xié)助執(zhí)行質(zhì)量檢測(cè)等實(shí)時(shí)性任務(wù)。

適合多種邊緣運(yùn)算應(yīng)用

客戶成功案例分享

過去傳統(tǒng)制造業(yè)需要透過人工的方式記錄每個(gè)班別甚至于工單的完成度，這樣的限制導(dǎo)致工廠單位需要一周甚至一個(gè)月的時(shí)間才能夠粗略的計(jì)算任務(wù)執(zhí)行狀況，衍生出工廠的資料管理不易以及無法及時(shí)做決策等關(guān)鍵問題。

此外，一般工廠對(duì)于生產(chǎn)數(shù)據(jù)有較高程度的敏感度導(dǎo)致大部分客戶不愿意讓資料上傳到公有云進(jìn)行資料分析，若要在工廠部屬邊緣運(yùn)算裝置更必須額外考量空間、溫度以及粉塵等會(huì)影響裝置壽命，以上關(guān)鍵因素皆呼應(yīng)到邊緣運(yùn)算中最重要的3大指標(biāo)─體積、運(yùn)算效能以及耗能。

ABP-3000 AI

還好經(jīng)過邊緣運(yùn)算裝置的成熟發(fā)展，AI辨識(shí)任務(wù)已經(jīng)不一定要在云端上執(zhí)行。以下客戶成功導(dǎo)入的智慧產(chǎn)線應(yīng)用案例分享就是ABP-3000 AI于平均50°C高溫中計(jì)算HD分辨率的影像。在這個(gè)案例中ABP-3000AI提供高達(dá)30 FPS的資料處理效率協(xié)助解決方案有效的追蹤操作人員的每一個(gè)動(dòng)作并實(shí)時(shí)計(jì)算操作人員的任務(wù)周期、完成時(shí)間以及閑置時(shí)間。

目前導(dǎo)入AI辨識(shí)解決方案的工廠可以透過邊緣裝置獲取的實(shí)時(shí)影像辨識(shí)訊息進(jìn)而獲得實(shí)時(shí)工作稼動(dòng)率與工單執(zhí)行狀況，而這些實(shí)時(shí)訊息則能夠有效的協(xié)助工廠主管及時(shí)制定生產(chǎn)策略以及人員配置等議題。經(jīng)過長期觀察，該工廠成功的在半年內(nèi)減少了20%人員閑置時(shí)間并增加了15%工單稼動(dòng)率，并繼續(xù)朝著實(shí)現(xiàn)工業(yè)4.0的目標(biāo)。

生產(chǎn)數(shù)據(jù)可視化工廠

產(chǎn)品介紹

ABP-3000 AI

    * 第八代英特爾? 酷睿? U系列處理器

    * 搭載先進(jìn)的AI加速器，支持每秒26萬億次的操作 (TOPS)

    * 4個(gè)USB 3.1；4個(gè)獨(dú)立千兆網(wǎng)口，其中2個(gè)支持IEEE 802.3at PoE+

    * 2個(gè)DisplayPort顯示，最高支持4K分辨率

    * 緊湊型、無風(fēng)扇設(shè)計(jì)，支持0°C至60°C工作溫度

    *  9V至50V寬范圍直流輸入

關(guān)于Hailo

Hailo由以色列國防軍的精英科技部門成員于2017年創(chuàng)立，為專注在人工智能的芯片制造商。其人工智能處理器重新構(gòu)想了傳統(tǒng)計(jì)算機(jī)架構(gòu)，使智能型裝置能以最低耗電量、最小的尺寸和最低的成本，實(shí)時(shí)執(zhí)行復(fù)雜的深度學(xué)習(xí)任務(wù)。https://hailo.ai/

[關(guān)于超恩]

超恩是邊緣計(jì)算的專家，超恩團(tuán)隊(duì)具備多年工業(yè)電腦產(chǎn)品設(shè)計(jì)、研發(fā)、制造、行銷、銷售與售后服務(wù)的經(jīng)驗(yàn)；超恩的產(chǎn)品與服務(wù)以領(lǐng)先的系統(tǒng)性能、可靠的系統(tǒng)穩(wěn)定性、高度集成的功能設(shè)計(jì)與規(guī)格配備、強(qiáng)固級(jí)產(chǎn)品設(shè)計(jì)與用料、使用者需求為考量的設(shè)計(jì)思維、以及富彈性的客制化服務(wù)見長。在全球無人駕駛(Autonomous car)、機(jī)器視覺(Machine Vision)、軌道交通(Rolling Stock)、機(jī)器人控制(Robotic Control)和車載應(yīng)用(Vehicle Computing)等領(lǐng)域，超恩有著領(lǐng)先的市場(chǎng)地位。超恩是鴻海旗下工業(yè)電腦大廠樺漢(6414)集團(tuán)的成員。