邊緣計算正在走上行業(yè)舞臺,雖然還處于發(fā)展的初期階段,但其前景受到越來越多的重視,各大芯片和系統(tǒng)廠商都在磨刀霍霍,期待占領(lǐng)市場先機(jī)。
這樣的背景下,由英特爾和華為等幾家大企業(yè)牽頭,于2016年成立了邊緣計算產(chǎn)業(yè)聯(lián)盟ECC,在成立初期,ECC總共有62家成員單位,2017年,有40多家新成員加入,總數(shù)超過100,而到2018年底,成員單位已經(jīng)超過200家。
在11月底于北京舉行的2018年邊緣計算產(chǎn)業(yè)峰會上,ECC發(fā)布了邊緣計算參考架構(gòu)3.0。
邊緣計算產(chǎn)業(yè)聯(lián)盟理事長,沈陽自動化研究所所長于海斌先生表示,隨著各界對邊緣計算認(rèn)識的深入,以及聯(lián)盟對邊緣計算的理解,我們推出了邊緣計算的參考架構(gòu)3.0,對邊緣計算的技術(shù)體系進(jìn)行更加系統(tǒng)的歸納總結(jié)和梳理。為了推動邊緣計算行業(yè)的應(yīng)用,聯(lián)盟又繼續(xù)發(fā)出八大測試床,至此已基本完成覆蓋智能制造、智能交通、智慧水務(wù)、智慧照明、TSN+OPCUA以及邊緣云平臺等典型領(lǐng)域和技術(shù)的測試床部署與發(fā)布。
芯片廠商助力邊緣計算前行
作為ECC的主要發(fā)起者,英特爾一直在芯片層面關(guān)注并推動著邊緣計算的發(fā)展。目前來看,有著巨大市場增長空間和應(yīng)用場景的物聯(lián)網(wǎng)將是邊緣計算的主陣地,而其中具體的應(yīng)用場景還在開發(fā)和探索之中。
據(jù)英特爾物聯(lián)網(wǎng)事業(yè)部中國區(qū)首席技術(shù)官張宇先生介紹,英特爾所提供的物聯(lián)網(wǎng)產(chǎn)品是全棧式的物聯(lián)網(wǎng)解決方案,里面涵蓋了計算、存儲、通信所需要的芯片。
在計算領(lǐng)域,該公司能夠提供從低壓、低功耗的凌動處理器,到靈活的酷睿處理器,再到高性能的至強(qiáng)處理器,通過一系列的產(chǎn)品組合來滿足不同的物聯(lián)網(wǎng)行業(yè),以及不同網(wǎng)源對計算的要求。除了通用類型的處理器以外,人工智能的計算正在興起,因此,英特爾也提供FPGA和一些專門用于視頻加速的專用芯片。
通信領(lǐng)域,在去年3GPP所頒布的窄帶物聯(lián)網(wǎng),也就是NB-IoT的標(biāo)準(zhǔn)里,英特爾也是中國的參與方,預(yù)計在明年,搭載英特爾基帶5G的產(chǎn)品就會正式出貨。
在存儲方面,利用3DXpoint技術(shù),可以使閃存的存儲密度提升10倍,存儲的速度較前一代閃存提高100倍。
在用于邊緣計算的人工智能產(chǎn)品方面,英特爾提供了相應(yīng)的人工智能加速解決方案,并且是可擴(kuò)展的。利用這些人工智能芯片,可以構(gòu)建從智能攝像機(jī)到智能網(wǎng)絡(luò)視頻存儲器NVR,以及智能視頻服務(wù)器,來滿足不同產(chǎn)品形態(tài)對計算的要求。
今年,英特爾發(fā)布了最新的MovidiusMyriadX視覺加速芯片,這款芯片功耗只有2瓦,但是它能夠提供1TOPS的算力。對用于邊緣計算的芯片而言,它的性能功耗比的要求是要高于對數(shù)據(jù)中心里芯片性能功耗比的要求。以智能攝像頭為例,智能攝像頭的整機(jī)功耗大概是10~15瓦,能夠分給智能芯片的功耗大概只有2瓦,所以MyriadX芯片能夠滿足功耗的要求,同時它又能夠提供1T的算力,足以支撐一路高清視頻的計算需求,利用MyriadX芯片可以搭載智能攝像頭產(chǎn)品。
對于其他網(wǎng)源,比如NVR和視頻服務(wù)器,對計算往往有更高的要求,能夠承載的功耗也更多。對于這一類形態(tài)的產(chǎn)品,英特爾也提供了人工智能加速器方案,是一個PCIe插卡,可以集成多款MyriadX芯片。以MyriadX芯片為例,插卡能集成8~16個芯片,提供8T~16T的算力,而整機(jī)的功耗大概只有20~30W,開發(fā)者可以根據(jù)自己對計算性能以及功耗的要求選取不同的配置。
當(dāng)然,要把一個好的設(shè)計轉(zhuǎn)變成產(chǎn)品,光靠硬件是不夠的,必須要有一個好的開發(fā)工具提供支撐。今年,英特爾發(fā)布了被稱之為OpenVINO的、用于機(jī)器視覺和深度學(xué)習(xí)推理的工具套件。
張宇表示,在視頻處理領(lǐng)域,基于深度學(xué)習(xí)和傳統(tǒng)計算機(jī)視覺方法,兩者都有自己的應(yīng)用場景。因為深度學(xué)習(xí)以卷積視頻網(wǎng)為基礎(chǔ),這種技術(shù)比較適合做物體的識別和檢測,對于一些傳統(tǒng)的計算機(jī)視覺方式而言,如利用直方圖均衡的算法去做圖像增強(qiáng)的時候,仍然能夠得到非常好的效果。所以,在OpenVINO里面,我們對這兩類方法有很好的支撐。對于深度學(xué)習(xí),我們提供了一個深度學(xué)習(xí)的部署套件,這個套件可以幫助開發(fā)者把自己在開放網(wǎng)絡(luò)上所設(shè)計和訓(xùn)練好的一個網(wǎng)絡(luò)模型快速部署到目標(biāo)平臺上來執(zhí)行推理的操作。目前我們能夠支持像TensorFlow、Caffe、MXnet等開放網(wǎng)絡(luò)架構(gòu),利用我們的部署套件來進(jìn)行優(yōu)化,在我們的部署套件里有兩個模塊,一個是模型優(yōu)化器,一個是推理引擎。模型優(yōu)化器在保證精度的前提下,對開發(fā)者所設(shè)計的網(wǎng)絡(luò)模型進(jìn)行優(yōu)化,把它轉(zhuǎn)變成中間表示文件,這個中間表示文件可以被推理引擎讀取,推理引擎再利用相應(yīng)的硬件插件來把中間表示文件下載到目標(biāo)平臺上運(yùn)行?,F(xiàn)在,我們的插件已經(jīng)能夠支持CPU插件、FPG插件,以及GPU插件和MyriadX的VPO的插件??梢愿鶕?jù)用戶不同的硬件選擇,選用不同的插件。
在計算機(jī)視覺領(lǐng)域,英特爾預(yù)編譯了OpenCV3.3,OpenCV是在計算機(jī)視覺領(lǐng)域應(yīng)用非常廣泛的函數(shù)庫,這個函數(shù)庫跟英特爾的淵源很深,最早是由該公司的工程師開發(fā)的,后來變成開源的項目,由俄羅斯的一家公司維護(hù)。幾年前英特爾收購了這家公司,現(xiàn)在它是英特爾物聯(lián)網(wǎng)事業(yè)部的一部分。據(jù)悉,該公司有很多OpenCV專家,他們繼續(xù)在英特爾的硬件平臺上對OpenCV進(jìn)行優(yōu)化,而這些優(yōu)化的結(jié)果就集成在OpenVINO工具里。因此,選用OpenVINO的話,既能對深度學(xué)習(xí)進(jìn)行加速,也能對傳統(tǒng)計算機(jī)視覺加速。
在與客戶的合作方面,張宇表示,除了做硬件和軟件產(chǎn)品的開發(fā)以外,我們還積極跟合作伙伴一起去構(gòu)建邊緣計算的解決方案,如跟阿里云合作,在重慶跟當(dāng)?shù)氐慕饘偌庸S一起利用OpenVINO和人工智能加速器,做了一個對金屬件缺陷檢測的方案。利用這樣的檢測方案,可以把漏檢率和誤檢率降低80%,同時檢測效率大大提升。在整個解決方案里,我們通過機(jī)械臂去抓取被檢測的工件,把它移動到檢測的攝像頭面前,轉(zhuǎn)到不同的角度,在每一個角度拍攝相應(yīng)的圖片,這個圖片會在邊緣的網(wǎng)關(guān)設(shè)備上進(jìn)行基于人工智能的處理,通過這樣的處理,我們能夠發(fā)現(xiàn)產(chǎn)品里的一些缺陷。
在推動邊緣計算發(fā)展以及產(chǎn)業(yè)合作方面,英特爾持較為開放的態(tài)度,英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉先生表示,我們的芯片可以用在終端、邊緣,也可以用在云,但這并不等于說整個端到端的所有芯片都由英特爾一家提供。比如我們在做的VPU,在攝像機(jī)上能夠加上視頻分析加速器,這是英特爾的產(chǎn)品,但攝像機(jī)還會用到很多家公司的芯片。過去,計算發(fā)生在云端,大家容易理解,因為數(shù)據(jù)在哪兒,計算就在哪。而邊緣計算的爆發(fā),簡化了英特爾物聯(lián)網(wǎng)產(chǎn)品事業(yè)部的戰(zhàn)略,我們曾經(jīng)花了一些時間去探索要做什么樣的芯片,今天我們的戰(zhàn)略特別明確,要做芯片就專注于兩方面,計算視覺及整合,因為計算視覺對計算要求特別高,還要不斷整合。所以從這個定義來看,一定會吸取不同芯片架構(gòu)所產(chǎn)生的數(shù)據(jù)。
除了英特爾,華為也在大力推動邊緣計算的發(fā)展,不僅在系統(tǒng)層面,其在芯片上也在發(fā)力。
華為網(wǎng)絡(luò)研發(fā)總裁、邊緣計算產(chǎn)業(yè)聯(lián)盟副理事長劉少偉表示,我們的邊緣計算業(yè)務(wù)涉及到多個層面,如工業(yè)、制造業(yè)和一些行業(yè)應(yīng)用上的邊緣計算平臺,這個平臺是基于硬件、芯片搭建的,還有一塊是軟件,邊緣計算的操作系統(tǒng),如基于Linux的。
前一段時間,華為在其全聯(lián)接大會上發(fā)布了幾款A(yù)I芯片,可以對外銷售,在邊緣可以直接用AI的部件來做一些事情,再有就是之前一直做的MEC。
應(yīng)用場景如何落地
邊緣計算還處于發(fā)展的初期,關(guān)于其應(yīng)用場景如何落地這一問題,陳偉表示,這要看數(shù)據(jù)本身的負(fù)載。有一些視頻技術(shù)應(yīng)用比較多的行業(yè),像視頻監(jiān)控、零售業(yè)人臉識別、智能制造、智慧城市等應(yīng)用場景,當(dāng)有大量數(shù)據(jù)需要存儲和分析的時候,這些行業(yè)往往會先落地。視覺上的運(yùn)用是跨行業(yè)的,盡管表面看起來是不同的行業(yè),但從技術(shù)層面來看,都是視覺應(yīng)用。人工智能作為一個解決數(shù)據(jù)爆發(fā)的工具,它越靠近數(shù)據(jù)就越能夠建模、訓(xùn)練,從而使人工智能推理盡早得到完善,加速整個行業(yè)的落地。
陳偉表示,要普遍落地的話,從邊緣計算的角度來講需要做兩件事情,一個是行業(yè)的標(biāo)準(zhǔn),因為邊緣計算的應(yīng)用場景非常的碎片化;第二,任何一個生態(tài)的搭建都需要時間,邊緣計算所涉及的應(yīng)用場景是完全不一樣的。應(yīng)用到不同場景的人臉識別,要使其在不同垂直行業(yè)進(jìn)行優(yōu)化,需要建設(shè)好生態(tài),而這個生態(tài)是相當(dāng)龐大的,所以,生態(tài)的搭建、成熟是需要時間的。
ECC與IEEE達(dá)成戰(zhàn)略合作
IEEE是一個國際性的電子技術(shù)與信息科學(xué)工程師協(xié)會,是目前全球最大的非營利性的專業(yè)技術(shù)學(xué)會,在160多個國家已經(jīng)擁有超過42萬名會員,專注于推進(jìn)電氣技術(shù)、電子電力工程、機(jī)器人和自動化、計算機(jī)工程、計算機(jī)科學(xué)和其他相關(guān)技術(shù)的理論和實踐。
在2018年邊緣計算產(chǎn)業(yè)峰會上,ECC與IEEE舉行了正式的簽約儀式,開啟戰(zhàn)略合作之旅。