邊緣計算可以為物聯(lián)網網絡增加大量的靈活性、速度和智能,但重要的是要了解邊緣人工智能設備并不能解決智能網絡應用面臨的所有挑戰(zhàn)。在本文的最后,在確定邊緣技術是否適合應用之后,我們將討論買家在評估邊緣人工智能設備時應該考慮的主要特性和考慮因素。
什么是邊緣計算
邊緣計算在云的邊緣將物聯(lián)網提升到一個更高的層次,原始數據可以實時轉化為價值。通過在整個網絡中重新分配數據處理工作,提升了連接節(jié)點、端點和其他智能設備的重要性和治理。
邊緣計算幾乎與云計算完全相反,在云計算中,數據從分布式網絡流入,在集中的數據中心進行處理,結果通常被傳輸回原始的分布式網絡,以觸發(fā)動作或產生變化。然而,長距離傳輸大量數據會產生成本的。這些成本可以用金錢來衡量,但也可以用其他關鍵的方式來衡量,比如用權力或時間。
這就是邊緣計算的切入點。當功率、帶寬和延遲真的很重要時,邊緣計算可能是答案。與集中式云計算不同的是,在中心化云計算中,數據可能要穿越數百英里才能被處理,邊緣計算使數據能夠在數據被感知、創(chuàng)建或駐留的同一網絡邊緣位置處理。這意味著處理延遲幾乎可以忽略不計,對功率和帶寬的要求通常也大大降低。
當今邊緣計算的主要推動者之一是半導體制造商在不大幅增加功耗的情況下提高處理能力的方式。這意味著位于邊緣的處理器可以在不消耗更多功率的情況下利用它們獲取的數據做更多事情。這允許更多的數據停留在邊緣,而不是被傳輸到核心。除了降低系統(tǒng)總功率外,這還增加了響應時間并改善了數據隱私。
受益于這一發(fā)展的一些技術包括人工智能和機器學習,但這些也依賴于降低數據獲取成本,同時提高數據隱私級別。通過邊緣處理可以同時解決成本和隱私問題。就AI和ML等新興趨勢而言,這兩種技術傳統(tǒng)上都需要大量資源,遠遠超過端點或智能設備中通??捎玫馁Y源?,F在,由于硬件和軟件水平的進步,還可以將這些支持技術嵌入到位于網絡邊緣的更小、資源更有限的設備中。
評估邊緣人工智能
選擇能夠執(zhí)行邊緣處理的平臺,可能包括運行AI算法或ML推理引擎,這需要仔細評估。簡單的傳感器和執(zhí)行器,即使是屬于物聯(lián)網的一部分,也可以通過相對較小的集成設備實現。增加邊緣處理的數量將需要一個更強大的平臺,可能使用高度并行的架構。通常情況下,這意味著GPU,但如果平臺太強大,它將成為網絡邊緣有限資源的負擔。
同樣重要的是要記住,邊緣設備基本上是現實世界的接口,因此它可能需要支持一些常見的接口技術,如以太網,GPIO,CAN、串行和/或USB)。它也可能需要支持外圍設備,如攝像頭、鍵盤和顯示器。
邊緣也可以是與舒適的氣候控制數據中心截然不同的環(huán)境。邊緣設備可能暴露在極端的溫度,濕度,振動甚至高度。這將對設備的選擇產生影響,以及如何包裝或封裝。
另一個需要考慮的重要方面是監(jiān)管要求。任何使用射頻進行通信的設備都將受到法規(guī)的約束,并可能需要許可證才能運行。一些平臺將“開箱即用”遵守規(guī)定,但其他平臺可能需要付出更多努力。一旦投入使用,它們就不太可能得到硬件升級,因此必須在設計周期內仔細確定處理能力、內存和存儲,以便為未來的性能提升提供空間。
這包括軟件升級。與硬件不同的是,可以在設備在現場時部署軟件更新。這些無線更新現在非常常見,很可能任何邊緣設備都需要設計為支持OTA更新。
選擇正確的解決方案將涉及對所有這些一般點的仔細評估,以及仔細研究應用程序的特定需求。比如設備是否需要處理視頻數據,或者音頻數據,亦或者只處理溫度,還是也監(jiān)測其他環(huán)境方面。這些問題中的許多適用于部署在前沿的所有技術,但隨著加工水平的提高和對產出的期望的提高,將有必要擴大要求列表。
邊緣計算的好處
現在,將AI和ML放入邊緣設備和智能節(jié)點中在技術上是可能的,這將帶來重大的機遇。這意味著處理引擎不僅更接近數據源,而且該引擎可以對它收集的數據做更多的事情。
這樣做確實有好處。首先,它可以提高生產力,或數據使用的效率。其次,它簡化了網絡架構,因為移動的數據更少。第三,它使接近數據中心變得不那么重要。如果數據中心在城市中,那么最后一點可能看起來不太重要,但是如果網絡的邊緣是一個偏遠的位置,比如農場或水處理廠,那么這一點就會有很大的不同。
不可否認的是,數據在互聯(lián)網上快速移動。許多人可能會驚訝地發(fā)現,搜索查詢可能會在結果出現在屏幕上之前在全球范圍內傳播兩次。總經過的時間可能只有幾分之一秒,而對我們來說,這幾乎是瞬間的。但對于組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器的互聯(lián)網的機器和其他智能設備來說,每一秒都感覺像是一個小時。
這種往返延遲是實時系統(tǒng)的制造商和開發(fā)人員真正關心的問題。數據往返于數據中心所花費的時間并非無關緊要,當然也不是瞬間的。減少這種延遲是邊緣計算的一個關鍵目標。它與更快的網絡協(xié)同工作,這是5G發(fā)揮作用的地方。但是,隨著更多的設備上線,推出更快的網絡將無法彌補我們預期的累積網絡延遲。
分析人士預測,到2030年,聯(lián)網設備的數量可能會達到500億臺。如果這些設備中的每一個都需要一個數據中心的寬頻帶,那么網絡將永遠擁塞。如果它們中的許多在管道中運行,等待上一階段的數據到達,那么總延遲很快就會變得非常明顯。邊緣計算是緩解擁塞網絡的唯一可行的解決方案。
然而,雖然總體上對邊緣計算有一定的需求,但邊緣計算的具體好處仍然在很大程度上取決于應用,這就是邊緣計算法則的應用。這些定律將幫助工程團隊決定邊緣計算是否適合特定應用。
邊緣計算的4大定律
物理定律
第一定律是物理定律,這個是不可變的。射頻能量以光速傳播,就像光纖網絡中的光子一樣。這是好消息。壞消息是它們不能再快了。因此,如果往返時間仍然不夠快,那么邊緣計算可能是正確的選擇。
Ping測試提供了一種簡單的方法,可以測量數據包在網絡連接的兩個端點之間傳輸所需的時間。在線游戲通常托管在多個服務器上,玩家將ping服務器,直到他們找到延遲最低的服務器,這意味著數據可以以最快的速度傳播。這就是時間敏感數據的關鍵,即使是幾分之一秒。
延遲也不完全依賴于傳輸機制。每一端都有編碼器和解碼器,這些物理層需要將電子轉換成所使用的任何能量形式,然后再將它們轉換回來。所有這些都需要時間,即使處理器以千兆赫的速度運行,時間也是有限的,而且取決于所移動的數據量。
經濟學定律
這種方法可能更靈活一些,但隨著處理和存儲資源需求的飆升,它也更難以預測。利潤總是微薄的,但如果在云計算中處理數據的成本突然上升,它可能證明盈利或虧損之間的差別。
云服務的成本開始于購買或租用服務器、機架或刀片的成本。這取決于CPU內核的數量、所需的RAM或永久存儲的數量以及服務級別。有保證的正常運行時間比沒有保證的服務水平花費更多。網絡帶寬基本上是免費的,但是如果需要最低水平的帶寬,那么應該為此付出代價,在評估成本時需要考慮到這一點。
也就是說,在邊緣處理數據不受這種可變成本的影響。一旦設備的初始成本已經產生,在邊緣處理任何數量的數據的額外成本幾乎為零。
數據保護法
數據之所以有價值,是因為它意味著或代表著某些東西。現在,捕獲信息的任何人現在都可能受制于捕獲該數據所在地區(qū)的數據隱私法。這意味著,即使是捕獲數據的設備的合法所有者,也可能不允許跨越地理邊界移動數據。
例如,這將包括《歐盟數據保護指令》、《通用數據保護條例》和《亞太經濟合作隱私框架》。加拿大的《個人信息保護與電子文檔法》與歐盟的數據保護法相符合,而美國的《安全港安排》也與歐盟的數據保護法相符合。
邊緣處理可以克服這一點。通過在邊緣處理數據,它不需要離開設備。在便攜式消費設備中,數據隱私越來越重要,手機上的面部識別使用本地人工智能來處理攝像頭圖像,所以數據永遠不會離開設備。閉路電視和其他安全監(jiān)控系統(tǒng)也是如此。使用攝像頭監(jiān)控公共空間通常意味著圖像由基于云的數據服務器傳輸和處理,這會帶來數據隱私問題。在相機中處理數據既快又安全,可能消除或簡化數據隱私措施的需要。
墨菲定律
最后,我們需要考慮墨菲定律,該定律指出,如果某件事可能出錯,它就會出錯。當然,即使在世界上最精心設計的系統(tǒng)中,也總會出現問題。邊緣處理可以消除與通過網絡移動數據相關的許多可能的故障點,將其存儲在云中并依靠數據中心提供處理能力。
如果一個應用程序在技術上可以從邊緣處理中受益,那么還有一些問題要問。以下是一些最相關的建議:
1.應用運行在什么處理器架構上
將軟件移植到不同的指令集可能代價高昂,并會帶來延遲,因此升級不應該意味著移出。
2.需要什么樣的I/O
這可以是任意數量的有線和/或無線接口。如果考慮不周會導致效率低下,因此需要盡早解決因此需要盡早解決這個問題。
3.運行環(huán)境是什么
運行環(huán)境是冷是熱,比如火星任務是邊緣處理的一個很好的例子,如果是極端的,運行環(huán)境是巨大的變化。
4.硬件是否需要符合規(guī)定或需要認證
答案幾乎是肯定的,所以選擇一個預認證平臺可以節(jié)省時間和金錢。
5.需要多少功率
就單位成本和安裝而言,系統(tǒng)電源很昂貴,所以了解功率是非常有益的。
6.邊緣設備是否受限于形狀尺寸
這在邊緣處理中比許多其他部署更重要,因此需要在設計周期的早期考慮。
7.工作時間是多少
這是進入可能需要運行多年的工業(yè)應用,還是以月為單位測量生命周期,這些都是需要我們考慮清楚的。
8.系統(tǒng)的性能要求是什么
就處理能力而言,比如每秒幀數、內存要求、應用語言等等。
9.是否有成本考慮
這是一個棘手的問題,因為答案總是“是”,但知道成本限制是什么將有助于選擇過程。
結論
邊緣處理是通過物聯(lián)網實現的,但它的意義遠不止于此。它是由比早期連接設備示例更高的期望驅動的。低層次,有共性;該設備可能需要低功耗,可能需要低成本,但現在它可能還需要在不與功耗和成本沖突的情況下提供更高水平的智能操作。
通過選擇合適的技術合作伙伴,可以更容易地選擇合適的平臺。進入一個圍繞邊緣計算開發(fā)的生態(tài)系統(tǒng),為人工智能應用選擇正確的邊緣計算平臺。