然而，AI的快速發(fā)展對云服務提供商和企業(yè)數(shù)據(jù)中心的基礎設施提出了更高的要求。數(shù)據(jù)作為AI發(fā)展的關鍵“燃料”，必須得到有效的收集、保護和傳輸。探索新AI應用的組織必須應對這些挑戰(zhàn)。為了支持AI所需的海量數(shù)據(jù)和計算資源，我們需要構建更高效、更可靠的網(wǎng)絡基礎設施。

　　在此背景下，以太網(wǎng)技術憑借其成熟而廣泛的生態(tài)系統(tǒng)，正在成為AI網(wǎng)絡基礎設施的重要支撐。以太網(wǎng)顯示出強大的潛力，可以滿足AI的高要求并提供統(tǒng)一的平臺，這對AI的經(jīng)濟可行性產(chǎn)生了重大影響。它可以跨各種網(wǎng)絡和云實現(xiàn)一致的運營模型，避免維護多個基礎設施所產(chǎn)生的高昂成本。

　　AI網(wǎng)絡發(fā)展的關鍵要求

　　速度：AI業(yè)務的快速增長推動了數(shù)據(jù)中心和邊緣網(wǎng)絡對更高速度的需求，推動網(wǎng)絡向400Gbit/s甚至800Gbit/s等新一代網(wǎng)絡邁進。

　　隱私和安全：網(wǎng)絡必須高效處理數(shù)據(jù)，同時確保多租戶環(huán)境中的高端加密和安全，以保護數(shù)據(jù)隱私。

　　邊緣推理：隨著企業(yè)部署大型語言模型(LLM)或小型語言模型(SLM)和混合私有AI云，推理能力的前端部署將成為關注點。

　　短作業(yè)完成時間(JCT)和低延遲：優(yōu)化網(wǎng)絡以提供無損傳輸，通過擁塞管理和負載平衡確保高效的帶寬利用率，是實現(xiàn)快速JCT的關鍵。

　　靈活的集群：在AI數(shù)據(jù)中心，處理器集群可以配置成各種拓撲。優(yōu)化性能需要避免層或區(qū)域之間的超額訂閱以減少JCT。

　　多租戶支持：出于安全原因，AI網(wǎng)絡需要分離數(shù)據(jù)流。

　　標準化架構：AI 網(wǎng)絡通常由后端基礎設施(訓練)和前端(推理)組成。以太網(wǎng)的通用性允許后端和前端集群之間的技術重用。

　　以太網(wǎng)技術的持續(xù)創(chuàng)新

　　以太網(wǎng)技術不斷創(chuàng)新發(fā)展，以滿足人工智能對網(wǎng)絡規(guī)模的更高要求。一些關鍵的技術進步包括：

　　數(shù)據(jù)包噴射：該技術允許每個網(wǎng)絡流同時訪問到目的地的所有路徑。數(shù)據(jù)包的靈活排序充分利用了所有以太網(wǎng)鏈路，實現(xiàn)了最佳負載平衡，僅在人工智能工作負載中帶寬密集型操作需要時才強制排序。

　　擁塞管理：基于以太網(wǎng)的擁塞控制算法對于人工智能工作負載至關重要。它們可以防止熱點并在多條路徑上均勻分配負載，確保人工智能流量的可靠傳輸。

　　統(tǒng)一和優(yōu)化的企業(yè)基礎設施

　　企業(yè)需要部署統(tǒng)一的人工智能網(wǎng)絡基礎設施和運營模式，以降低人工智能服務和應用的成本。采用基于標準的以太網(wǎng)作為支撐技術是核心要素。它確保前端和后端系統(tǒng)之間的兼容性，避免不同架構帶來的標準化過程障礙和經(jīng)濟影響。例如，Arista 主張建立一個“人工智能中心”，在那里通過無損網(wǎng)絡高效地訓練 GPU。訓練好的AI模型連接到AI推理集群，讓終端用戶可以方便地查詢這些模型。

　　以太網(wǎng)的市場優(yōu)勢

　　以太網(wǎng)憑借其開放性、靈活性和適應性在AI部署方面表現(xiàn)出強大的競爭力。其性能超越了InfiniBand，隨著超級以太網(wǎng)聯(lián)盟(UEC)的增強，其優(yōu)勢將進一步擴大。此外，以太網(wǎng)更具成本效益，擁有更廣泛和更開放的生態(tài)系統(tǒng)，為后端和前端集群提供通用性、統(tǒng)一的操作和技能集，以及集群之間的平臺重用機會。隨著AI用例和服務的不斷擴展，以太網(wǎng)基礎設施的機會將大大增加，無論是在超大規(guī)模LLM的核心還是在企業(yè)邊緣。AI就緒的以太網(wǎng)可以滿足需求，并提供基于行業(yè)特定私有數(shù)據(jù)的AI推理。

　　總而言之，以太網(wǎng)技術在AI網(wǎng)絡基礎設施中起著至關重要的作用。它可以滿足AI在速度、安全性、邊緣推理等方面的多方面需求。以太網(wǎng)通過持續(xù)的技術創(chuàng)新和廣泛的生態(tài)系統(tǒng)支持，為企業(yè)提供更高效、更經(jīng)濟的解決方案，促進人工智能的廣泛應用和發(fā)展。