8月28日消息,在今天舉辦的2025百度云智大會上,百度智能云正式發(fā)布百度百舸AI計算平臺5.0全新版本。
此次升級在網(wǎng)絡、算力、推理系統(tǒng)及訓推一體系統(tǒng)等四大方向實現(xiàn)全面能力提升。
網(wǎng)絡方面,VPC、RDMA、X-link三張網(wǎng)實現(xiàn)全面升級,通信更快,延遲更低,模型訓推效率得到提升。
算力方面,昆侖芯超節(jié)點上線公有云服務,超級算力正式可用。即使是1萬億參數(shù)的開源模型,也只需要幾分鐘、1個云實例,就可以輕松跑起來。
最新測試顯示,超節(jié)點性能達到上一代實例8倍,單卡吞吐提升近一倍,比國內的同類產(chǎn)品高出15%。
推理系統(tǒng)層面,通過算子解耦、自適應并行策略及分布式KV Cache等創(chuàng)新,將DeepSeek R1的推理吞吐效率提升50%,大幅降低長文本響應延遲。
























網(wǎng)站客服
粵公網(wǎng)安備 44030402000946號