這不，英特爾近日公開(kāi)了自己的Aurora genAI模型，據(jù)稱(chēng)參數(shù)量高達(dá)1萬(wàn)億。

　　給超算準(zhǔn)備的大模型

　　用英特爾自己的話來(lái)說(shuō)，Aurora genAI由英特爾、HPE和Argonne聯(lián)手開(kāi)發(fā)。未來(lái)將用于科學(xué)計(jì)算領(lǐng)域，包括生物學(xué)、癌癥、大氣科學(xué)、天文學(xué)、高分子化學(xué)等多個(gè)領(lǐng)域。

　　為什么是“科學(xué)計(jì)算領(lǐng)域”?因?yàn)檫@個(gè)AI大模型名字的來(lái)源就是臺(tái)超級(jí)計(jì)算機(jī)——Aurora。

　　自打2021年，英特爾就宣布為美國(guó)阿貢國(guó)家實(shí)驗(yàn)室打造一臺(tái)Aurora超級(jí)計(jì)算機(jī)。這之后歷經(jīng)多次更改計(jì)算平臺(tái)和工藝架構(gòu)，所以遲遲不見(jiàn)落地，對(duì)其性能也是秘而不宣。

　　而在近日的德國(guó)漢堡舉行的高性能計(jì)算展上，英特爾終于正式揭露了這臺(tái)超算的一些參數(shù)。

　　Aurora超級(jí)計(jì)算機(jī)采用英特爾Xeon(至強(qiáng))CPU Max和Xeon GPU Max系列芯片的支持，并將計(jì)算能力從最初的1 Exaflop(100億億次)提升至2 Exaflop(200億億次)，使其與基于AMD芯片的Frontier超級(jí)計(jì)算機(jī)媲美(Frontier是目前已公布的地球上最強(qiáng)超級(jí)計(jì)算機(jī))。

　　Aurora超算有10624個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)2組CPU和6組GPU。CPU采用Sapphire Rapids-SP架構(gòu)，總共21248個(gè);GPU采用Intel的最強(qiáng)Ponte Vecchio，總共63744個(gè)。

　　Aurora genAI就是Aurora超級(jí)計(jì)算機(jī)的配套模型。Aurora genAI 模型以 Megatron 和 DeepSpeed 為基礎(chǔ)，其規(guī)模達(dá)到了 1 萬(wàn)億參數(shù)，相比之下 ChatGPT 的規(guī)模僅為 1750 億參數(shù)，當(dāng)然還遠(yuǎn)不及GPT4的百萬(wàn)億參數(shù)。

　　Aurora genAI 模型將在通用文本、科學(xué)文本、科學(xué)數(shù)據(jù)和與該領(lǐng)域相關(guān)的代碼上進(jìn)行訓(xùn)練。按照設(shè)想，它的潛在應(yīng)用范圍大概是：

　　推動(dòng)清潔能源聚變研究

　　催化劑研究

　　癌癥研究

　　航空航天研究

　　神經(jīng)科學(xué)研究

　　宇宙學(xué)研究等

　　押寶AI芯片，對(duì)決英偉達(dá)

　　據(jù)英特爾自己介紹，由于英特爾數(shù)據(jù)中心GPU Max系列處理器的加持，實(shí)現(xiàn)了超過(guò)英偉達(dá)(NVIDIA)A100和AMD Instinct MI250X加速器的最快SimpleFOMP性能。英特爾也強(qiáng)調(diào)這款系統(tǒng)的表現(xiàn)會(huì)優(yōu)于使用英偉達(dá)H100芯片的HPC。

　　眾所周知，現(xiàn)在各個(gè)大模型訓(xùn)練算力幾乎全部來(lái)自英偉達(dá)的A100和H100GPU。

　　所以從公布的信息中，能發(fā)覺(jué)英特爾不是單純地在說(shuō)這臺(tái)超算的能力，而是矛頭直指GPU霸主英偉達(dá)。

　　當(dāng)然理想是美好的。和英偉達(dá)比起來(lái)，英特爾在AI芯片業(yè)務(wù)的市場(chǎng)份額幾乎為零。

　　2021年英特爾宣布Aurora超算時(shí)，對(duì)在上面應(yīng)用的“Ponte Vecchio”旗艦數(shù)據(jù)中心GPU寄予厚望。但之后項(xiàng)目不斷跳票，讓英特爾失去了先機(jī)。

　　現(xiàn)在英特爾將希望押注在全新的“Falcon Shores GPU”身上，它是在Aurora超算上使用的“Ponte Vecchio”的 Max 系列 GPU 繼任者。

　　這也代表了英特爾關(guān)于如何構(gòu)建下一代超級(jí)計(jì)算芯片的思維轉(zhuǎn)變。他們決定暫時(shí)擱置將 CPU 和 GPU 集成到 XPU的戰(zhàn)略計(jì)劃，專(zhuān)心搞好Falcon Shores，應(yīng)對(duì)接下來(lái)的挑戰(zhàn)。

　　英特爾既有遠(yuǎn)慮，又有近憂。

　　根據(jù)英特爾的計(jì)劃，F(xiàn)alcon Shores GPU最快也要2025年投產(chǎn)。而另外一個(gè)宿敵AMD將在今年晚些時(shí)候推出他們的Instinct MI300芯片，這被AMD視作挑戰(zhàn)英偉達(dá)H100的殺手锏，并將為勞倫斯利弗莫爾國(guó)家實(shí)驗(yàn)室的 2 exaflops(峰值)超級(jí)計(jì)算機(jī) El Capitan 提供動(dòng)力。

　　此外，微軟、谷歌、亞馬遜也都開(kāi)始下場(chǎng)研發(fā)AI芯片。粗略統(tǒng)計(jì)，這三家已經(jīng)推出或計(jì)劃發(fā)布8款服務(wù)器和AI芯片。雖然英特爾貴為芯片龍頭，但在AI領(lǐng)域畢竟涉獵未深。面對(duì)這幾位巨頭的持續(xù)發(fā)力，英特爾真的壓力山大。

　　而在幾年之后Falcon Shores成功出世之時(shí)，真正的強(qiáng)敵英偉達(dá)又會(huì)拿出怎樣的“核彈”來(lái)結(jié)束這場(chǎng)對(duì)決，還是未知數(shù)。