【法國技術(shù)研究機(jī)構(gòu)Leti:實(shí)現(xiàn)高效率的邊緣計(jì)算需解決“內(nèi)存墻”的瓶頸】為快速成長的人工智能(artificialintelligence;AI)應(yīng)用實(shí)現(xiàn)高效率的運(yùn)算性能,必須解決“內(nèi)存墻”(memorywall)的瓶頸,并推動(dòng)新的架構(gòu)解決方案;這是法國CEATech旗下技術(shù)研究機(jī)構(gòu)Leti關(guān)注的重點(diǎn)領(lǐng)域。
Leti執(zhí)行長EmmanuelSabonnadiere在Leti年度創(chuàng)新會(huì)議上接受《EETimes》訪問時(shí)表示,業(yè)界需要一種高度整合的整體途徑,將AI從軟件和云端移至邊緣(edge)的嵌入式芯片。
Sabonnadiere說:“邊緣確實(shí)需要一些創(chuàng)新,采用除了CMOS以外的不同架構(gòu),從結(jié)構(gòu)上整合至系統(tǒng),并從云端實(shí)現(xiàn)自主性——例如針對(duì)自動(dòng)駕駛車,您需要云端盡可能地獨(dú)立作業(yè)?!?/p>
他認(rèn)為恩智浦(NXP)可望成為驅(qū)動(dòng)在邊緣實(shí)現(xiàn)更多運(yùn)算的一項(xiàng)關(guān)鍵指標(biāo),因而針對(duì)高通(Qualcomm)并購恩智浦一案發(fā)表評(píng)論:“你覺得高通為什么要買下恩智浦?它是為了(邊緣運(yùn)算)的感測(cè),而將數(shù)位置于感測(cè)之后?!?/p>
為了解決運(yùn)算架構(gòu)典范,Sabonnadiere期望能在Let與史丹佛大學(xué)(StanfordUniversity)電氣工程和計(jì)算機(jī)科學(xué)系教授SubhasishMitra帶領(lǐng)的團(tuán)隊(duì)合作中取得一些突破。Mitra的研究已經(jīng)進(jìn)展一段時(shí)間了,專注于為龐大資料和密集互連應(yīng)用探索內(nèi)存內(nèi)處理(processing-in-memory)的新架構(gòu)。這項(xiàng)研究獲得了美國國防部先進(jìn)研究計(jì)劃局(DARPA)、國家科學(xué)基金會(huì)(NSF)、SemiconductorResearch、STARnetSONIC和史丹佛大學(xué)SystemX聯(lián)盟的成員公司共同資助。
Sabonnadiere談到芯片驗(yàn)證時(shí)說:“我們深信這是解決『超越摩爾定律』(more-than-Moore)挑戰(zhàn)的前進(jìn)方向,并且已經(jīng)要求Mitra教授打造這一研究展示了?!?/p>
在會(huì)議上,Mitra表示,龐大的資料超級(jí)風(fēng)暴正襲卷而來,而其運(yùn)算需求遠(yuǎn)超過處理能力,因此必須使用支持先進(jìn)3D整合的運(yùn)算奈米系統(tǒng)架構(gòu)。
Mitra說:“數(shù)據(jù)必須經(jīng)過處理才能創(chuàng)造決策,但目前還有太多我們無法處理的『暗黑』數(shù)據(jù)。以Facebook為例,它必須采用256個(gè)TeslaP100GPU,才能在1小時(shí)訓(xùn)練好ImageNet,這在以前大約需要幾天的時(shí)間?!?/p>
提高運(yùn)算性能的選擇
那么目前提高運(yùn)算性能的選擇是什么?Mitra說,其一是要有一個(gè)更好的邏輯開關(guān)——但這方面的實(shí)驗(yàn)展示并不多。第二種是使用設(shè)計(jì)“技巧”,例如多核心、加速器或電源管理技巧。但他也補(bǔ)充說,可用的技巧并不多,而且當(dāng)實(shí)施這些技巧而使設(shè)計(jì)變得更復(fù)雜,甚至?xí)跪?yàn)證變得更困難。另一個(gè)挑戰(zhàn)則是Mitra所謂的“內(nèi)存墻”。
Mitra說:“各種類型的龐大數(shù)據(jù)應(yīng)用中,一個(gè)共同點(diǎn)就在于內(nèi)存墻——系統(tǒng)需要更有力地存取內(nèi)存?!盡itra說,這就是專注于內(nèi)存的運(yùn)算概念所在,也是與Leti合作的關(guān)注重點(diǎn)——Sabonnadiere希望將在這方面取得突破。它使用先進(jìn)3D整合使得運(yùn)算更接近于數(shù)據(jù)。該芯片采用碳奈米管(CNT),因?yàn)镸itra表示它們是唯一可以超越CMOS和電阻式隨機(jī)存取內(nèi)存(RRAM)的技術(shù)。
RRAM和碳奈米管彼此垂直建構(gòu),形成具有邏輯層和內(nèi)存層交錯(cuò)的密集3D計(jì)算機(jī)架構(gòu)。在這些分層之間插入超密走線,應(yīng)該就能以這種3D架構(gòu)解決通訊的瓶頸。
Mitra將這個(gè)問題比喻為從舊金山(SanFrancisco)到加州柏克萊(Berkeley)之間的交通挑戰(zhàn)——由于只有三座橋梁可以穿越兩個(gè)都市,因而造成了交通堵塞。然而,如果打造更多的橋梁——或者在他提出的3D架構(gòu)情況下,就能夠解決多奈米級(jí)交錯(cuò)層間過孔的瓶頸。
內(nèi)存和軟件2.0的突破
Leti首席科學(xué)家BarbaraDeSalvo表示,業(yè)界并未充份重視新興內(nèi)存技術(shù),這些技術(shù)通常仍被視為利基技術(shù)。
DeSalvo說:“在內(nèi)存領(lǐng)域,業(yè)界仍持續(xù)采用傳統(tǒng)技術(shù)。而像電阻式RAM、磁阻式RAM和相變內(nèi)存等新興技術(shù)仍未被充份利用。但它可望在實(shí)現(xiàn)新型架構(gòu)方面帶來巨大突破。”DeSalvo并補(bǔ)充說,在未來幾年,在軟件中使用深度學(xué)習(xí)和AI也可能中在運(yùn)算方面取得重大突破。
她說:“我指的是一個(gè)使用深度學(xué)習(xí)和機(jī)器學(xué)習(xí)來開發(fā)軟件的新概念。軟件是一個(gè)系統(tǒng)中最昂貴的部份之一。透過使用深度學(xué)習(xí)產(chǎn)生軟件,以前需要花六個(gè)月的一些任務(wù)現(xiàn)在可以只需要幾天的時(shí)間。”