Arm Neoverse：一個(gè)或?qū)㈩嵏铂F(xiàn)代計(jì)算的架構(gòu)

　　當(dāng)前，全社會(huì)數(shù)據(jù)總量爆發(fā)式增長(zhǎng)，數(shù)據(jù)存儲(chǔ)、計(jì)算、傳輸、應(yīng)用的需求大幅提升，對(duì)算力的需求也越來(lái)越高。CPU不僅需要處理通用計(jì)算類任務(wù)，還需要承擔(dān)網(wǎng)絡(luò)、存儲(chǔ)、安全等任務(wù)，有效算力在總體算力中的占比逐漸下降，行業(yè)亟需在特定領(lǐng)域更高算力的芯片的支撐。而隨著Arm Neoverse架構(gòu)的發(fā)布，整個(gè)行業(yè)迎來(lái)了巨變。

　　2018年Arm首次發(fā)布了Arm Neoverse平臺(tái)。目前，Neoverse平臺(tái)主要包括三個(gè)IP系列：分別是V系列、N系列和E系列。據(jù)Arm官網(wǎng)介紹，Neoverse V系列主打極致性能，適合執(zhí)行高計(jì)算需求和存儲(chǔ)器密集型應(yīng)用的系統(tǒng)，主要應(yīng)用場(chǎng)景包括高性能計(jì)算 (HPC)、云計(jì)算和AI/ML加速型工作負(fù)載；Neoverse N系列主打可高擴(kuò)展的性能表現(xiàn)，提供均衡的最佳化CPU設(shè)計(jì)、出色的性能功耗比和性能成本比，應(yīng)用場(chǎng)景包括可高擴(kuò)展的云計(jì)算、企業(yè)連網(wǎng)、智能網(wǎng)卡/DPU以及客制化ASIC加速器、5G基礎(chǔ)設(shè)施以及電力和空間受限的邊緣場(chǎng)景；Neoverse E系列主打高效率吞吐量，在支持高資料吞吐量的同時(shí)，大幅降低功耗，主要應(yīng)用場(chǎng)景包括網(wǎng)絡(luò)資料層處理器、低功耗網(wǎng)關(guān)的5G部署。

　　圖源：Arm官網(wǎng)

　　可以看出，這三種內(nèi)核分別針對(duì)三種不同的性能和功耗權(quán)衡，這就為各行業(yè)實(shí)現(xiàn)定制化芯片帶來(lái)了充分且靈活的施展空間。但光有硬件還遠(yuǎn)遠(yuǎn)不夠，要打造成功的基礎(chǔ)架構(gòu)解決方案，還需要一個(gè)強(qiáng)大的軟件生態(tài)系統(tǒng)。

　　在軟件生態(tài)系統(tǒng)方面，Arm不僅在開源社區(qū)有著長(zhǎng)期且持續(xù)的投入，并在Arm Neoverse平臺(tái)的設(shè)計(jì)原則中納入了構(gòu)建獨(dú)一無(wú)二的開發(fā)者生態(tài)系統(tǒng)，目的是賦能開發(fā)者順暢地進(jìn)行創(chuàng)建、測(cè)試以及優(yōu)化在基于Arm架構(gòu)上的項(xiàng)目開發(fā)，如今，Arm架構(gòu)得到了所有領(lǐng)先編程語(yǔ)言和運(yùn)行庫(kù)的支持，例如Linux操作系統(tǒng)、云原生軟件、CI/CD流水線等都已經(jīng)運(yùn)行在Arm架構(gòu)上。從架構(gòu)、IP到技術(shù)庫(kù)、運(yùn)行環(huán)境和編譯器，Arm已啟用了主流的基礎(chǔ)設(shè)施軟件。

　　軟硬件充分加持下，Arm Neoverse架構(gòu)正在吸引一眾云服務(wù)廠商、CPU廠商、GPU廠商、DPU玩家的青睞。

　　Arm CPU生態(tài)初具規(guī)模

　　首先是云服務(wù)廠商的躬身試探，公有云無(wú)疑是技術(shù)革新的最佳領(lǐng)域。對(duì)于不同的云服務(wù)廠商來(lái)說，由于其構(gòu)建的生態(tài)不同，對(duì)芯片的性能需求也是各異。在市場(chǎng)選擇不大的情況下，各云廠商選擇了自研。

　　AWS可以說是最早開始自研服務(wù)器芯片的云廠商。自2018年至今，AWS的Graviton服務(wù)器芯片已經(jīng)來(lái)到第三代。2022年5月下旬，AWS發(fā)布了基于Neoverse V1核心的Graviton3，這是第一個(gè)支持SVE的通用64位Arm服務(wù)器CPU。

　　無(wú)獨(dú)有偶，在2021年10月份的云棲大會(huì)上，阿里巴巴旗下半導(dǎo)體公司平頭哥發(fā)布自研云芯片倚天710，該芯片基于Armv9架構(gòu)。這是阿里第一顆為云而生的CPU芯片，將在阿里云數(shù)據(jù)中心部署應(yīng)用。

　　除了云服務(wù)廠商自研之外，初創(chuàng)公司Ampere Computing在Arm服務(wù)器芯片上的探索則為其他云廠商開辟了另一個(gè)選擇。Ampere Computing是目前唯一一家為云服務(wù)提供商提供商用（獨(dú)立）Arm服務(wù)器芯片的CPU公司，Microsoft Azure、谷歌云、甲骨文云等均使用Ampere Altra產(chǎn)品。

　　Ampere Computing分別于2020年發(fā)布80核的Ampere Altra，2021年發(fā)布128核的Ampere Altra Max，兩者均基于Arm Neoverse N1內(nèi)核。Ampere還宣布今年晚些時(shí)候?qū)⑼瞥霾捎肁rm架構(gòu)的5nm AmpereOne CPU，但并不是基于Neoverse N1，而是基于Arm ISA自研的核心。不過這對(duì)Arm來(lái)說是一個(gè)極好的跡象，因?yàn)锳mpere將在公司技術(shù)和x86服務(wù)器處理器之間進(jìn)一步擴(kuò)大服務(wù)器CPU空間。

　　云決策者的兩大關(guān)鍵指標(biāo)是單芯片性能和單線程性能。在這方面，Arm預(yù)測(cè)，使用Arm Neoverse V1核心的AWS Graviton3可提供最高的單線程性能；Ampere Altra Max和阿里的倚天710能在所有CPU中提供最佳的單芯片吞吐量。

　　云計(jì)算場(chǎng)景之外，5G和邊緣領(lǐng)域的芯片廠商也開啟試水之路。根據(jù)GSA數(shù)據(jù)顯示，現(xiàn)在已有近85個(gè)市場(chǎng)提供5G服務(wù)，預(yù)計(jì)到2025年，連接設(shè)備將達(dá)到約18億。未來(lái)的3-5年依然是5G發(fā)展和增強(qiáng)功能交付的關(guān)鍵。在這方面，Marvell最近幾年放棄通用服務(wù)器業(yè)務(wù)，轉(zhuǎn)而發(fā)展垂直市場(chǎng)，其推出的Thunder服務(wù)器芯片已經(jīng)證明了在超算和商用領(lǐng)域的可行性。在世界移動(dòng)通信大會(huì) (MWC) 上，戴爾與Marvell宣布強(qiáng)強(qiáng)聯(lián)手；此外，諾基亞也與Arm在基于Neoverse CPU上進(jìn)行合作，開發(fā)了ReefShark芯片組，如今已全面使用。

　　在高性能計(jì)算（HPC）領(lǐng)域，英偉達(dá)是一大代表，2022年3月22日，英偉達(dá)宣布推出首款面向AI基礎(chǔ)設(shè)施和高性能計(jì)算的基于Arm Neoverse V2的數(shù)據(jù)中心的定制CPU Grace，它專為AI和HPC應(yīng)用程序而設(shè)計(jì)。Grace專注于IO和內(nèi)存帶寬，與GPU共享主內(nèi)存，通過NVlink將英偉達(dá)的GPU和Grace CPU連接，可擴(kuò)展到現(xiàn)在需要數(shù)天才能運(yùn)行的超大型AI模型。

　　早在2013年，亞馬遜云科技 (AWS) James Hamilton就提出了一項(xiàng)雙論點(diǎn)：其一，鑒于使用Arm架構(gòu)的芯片出貨數(shù)量，他確信Arm最終一定能設(shè)計(jì)出優(yōu)異的服務(wù)器CPU；其二，James注意到，隨著時(shí)間的推移，越來(lái)越多的功能逐漸從主板遷移到SoC上。手機(jī)領(lǐng)域已現(xiàn)端倪，服務(wù)器方面自然也會(huì)效仿。

　　而如今這兩個(gè)論點(diǎn)正在實(shí)現(xiàn)，在一眾廠商的大力推動(dòng)下，采用Arm Neoverse平臺(tái)的產(chǎn)品已創(chuàng)下了多項(xiàng)行業(yè)第一：第一個(gè)總內(nèi)存帶寬超過每秒1TB的CPU；第一個(gè)單塊裸片上能配置超過100個(gè)核心的CPU，核心數(shù)達(dá)到128個(gè)；第一個(gè)將DDR5和PCIe Gen5.0推向市場(chǎng)的CPU；第一個(gè)在SPEC CPU 2017基準(zhǔn)測(cè)試中打破500整型跑分的CPU。

　　Arm Neoverse在全球市場(chǎng)表現(xiàn)不菲，不僅是國(guó)際大廠，Arm Neoverse也為廣大初創(chuàng)企業(yè)創(chuàng)造了良好的發(fā)展機(jī)遇。

　　國(guó)產(chǎn)CPU和DPU初創(chuàng)企業(yè)嗅到商機(jī)

　　近年來(lái)正值中國(guó)基礎(chǔ)設(shè)施的計(jì)算升級(jí)新浪潮，因此，國(guó)內(nèi)服務(wù)器芯片賽道也迎來(lái)了蓬勃興起。國(guó)內(nèi)一眾初創(chuàng)企業(yè)如鴻鈞微、遇賢微等將Arm Neoverse作為其服務(wù)器芯片的創(chuàng)新基礎(chǔ)，甚至新興的DPU企業(yè)也開始率先踏上探索之路。

　　鴻鈞微電子是服務(wù)器芯片領(lǐng)域新興的一員。在鴻鈞微電子首席執(zhí)行官沈榮看來(lái)：“數(shù)據(jù)中心的規(guī)模越來(lái)越大，其占地與體積隨之將變得更大，這意味著要花費(fèi)更多的資金投入，所以性能密度、功耗效率這些指標(biāo)便顯得尤為重要，而Arm Neoverse符合云計(jì)算所需的多核解決方案，具有優(yōu)異的總擁有成本 (TCO) 優(yōu)勢(shì)，讓我們找到能真正為客戶提供具成本效益的整體解決方案。”據(jù)悉鴻鈞微電子基于Neoverse N2的服務(wù)器CPU產(chǎn)品預(yù)計(jì)將在明年年底面世。

　　遇賢微電子是一家正在面向中國(guó)云計(jì)算市場(chǎng)打造彈性云原生服務(wù)器CPU的初創(chuàng)公司，采用的也是Neoverse N2平臺(tái)。遇賢微電子首席執(zhí)行官羅勇博士表示：“云計(jì)算的巨大增長(zhǎng)是新一波科技浪潮的趨勢(shì)，它將會(huì)是全球范圍內(nèi)最大的增量市場(chǎng)之一。而且，云計(jì)算生態(tài)系統(tǒng)已經(jīng)是個(gè)相對(duì)成熟的環(huán)境，能讓像Arm Neoverse這類的新架構(gòu)來(lái)取代x86，最終用戶能夠從一致性的Arm Neoverse CPU上獲益，也可以加速遇賢微電子產(chǎn)品的部署。”

　　不止是CPU和GPU這兩類芯片，DPU芯片廠商也看中了Arm Neoverse的潛力。DPU (Data Processing Unit) 是最近幾年新發(fā)展起來(lái)的一種專用處理器，被稱之為數(shù)據(jù)中心繼CPU和GPU之后的“第三顆主力芯片”。目前DPU主流方案亦開始以Arm Neoverse平臺(tái)為設(shè)計(jì)基礎(chǔ)。Arm基礎(chǔ)設(shè)施事業(yè)部全球副總裁鄒挺表示，“我們認(rèn)為ASIC系統(tǒng)級(jí)芯片是普遍的最后DPU目標(biāo)產(chǎn)品形態(tài)，而從能耗和性能的要求上來(lái)看，Arm Neoverse平臺(tái)將是DPU中ASIC系統(tǒng)級(jí)芯片方案的最佳選擇。”

　　國(guó)內(nèi)DPU芯片頭部企業(yè)云豹智能最新的DPU SoC產(chǎn)品上就采用了大量的Arm CPU，尤其是Neoverse CPU與其高性能互連技術(shù)。云豹智能首席芯片架構(gòu)師及聯(lián)合創(chuàng)始人莫志城指出：“現(xiàn)階段數(shù)據(jù)中心正在快速地從以CPU為中心轉(zhuǎn)變?yōu)橐訢PU為中心。云豹DPU不僅要能處理網(wǎng)絡(luò)控制面和數(shù)據(jù)面的卸載，具備高度靈活和可編程能力；同時(shí)必須非常高效地處理運(yùn)維和業(yè)務(wù)管理。因此我們的可編程DPU必須依賴非常高性能且低功耗的CPU，例如新一代的Neoverse。”據(jù)悉，云豹這款DPU產(chǎn)品預(yù)計(jì)于2023年初流片。

　　可以看出，由于高性能、低能耗、優(yōu)異的性能比以及總擁有成本等特點(diǎn)，尤其是完善的自身生態(tài)，Arm架構(gòu)正在吸引廣大中國(guó)初創(chuàng)芯片企業(yè)的涌入，生態(tài)“朋友圈”逐漸擴(kuò)大。另一方面，如Arm Neoverse這樣的平臺(tái)也為這些初創(chuàng)企業(yè)提供了很好的發(fā)展機(jī)會(huì)，并在加速芯片進(jìn)入市場(chǎng)的時(shí)間窗口，如上文所述，國(guó)內(nèi)幾家初創(chuàng)企業(yè)基于Arm Neoverse的產(chǎn)品大多將于明年問世。

　　總結(jié)

　　全球基礎(chǔ)設(shè)施領(lǐng)域的建設(shè)和升級(jí)興起了新的浪潮，基礎(chǔ)設(shè)施的未來(lái)必將改頭換面，定制芯片將是這一變革必需的產(chǎn)物，未來(lái)十年，Arm架構(gòu)的CPU進(jìn)軍智能計(jì)算市場(chǎng)已呈不可阻擋之勢(shì)。這對(duì)所有人來(lái)說都是一個(gè)巨大的機(jī)會(huì)，處于產(chǎn)業(yè)鏈上的國(guó)產(chǎn)芯片企業(yè)應(yīng)該乘著發(fā)展的東風(fēng)，奮力前行。

　更多信息可以來(lái)這里獲取==>>電子技術(shù)應(yīng)用-AET<<