早在2024年10月，英偉達(dá)在RISC-V北美峰會(huì)上透露，其在2015年就選定將RISC-V選定為其專有Falcon微控制器（MCU）的繼任架構(gòu)。由于 MCU 內(nèi)核是通用的，因此可以在英偉達(dá)的產(chǎn)品中廣泛使用。根據(jù)英偉達(dá)當(dāng)時(shí)的預(yù)計(jì)，2024年英偉達(dá)將交付10億個(gè)內(nèi)置于其 GPU、CPU、SoC 和其他產(chǎn)品中的 RISC-V 處理器，這也凸顯了定制 RISC-V 內(nèi)核在英偉達(dá)硬件中的普遍性和重要性。

在此次RISC-V中國(guó)峰會(huì)上，F(xiàn)rans Sijstermanns也指出，英偉達(dá)是RVI和RISE的董事會(huì)成員和技術(shù)委員會(huì)代表，也是相關(guān)規(guī)范的貢獻(xiàn)者。英偉達(dá)產(chǎn)品中的微控制器都是基于RISC-V架構(gòu)，具有可配置、可擴(kuò)展和安全保護(hù)功能，并且也被集成在30多個(gè)IP中，每年出貨量超過(guò)10億個(gè)RISC-V MCU。

雖然英偉達(dá)在其硬件當(dāng)中加入了RISC-V CPU內(nèi)核作為微控制器，但是目前英偉達(dá)驅(qū)動(dòng)其GPU進(jìn)行AI高效加速計(jì)算的CUDA軟件（基于C語(yǔ)言和C++語(yǔ)言的拓展）只在x86和Arm架構(gòu)CPU上得以部署。Frans Sijstermanns在此次RISC-V中國(guó)峰會(huì)上正式宣布，CUDA將會(huì)支持RISC-V架構(gòu)，“我們現(xiàn)在是正在做這樣的一個(gè)移植工作，我相信這個(gè)未來(lái)是非常大有可為的”。

據(jù)介紹，CUDA主要包含兩個(gè)關(guān)鍵組成部分：一個(gè)Toolkit，一個(gè)是驅(qū)動(dòng)器。CUDA的Toolkit像是一個(gè)編譯器一樣，擁有非常好的編譯功能，其中也包括了非常多的組件。

比如一個(gè)完整的CUDA加速應(yīng)用示例，包括特定應(yīng)用模塊、第三方軟件、CUDA庫(kù)代碼，所有軟件都需要映射到目標(biāo)CPU。在下面這個(gè)圖表當(dāng)中，就是用的PyTorch作為例子，還有CUDA KMD、還有CUDA UMD。英偉達(dá)正在做下圖中綠色部分的移植。還有第三方的軟件或者是應(yīng)用軟件，也是需要進(jìn)行移植到RISC-V。

此外，CUDA庫(kù)也是非常重要的，在所有的垂直行業(yè)中可能都需要有自己的一個(gè)庫(kù)。比如說(shuō)英偉達(dá)的FT的庫(kù)能夠加速推理，還有相關(guān)的數(shù)據(jù)分析庫(kù)、加速芯片制造的庫(kù)等等。

“我們?cè)谶@一行業(yè)已經(jīng)深耕了20年之久，建立了900多個(gè)不同的庫(kù)，加速不同的行業(yè)技術(shù)發(fā)展就是我們的目標(biāo)。移植到RISC-V之后，我們就能落地所有的這些庫(kù)，能夠讓大家更快的創(chuàng)新方式進(jìn)行相關(guān)的設(shè)計(jì)及技術(shù)迭代?！盕rans Sijstermanns解釋道。

Frans Sijstermanns指出，RISC-V在過(guò)去幾年中實(shí)現(xiàn)了非常長(zhǎng)足的進(jìn)展。自2022年以來(lái)，至少有10個(gè)新的規(guī)范已經(jīng)得到了RISC-V國(guó)際基金會(huì)的批準(zhǔn)，其中RVA23是非常重要的規(guī)范，同時(shí)服務(wù)器SoC規(guī)范也獲批了。此外，在軟件層上，RISC-V也取得了非常多的進(jìn)展，現(xiàn)在RISC-V國(guó)際基金會(huì)官網(wǎng)上就有75個(gè)不同的軟件包，它們都已經(jīng)在RISC-V上“運(yùn)行”了。比如像Linux這樣的一些操作系統(tǒng)程序，甚至一些工具鏈都已經(jīng)推出，還包括數(shù)據(jù)庫(kù)、網(wǎng)絡(luò)虛擬機(jī)等都完成了?！斑€有一些非常重要的基礎(chǔ)性工作，比如編譯器、模擬、工具鏈等方面的工作，只有這些工作做到位了，我們才能夠進(jìn)一步的發(fā)展。為此，我也想感謝整個(gè)RISC-V基金會(huì)及生態(tài)合作伙伴。”

那么將CUDA移植到RISC-V會(huì)面臨哪些挑戰(zhàn)呢？

Frans Sijstermanns表示，關(guān)鍵的問(wèn)題在于RISC-V CPU板卡的可用性，因?yàn)閷?duì)于CUDA移植來(lái)說(shuō)，不僅要有CPU，還要有相關(guān)的GPU。比如，英偉達(dá)就有用到阿里巴巴達(dá)摩院的RISC-V CPU C920，這對(duì)于英偉達(dá)在開(kāi)發(fā)層面雖然已經(jīng)很好，但是目前還沒(méi)有支持已經(jīng)獲批的RVA23規(guī)范的SoC，因?yàn)橛ミ_(dá)需要統(tǒng)一的虛擬內(nèi)存，這樣才也能夠進(jìn)一步的去分享CPU和GPU內(nèi)存之間數(shù)據(jù)，甚至在這兩者之間進(jìn)行數(shù)據(jù)的復(fù)制和粘貼，并且保證一致性，從而保障用戶體驗(yàn)。

“我們現(xiàn)在和整個(gè)生態(tài)系統(tǒng)中的合作伙伴精誠(chéng)合作，希望能夠把CUDA進(jìn)行進(jìn)一步的改善。與此同時(shí)，我們也會(huì)希望把這樣一個(gè)標(biāo)準(zhǔn)文本的CUDA版本推出來(lái)同樣兼容RISC-V，這樣我們才能夠更好的符合服務(wù)器的平臺(tái)規(guī)范以及Linux操作系統(tǒng)的RISC-V標(biāo)準(zhǔn)?！盕rans Sijstermanns強(qiáng)調(diào)：“我們希望把所有的這些問(wèn)題在整個(gè)系統(tǒng)中解決之后再進(jìn)行發(fā)布。”

除了CPU、GPU之外，NVLink 也是英偉達(dá)的關(guān)鍵組件，其中也集成了相關(guān)的軟件，這些與CPU、GPU一起可以看成是一個(gè)完整的系統(tǒng)級(jí)NVLink Fusion架構(gòu)設(shè)計(jì)，能夠讓整個(gè)數(shù)據(jù)中心能夠更好、更快的工作。

Frans Sijstermanns暗示，在NVLink Fusion框架下，未來(lái)RISC-V將會(huì)是控制路徑的一部分，在整個(gè)系統(tǒng)當(dāng)中承擔(dān)重要角色，甚至成為NVIDIA機(jī)架架構(gòu)當(dāng)中的與NVLink結(jié)合的定制加速器和或定制CPU。

“整個(gè)英偉達(dá)業(yè)務(wù)正在去加速計(jì)算，其實(shí)我們不在乎具體是什么CPU。”Frans Sijstermanns指出：“無(wú)論是x86、Arm或者是RISC-V，我們其實(shí)都希望能夠兼容。所以，關(guān)鍵在于要讓用戶、開(kāi)發(fā)者都能夠有自己的選擇?！?/p>

“CUDA能夠很好的幫助我們借助英偉達(dá)通信處理器去跟RISC-V服務(wù)器處理器實(shí)現(xiàn)加速，并且更好的提出相關(guān)的全套硬件解決方案，這也是我們從CUDA軟件過(guò)度到硬件的愿景。當(dāng)然，在這方面有非常多的工作要做。與此同時(shí)，在整個(gè)生態(tài)系統(tǒng)、以及整個(gè)合作伙伴方面，我們也需要看到有好的RISC-V CPU能夠讓它發(fā)揮相關(guān)的作用?！盕rans Sijstermanns總結(jié)說(shuō)道。