5月22日消息,荷蘭芯片廠商 Innatera 近日正式發布了第一款使用基于神經形態架構的商用RISC-V微控制器Pulsar ,主要用于AI傳感器應用。
據介紹,Pulsar 是將模擬和數字神經形態模塊與傳統卷積神經網絡加速器和 RISC-V 內核相結合。與傳統的 AI 處理器相比,它的延遲降低了 100 倍,能耗降低了 500 倍,芯片尺寸為 2.6 x 2.8 毫米,采用臺積電的標準 28nm 工藝制造。
△Innatera 展示 RISC-V 神經形態邊緣 AI 芯片
“Pulsar 不僅僅是一款 AI 芯片——這也是世界上第一個量產的神經形態微控制器,代表了我們將智能帶到邊緣的方式的根本轉變,”Innatera 的聯合創始人兼首席執行官 Sumeet Kumar指出:“去年全球出貨了 380 億個傳感器,到 2030 年將增長到 600 億個,所有這些在邊緣處理,都將比我們將其發送到云端的速度更快地生成數據,邊緣處理將是大勢所趨。但是,部署在微控制器上的模型受到限制,應用程序開發人員必須在功能、精度和功耗之間進行權衡。”
Sumeet Kumar表:“此次Pulsar的發布是十多年來在神經形態計算方面的深入研究和工程設計的結晶,并結合了開創性的異構架構。它標志著我們的類腦技術為大眾市場部署做好準備的時刻。這實際上是傳感器唯一需要的微控制器?!?/p>
模擬神經網絡 (ANN) 內核使用時間電壓脈沖來識別模式并提取信息以進行時間序列處理,而無需復雜的模型。Sumeet Kumar說:“ANN 加速器完全使用尖峰進行計算,它是一個由神經元和突觸組成的大型結構,帶有模擬和數字設備,延遲為 1ms,功耗低于 1mW?!?/p>
“在該結構中,關鍵是帶有電容器的交叉開關網絡,這個過程不是線性的,而是指數級的,這在模擬域中使用單個晶體管就很簡單,”他說。“我們采用數字尖峰神經網絡的原因是為了實現可配置性和靈活性——這是通過門和乘法器實現的。計算是異步和事件驅動的,計算在數據傳入時隨時進行。在 CNN 中,你可以一次獲取所有數據并進行計算。”
“我們看到很多客戶使用現有的 AI 模型,他們可以直接切換,但通常傳統的 CNN 會像圖像一樣查看帶有緩沖功能的所有內容,所有這些都需要大量功率,而峰值網絡可以有效地處理流數據。例如,用于手勢識別的 1m 參數 CNN 模型可以用 10,000 個參數、3kbyte、54 個神經元的模型來實現,而且功耗非常低。對于大多數應用程序問題,你必須選擇 AI 方法,因此添加 CNN 開發人員可以為工作添加正確的工具,”他說。
他還指出,無線耳機每次推理的音頻感應分類能量降低了 100 倍,達到 400 μW,模型縮小了 33 倍,準確率相同,達到 90%+。聲音識別每次推理的能耗降低了 88 倍,而準確性和延遲相同。雷達手勢識別的能量比 CNN 加速器低 42 倍(600 μW),延遲低 167 倍。
芯片設計的一個關鍵部分是具有與傳感器的接口,包括攝像頭和醫療傳感器。另一個關鍵要素是名為 Talamo 的軟件設計工具包 (SDK) 和用于尖峰網絡的庫。
“Talamo SDK 旨在通過一個擴展與 PyTorch 連接,該擴展引入了所有脈沖基礎設施,因此開發人員處于熟悉的環境中,并且模型描述與訓練數據一起以 python 編寫,我們的 SNN 編譯器將模型映射到芯片架構上,這從根本上減少了神經形態計算的障礙,從而可以輕松地構建脈沖模型并將其部署到框架上?!?/p>
Innatera 正在推出其開發人員計劃,該計劃現已向早期采用者開放,并于 7 月推出神經形態開發板。即將推出的開源 PyTorch 前端和市場將為神經形態 AI 創建一個更具協作性的生態系統。