嵌入式微處理器效能指針聯(lián)盟(Embedded Microprocessor Benchmark Consortium；EEMBC) 最近展開一項定義機器學(xué)習(xí)基準(zhǔn)的任務(wù)，鎖定在網(wǎng)絡(luò)邊緣的設(shè)備上執(zhí)行推論作業(yè)。該項任務(wù)源于另一項基準(zhǔn)檢驗計劃——EEMBC計劃在今年6月針對先進(jìn)駕駛輔助系統(tǒng)(ADAS)的芯片發(fā)布測試基準(zhǔn)。

　　這項工作至少是最近六個月來針對神經(jīng)網(wǎng)絡(luò)性能進(jìn)行測量的第三項重要行動。它很可能是第一個瞄準(zhǔn)用于功耗受限之嵌入式系統(tǒng)的芯片測試基準(zhǔn)。

　　就在上個月，百度(Baidu)和Facebook宣布與幾家芯片制造商連手，發(fā)布新的測試基準(zhǔn)——MLPerf，首先專注于數(shù)據(jù)中心的訓(xùn)練任務(wù)。去年12月，服務(wù)器效能評測標(biāo)準(zhǔn)組織“事務(wù)處理效能委員會”(TPC)也組建了一個定義AI基準(zhǔn)的工作小組，其重點也在訓(xùn)練上。

　　EEMBC的AI工作小組主要圍繞在用于物聯(lián)網(wǎng)和其他嵌入式系統(tǒng)的智能喇叭、節(jié)點與網(wǎng)關(guān)芯片等。該組織至今已開會三次了，目標(biāo)是在明年六月之前發(fā)布新的測試基準(zhǔn)。獨立的ADAS基準(zhǔn)已經(jīng)在多家用戶展開beta測試了。

　　EEMBC總裁的Peter Torelli說：“當(dāng)我們建構(gòu)ADAS基準(zhǔn)時，從要求工程師學(xué)習(xí)這個復(fù)雜領(lǐng)域中，發(fā)現(xiàn)了對于神經(jīng)網(wǎng)絡(luò)產(chǎn)生了濃厚興趣。”

　　到目前為止，該工作小組大約有來自Arm、ADI、英特爾(Intel)、英偉達(dá)(Nvidia)、恩智浦(NXP)、三星(Samsung)、意法半導(dǎo)體(STMicroelectronics)和德州儀器(TI)等十幾家嵌入式處理器供應(yīng)商成員。其目標(biāo)在于廣納各種神經(jīng)網(wǎng)絡(luò)類型和用例。

　　Torelli說：“我們正在征詢更多的意見，特別是來自整合商和OEM的組件選擇，以確保其可資利用。此外，我們還需要掌握哪些網(wǎng)絡(luò)架構(gòu)較重要、哪些架構(gòu)可以移植到邊緣。”

　　該基準(zhǔn)旨在測量原始推論性能以及啟動神經(jīng)網(wǎng)絡(luò)模型的時間。該組織還希望能夠以標(biāo)準(zhǔn)方式定義一種測量任務(wù)功效的方法。

　　該計劃旨在使用行為模型，讓用戶采納其所選擇的任何架構(gòu)或運行時間，以期能實現(xiàn)優(yōu)化。組織成員們也在討論測試是否將包含代表低、中、高復(fù)雜度任務(wù)的等級。

　　這項任務(wù)由英特爾計算機視覺和機器學(xué)習(xí)工程總監(jiān)Ramesh Jaladi擔(dān)任主席，負(fù)責(zé)各種系統(tǒng)的基準(zhǔn)檢驗工作。

　　Arm稱贊EEMBC過去各種在嵌入式處理器基準(zhǔn)檢驗的出色表現(xiàn)，但也指出現(xiàn)在仍然是AI開發(fā)工作的早期階段。該公司也與中國的AI產(chǎn)業(yè)聯(lián)盟合作推動另一項基準(zhǔn)檢驗。

　　“我們將積極地協(xié)助業(yè)界推動一系列有用的AI基準(zhǔn)檢驗，”Arm機器學(xué)習(xí)團隊營銷副總裁Dennis Laudick說。

　　EEMBC另一項ADAS基準(zhǔn)檢驗以O(shè)penCL為基礎(chǔ)，并從3大面向測試8種操作數(shù)素——包括2D影像檢測、輪廓檢測以及使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行推論。此外，還有一家汽車制造商從2年前開始就參與了這項計劃。