嵌入式微處理器效能指針聯(lián)盟(Embedded Microprocessor Benchmark Consortium；EEMBC) 最近展開一項(xiàng)定義機(jī)器學(xué)習(xí)基準(zhǔn)的任務(wù)，鎖定在網(wǎng)絡(luò)邊緣的設(shè)備上執(zhí)行推論作業(yè)。該項(xiàng)任務(wù)源于另一項(xiàng)基準(zhǔn)檢驗(yàn)計(jì)劃——EEMBC計(jì)劃在今年6月針對(duì)先進(jìn)駕駛輔助系統(tǒng)(ADAS)的芯片發(fā)布測試基準(zhǔn)。
這項(xiàng)工作至少是最近六個(gè)月來針對(duì)神經(jīng)網(wǎng)絡(luò)性能進(jìn)行測量的第三項(xiàng)重要行動(dòng)。它很可能是第一個(gè)瞄準(zhǔn)用于功耗受限之嵌入式系統(tǒng)的芯片測試基準(zhǔn)。
就在上個(gè)月，百度(Baidu)和Facebook宣布與幾家芯片制造商連手，發(fā)布新的測試基準(zhǔn)——MLPerf，首先專注于數(shù)據(jù)中心的訓(xùn)練任務(wù)。去年12月，服務(wù)器效能評(píng)測標(biāo)準(zhǔn)組織“事務(wù)處理效能委員會(huì)”(TPC)也組建了一個(gè)定義AI基準(zhǔn)的工作小組，其重點(diǎn)也在訓(xùn)練上。
EEMBC的AI工作小組主要圍繞在用于物聯(lián)網(wǎng)和其他嵌入式系統(tǒng)的智能喇叭、節(jié)點(diǎn)與網(wǎng)關(guān)芯片等。該組織至今已開會(huì)三次了，目標(biāo)是在明年六月之前發(fā)布新的測試基準(zhǔn)。獨(dú)立的ADAS基準(zhǔn)已經(jīng)在多家用戶展開beta測試了。
EEMBC總裁的Peter Torelli說：“當(dāng)我們建構(gòu)ADAS基準(zhǔn)時(shí)，從要求工程師學(xué)習(xí)這個(gè)復(fù)雜領(lǐng)域中，發(fā)現(xiàn)了對(duì)于神經(jīng)網(wǎng)絡(luò)產(chǎn)生了濃厚興趣。”
到目前為止，該工作小組大約有來自Arm、ADI、英特爾(Intel)、英偉達(dá)(Nvidia)、恩智浦(NXP)、三星(Samsung)、意法半導(dǎo)體(STMicroelectronics)和德州儀器(TI)等十幾家嵌入式處理器供應(yīng)商成員。其目標(biāo)在于廣納各種神經(jīng)網(wǎng)絡(luò)類型和用例。
Torelli說：“我們正在征詢更多的意見，特別是來自整合商和OEM的組件選擇，以確保其可資利用。此外，我們還需要掌握哪些網(wǎng)絡(luò)架構(gòu)較重要、哪些架構(gòu)可以移植到邊緣。”
該基準(zhǔn)旨在測量原始推論性能以及啟動(dòng)神經(jīng)網(wǎng)絡(luò)模型的時(shí)間。該組織還希望能夠以標(biāo)準(zhǔn)方式定義一種測量任務(wù)功效的方法。
該計(jì)劃旨在使用行為模型，讓用戶采納其所選擇的任何架構(gòu)或運(yùn)行時(shí)間，以期能實(shí)現(xiàn)優(yōu)化。組織成員們也在討論測試是否將包含代表低、中、高復(fù)雜度任務(wù)的等級(jí)。
這項(xiàng)任務(wù)由英特爾計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)工程總監(jiān)Ramesh Jaladi擔(dān)任主席，負(fù)責(zé)各種系統(tǒng)的基準(zhǔn)檢驗(yàn)工作。
Arm稱贊EEMBC過去各種在嵌入式處理器基準(zhǔn)檢驗(yàn)的出色表現(xiàn)，但也指出現(xiàn)在仍然是AI開發(fā)工作的早期階段。該公司也與中國的AI產(chǎn)業(yè)聯(lián)盟合作推動(dòng)另一項(xiàng)基準(zhǔn)檢驗(yàn)。
“我們將積極地協(xié)助業(yè)界推動(dòng)一系列有用的AI基準(zhǔn)檢驗(yàn)，”Arm機(jī)器學(xué)習(xí)團(tuán)隊(duì)營銷副總裁Dennis Laudick說。
EEMBC另一項(xiàng)ADAS基準(zhǔn)檢驗(yàn)以O(shè)penCL為基礎(chǔ)，并從3大面向測試8種操作數(shù)素——包括2D影像檢測、輪廓檢測以及使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行推論。此外，還有一家汽車制造商從2年前開始就參與了這項(xiàng)計(jì)劃。