記憶體處理器比起一般 CPU 和 DSP，能節(jié)省一百倍的能耗？
總部位于美國的 AI 芯片新創(chuàng)公司 Syntiant 宣布推出針對語音任務(wù)處理設(shè)計的低功耗神經(jīng)網(wǎng)絡(luò)加速器 NDP100 與 NDP101，將用來檢測功率水準低于 200μw 的聲音模式，讓各種設(shè)備能具備語音控制功能。
新款芯片令人驚訝之處，是使用了數(shù)位技術(shù)。這家新創(chuàng)公司是在 2018 年首度亮相，介紹了一種利用內(nèi)含數(shù)十萬個連結(jié)至 NOR 記憶體單元的乘加器（mulTIply-accumulate units）陣列，以類比技術(shù)處理深度學(xué)習(xí)任務(wù)的方法。其競爭對手 Rival Mythic 也是以類似的類比技術(shù)專攻影像和視頻應(yīng)用；SynTIant 則表示將于 2020 年推出的下一代芯片也會鎖定這類應(yīng)用。
記憶體處理器（processor-in-memory，PIM）架構(gòu)一直被視為一種有趣但難以實現(xiàn)的方法，Rival Mythic 與 SynTIant 這兩家新創(chuàng)公司可能需要從 40 納米 NOR 移轉(zhuǎn)到 ReRAM 或 MRAM 陣列，以微縮至 28 納米制程設(shè)計。
新款芯片利用數(shù)位 MAC 陣列中的 SRAM 快取記憶體，省電的方式一部分是透過盡可能減少資料移動，還有降低精確度水準，支持 4 位權(quán)重（weights）、8 位啟動（acTIvations） 。數(shù)位組件的推出，代表該公司意識到神經(jīng)網(wǎng)絡(luò)剪枝的重要性與類比運算所帶來的挑戰(zhàn)。
Syntiant 宣稱其新型數(shù)位芯片比起一般 CPU 和 DSP，能節(jié)省一百倍的能耗，但并沒有提供相關(guān)量測數(shù)據(jù)；該公司表示，其數(shù)位芯片已經(jīng)贏得助聽器、手機等產(chǎn)品的設(shè)計案，芯片樣品也已經(jīng)在智能喇叭、家庭自動化設(shè)備和筆記本電腦中進行測試，而類比芯片仍在研發(fā)階段。
在 Syntiant 的新聞稿中，引述了摩托羅拉解決方案公司（Motorola Solutions）一位高階主管說法，表示新款數(shù)位芯片能使公共安全系統(tǒng)實現(xiàn)“新一代的邊緣運算應(yīng)用”；還有一位英飛凌（Infineon ）高層主管表示，在沒有 DSP 或云端連接的情況下，單個 IM69D130 麥克風(fēng)在處理近端和遠端音訊時效果良好。
Syntiant 表示，數(shù)位芯片將用于關(guān)鍵字識別（keyword spotting）、喚醒詞檢測（wake word detection）、喇叭識別、語音事件識別和感測器分析處理。此產(chǎn)品支援 63 個口語字詞，可透過編程識別聲音，如玻璃碎裂聲；此外可監(jiān)控氣體感測器的數(shù)據(jù)，或運用被動紅外線數(shù)據(jù)進行人體偵測。
這間新創(chuàng)公司計畫在未來采用類比記憶體處理器取代新芯片的數(shù)位區(qū)塊（圖中的粉紅色部分），以節(jié)省更多電源，而不改變周圍的 IP 區(qū)塊（圖中的藍色部分）。
該公司將一個工具程序（utility）整合到 TensorFlow 架構(gòu)中，以實現(xiàn)量化過程的自動化，并將深度學(xué)習(xí)模型嵌入芯片，目的在于支持往后的其他架構(gòu)。Syntiant 執(zhí)行長 Kurt Busch 表示：“我們提供能介接其他處理器的開發(fā)工具套件（SDK）以及訓(xùn)練開發(fā)套件，給那些想要自行訓(xùn)練模型的客戶，也能提供語音訓(xùn)練服務(wù)且想要客制化關(guān)鍵字的客戶?！?/p>
NDP 100 尺寸為 1.4x1.8 mm，采用 12 球 WLBGA 封裝，可以置入空間受限的手機和助聽器中。NDP 101 采用 5×5mm QFN 封裝，可以從串行快閃記憶體啟動，具備 8 個 GPIO，可作為智能喇叭等大型系統(tǒng)中的主要系統(tǒng)單芯片。這兩款產(chǎn)品皆搭載具 112-KB RAM 記憶體的 Arm Cortex-M0 核心，已經(jīng)開始出貨。? ? ? ?責(zé)任編輯:pj