荷蘭芯片廠商 Innatera 近日正式發(fā)布了第一款使用基于神經(jīng)形態(tài)架構(gòu)的商用RISC-V微控制器Pulsar ，主要用于AI傳感器應(yīng)用。
據(jù)介紹，Pulsar 是將模擬和數(shù)字神經(jīng)形態(tài)模塊與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)加速器和 RISC-V 內(nèi)核相結(jié)合。與傳統(tǒng)的 AI 處理器相比，它的延遲降低了 100 倍，能耗降低了 500 倍，芯片尺寸為 2.6 x 2.8 毫米，采用臺(tái)積電的標(biāo)準(zhǔn) 28nm 工藝制造。
△Innatera 展示 RISC-V 神經(jīng)形態(tài)邊緣 AI 芯片
“Pulsar 不僅僅是一款 AI 芯片——這也是世界上第一個(gè)量產(chǎn)的神經(jīng)形態(tài)微控制器，代表了我們將智能帶到邊緣的方式的根本轉(zhuǎn)變，”Innatera 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Sumeet Kumar指出：“去年全球出貨了 380 億個(gè)傳感器，到 2030 年將增長(zhǎng)到 600 億個(gè)，所有這些在邊緣處理，都將比我們將其發(fā)送到云端的速度更快地生成數(shù)據(jù)，邊緣處理將是大勢(shì)所趨。但是，部署在微控制器上的模型受到限制，應(yīng)用程序開(kāi)發(fā)人員必須在功能、精度和功耗之間進(jìn)行權(quán)衡。”
Sumeet Kumar表：“此次Pulsar的發(fā)布是十多年來(lái)在神經(jīng)形態(tài)計(jì)算方面的深入研究和工程設(shè)計(jì)的結(jié)晶，并結(jié)合了開(kāi)創(chuàng)性的異構(gòu)架構(gòu)。它標(biāo)志著我們的類腦技術(shù)為大眾市場(chǎng)部署做好準(zhǔn)備的時(shí)刻。這實(shí)際上是傳感器唯一需要的微控制器。”
模擬神經(jīng)網(wǎng)絡(luò) （ANN） 內(nèi)核使用時(shí)間電壓脈沖來(lái)識(shí)別模式并提取信息以進(jìn)行時(shí)間序列處理，而無(wú)需復(fù)雜的模型。Sumeet Kumar說(shuō)：“ANN 加速器完全使用尖峰進(jìn)行計(jì)算，它是一個(gè)由神經(jīng)元和突觸組成的大型結(jié)構(gòu)，帶有模擬和數(shù)字設(shè)備，延遲為 1ms，功耗低于 1mW。”
“在該結(jié)構(gòu)中，關(guān)鍵是帶有電容器的交叉開(kāi)關(guān)網(wǎng)絡(luò)，這個(gè)過(guò)程不是線性的，而是指數(shù)級(jí)的，這在模擬域中使用單個(gè)晶體管就很簡(jiǎn)單，”他說(shuō)。“我們采用數(shù)字尖峰神經(jīng)網(wǎng)絡(luò)的原因是為了實(shí)現(xiàn)可配置性和靈活性——這是通過(guò)門(mén)和乘法器實(shí)現(xiàn)的。計(jì)算是異步和事件驅(qū)動(dòng)的，計(jì)算在數(shù)據(jù)傳入時(shí)隨時(shí)進(jìn)行。在 CNN 中，你可以一次獲取所有數(shù)據(jù)并進(jìn)行計(jì)算。”
“我們看到很多客戶使用現(xiàn)有的 AI 模型，他們可以直接切換，但通常傳統(tǒng)的 CNN 會(huì)像圖像一樣查看帶有緩沖功能的所有內(nèi)容，所有這些都需要大量功率，而峰值網(wǎng)絡(luò)可以有效地處理流數(shù)據(jù)。例如，用于手勢(shì)識(shí)別的 1m 參數(shù) CNN 模型可以用 10,000 個(gè)參數(shù)、3kbyte、54 個(gè)神經(jīng)元的模型來(lái)實(shí)現(xiàn)，而且功耗非常低。對(duì)于大多數(shù)應(yīng)用程序問(wèn)題，你必須選擇 AI 方法，因此添加 CNN 開(kāi)發(fā)人員可以為工作添加正確的工具，”他說(shuō)。
他還指出，無(wú)線耳機(jī)每次推理的音頻感應(yīng)分類能量降低了 100 倍，達(dá)到 400 μW，模型縮小了 33 倍，準(zhǔn)確率相同，達(dá)到 90%+。聲音識(shí)別每次推理的能耗降低了 88 倍，而準(zhǔn)確性和延遲相同。雷達(dá)手勢(shì)識(shí)別的能量比 CNN 加速器低 42 倍（600 μW），延遲低 167 倍。
芯片設(shè)計(jì)的一個(gè)關(guān)鍵部分是具有與傳感器的接口，包括攝像頭和醫(yī)療傳感器。另一個(gè)關(guān)鍵要素是名為 Talamo 的軟件設(shè)計(jì)工具包 （SDK） 和用于尖峰網(wǎng)絡(luò)的庫(kù)。
“Talamo SDK 旨在通過(guò)一個(gè)擴(kuò)展與 PyTorch 連接，該擴(kuò)展引入了所有脈沖基礎(chǔ)設(shè)施，因此開(kāi)發(fā)人員處于熟悉的環(huán)境中，并且模型描述與訓(xùn)練數(shù)據(jù)一起以 python 編寫(xiě)，我們的 SNN 編譯器將模型映射到芯片架構(gòu)上，這從根本上減少了神經(jīng)形態(tài)計(jì)算的障礙，從而可以輕松地構(gòu)建脈沖模型并將其部署到框架上。”
Innatera 正在推出其開(kāi)發(fā)人員計(jì)劃，該計(jì)劃現(xiàn)已向早期采用者開(kāi)放，并于 7 月推出神經(jīng)形態(tài)開(kāi)發(fā)板。即將推出的開(kāi)源 PyTorch 前端和市場(chǎng)將為神經(jīng)形態(tài) AI 創(chuàng)建一個(gè)更具協(xié)作性的生態(tài)系統(tǒng)。 |
