提到邊緣計(jì)算,也許你感到很晦澀,但對(duì)于章魚(yú)你肯定不陌生。
章魚(yú)是一種無(wú)脊椎動(dòng)物,渾身布滿神經(jīng)元,但是它的腦部只有 40% 的神經(jīng)元,剩下的 60% 神經(jīng)元在八條腿(腕足)上。這等于章魚(yú)擁有 多個(gè)小腦 + 一個(gè)大腦,這樣的分布式結(jié)構(gòu)使得它在捕獵時(shí)非常敏捷,腿部得到信號(hào)即可就近捕獵。
圖 | 章魚(yú)(來(lái)源:IC photo)
而邊緣計(jì)算的結(jié)構(gòu)和章魚(yú)很相似,它是一種分布式計(jì)算,得到信息后無(wú)需把大量數(shù)據(jù)上傳到遠(yuǎn)端管理平臺(tái),直接可以就近處理。
而說(shuō)到邊緣計(jì)算,就不得不提傳感器。當(dāng)前的傳感器網(wǎng)絡(luò)中,節(jié)點(diǎn)數(shù)量增長(zhǎng)非常迅速,傳感器終端和計(jì)算單元之間交換著大量冗余數(shù)據(jù),如何在處理大量數(shù)據(jù)的同時(shí)、還能降低功耗,是邊緣計(jì)算亟待解決的難題。
針對(duì)此,近日香港理工大學(xué)應(yīng)用物理學(xué)系副教授柴揚(yáng)發(fā)表在《自然?電子學(xué)》上題的論文《近傳感器計(jì)算與傳感器內(nèi)計(jì)算》(Near-Sensor and In-Sensor Computing),創(chuàng)造性地提出了近傳感器計(jì)算與傳感器內(nèi)計(jì)算的方法。
圖 |《近傳感器計(jì)算與傳感器內(nèi)計(jì)算》(來(lái)源:Nature)
柴揚(yáng)告訴 DeepTech,近傳感器計(jì)算與傳感器內(nèi)計(jì)算的方法,可減少傳感器終端和計(jì)算單元之間的冗余數(shù)據(jù)移動(dòng)。而計(jì)算任務(wù)被部分轉(zhuǎn)移到傳感器終端后,能減少能耗和時(shí)間延遲,還可節(jié)省通信帶寬并增強(qiáng)數(shù)據(jù)安全性和隱私性。
不同架構(gòu),不同級(jí)別
談及一些情況下把數(shù)據(jù)處理放在傳感器端更好的原因,柴揚(yáng)解釋稱,物聯(lián)網(wǎng)傳感器收集到的數(shù)據(jù)基本都是非結(jié)構(gòu)性的,因此數(shù)據(jù)必須要先做處理。而一個(gè)完整的傳感系統(tǒng)既需要有傳感器,又需要有運(yùn)算器。但實(shí)際上,傳感器的制造工藝和運(yùn)算器的制造工藝很不一樣。以圖像傳感器為例,用 65 納米的節(jié)點(diǎn)已是非常先進(jìn)的工藝;而如果要做運(yùn)算,目前最先進(jìn)的半導(dǎo)體工藝已經(jīng)發(fā)展到 5 納米節(jié)點(diǎn)。
此外,傳感器和運(yùn)算器通常采用不同工藝制造,然后組裝為一個(gè)完整的系統(tǒng),兩者在系統(tǒng)中的距離較遠(yuǎn),更多情況是傳感器收集數(shù)據(jù),上傳到云端后做計(jì)算處理。那么在哪些情況下,把數(shù)據(jù)處理放在傳感器端比在云端更好呢?
柴揚(yáng)表示,這主要出于兩個(gè)剛性需求考量:第一個(gè)考量是功耗,傳感器一般是靠電池來(lái)供電,因?yàn)殡娏渴芟?,所以不能做太?fù)雜的運(yùn)算,復(fù)雜運(yùn)算一般都要上傳到云端做進(jìn)一步處理;第二個(gè)考量是時(shí)間,也就是實(shí)時(shí)處理。
比如,自動(dòng)駕駛對(duì)延時(shí)非常敏感,如果傳到云端處理再傳回來(lái),會(huì)給安全駕駛帶來(lái)很大挑戰(zhàn)。因此,比較簡(jiǎn)單且對(duì)時(shí)間敏感的數(shù)據(jù)處理,放在傳感器端比放在云端更好。一般來(lái)說(shuō),傳感器和計(jì)算單元的材料不同,因此它們的功能、結(jié)構(gòu)、設(shè)計(jì)和處理系統(tǒng)都不同。
在傳統(tǒng)的感覺(jué)計(jì)算架構(gòu)中,傳感器和計(jì)算單元在物理空間上是分開(kāi)的,它們之間有較遠(yuǎn)的物理距離。而在近傳感器計(jì)算和傳感器內(nèi)計(jì)算架構(gòu)中,傳感器和計(jì)算單元之間的距離通常會(huì)顯著減少或消除。比如,在近傳感器計(jì)算架構(gòu)中,前端處理單元被放置在傳感器旁邊,這意味著處理單元可提高系統(tǒng)整體性能,并最大限度減少冗余數(shù)據(jù)傳輸;在傳感器內(nèi)計(jì)算架構(gòu)中,單個(gè)傳感器或多個(gè)連接的傳感器可直接處理收集到的信息,這樣的設(shè)計(jì)可將傳感和計(jì)算功能結(jié)合在單一器件中。
圖 | 不同的計(jì)算架構(gòu)
圖 | 用于神經(jīng)網(wǎng)絡(luò)中乘法累加運(yùn)算的、具有可重構(gòu)傳感器的傳感器內(nèi)計(jì)算架構(gòu)示意圖
柴揚(yáng)表示:近傳感器計(jì)算面臨的一大挑戰(zhàn)是傳感單元和計(jì)算單元的集成。例如,計(jì)算單元已經(jīng)采用了非常先進(jìn)的技術(shù)節(jié)點(diǎn),而大多數(shù)傳感基于大節(jié)點(diǎn)技術(shù)就可以很好地執(zhí)行它們的功能。近傳感器計(jì)算的集成技術(shù)包括異質(zhì)集成、3D 單片集成、片上系統(tǒng)集成和 2.5D Chiplet 技術(shù)等,其中 3D 單片集成提供了一種高密度、短距離的系統(tǒng)集成方法,但是其復(fù)雜的制備工藝和散熱仍面臨巨大挑戰(zhàn)。
圖 | 近距離傳感器和傳感器內(nèi)計(jì)算的集成技術(shù)
雖然傳感器內(nèi)計(jì)算架構(gòu)已被證明是結(jié)合計(jì)算和傳感能力的方法,但它們通常只適用于特定場(chǎng)景。此外,它們只能通過(guò)處于早期開(kāi)發(fā)階段的新材料和新器件結(jié)構(gòu)來(lái)實(shí)現(xiàn)。近傳感器計(jì)算和傳感器內(nèi)計(jì)算是一個(gè)跨學(xué)科的研究領(lǐng)域,涵蓋材料、器件、電路、架構(gòu)、算法和集成技術(shù), 柴揚(yáng)說(shuō),這些架構(gòu)很復(fù)雜,因?yàn)樗鼈冃枰诓煌瑘?chǎng)景中處理大量不同類(lèi)型的信號(hào)。近傳感器計(jì)算和傳感器內(nèi)計(jì)算的成功部署,需要傳感器、設(shè)備、集成技術(shù)和算法的共同開(kāi)發(fā)和共同優(yōu)化。
在本次研究中,該團(tuán)隊(duì)為近傳感器計(jì)算和傳感器內(nèi)計(jì)算提供了清晰定義,他們將信息處理分為低級(jí)處理和高級(jí)處理。低級(jí)處理,即通過(guò)抑制不必要的噪聲或失真,或通過(guò)增強(qiáng)進(jìn)一步處理的特征,從大量原始數(shù)據(jù)中有選擇性地提取有用數(shù)據(jù);高級(jí)處理,即抽象表示,這涉及到認(rèn)知過(guò)程,其能識(shí)別輸入信號(hào)是 什么 或 在哪里。最后,除了為近傳感器計(jì)算和傳感器內(nèi)計(jì)算提供可靠的定義之外,研究人員還提出了實(shí)現(xiàn)集成傳感和處理單元的可能解決方案。在未來(lái),他們的工作可以激發(fā)進(jìn)一步的研究,旨在利用先進(jìn)的制造技術(shù)、實(shí)現(xiàn)這些架構(gòu)或硬件組件。
實(shí)際應(yīng)用,尚有距離
也就是說(shuō),近傳感器與傳感器內(nèi)計(jì)算方法,是實(shí)現(xiàn)智能傳感處理高效硬件的一種可能途徑。在傳感器端處直接處理數(shù)據(jù),可提供改進(jìn)的面積、時(shí)間和能量效率,并在實(shí)時(shí)和數(shù)據(jù)密集型應(yīng)用中特別有益。
然而,在傳感器附近實(shí)現(xiàn)低級(jí)和高級(jí)的處理功能,需要開(kāi)發(fā)先進(jìn)的集成技術(shù)和新的計(jì)算算法;在傳感器內(nèi)實(shí)現(xiàn)計(jì)算還需要開(kāi)發(fā)具有新功能和新機(jī)制的設(shè)備、以及合適的算法。
雖然在傳感器計(jì)算方面顯示出潛力,但目前大多數(shù)設(shè)備都處于研究開(kāi)發(fā)的早期階段,由于功能有限,僅限于特定的應(yīng)用場(chǎng)景。此外,到目前為止,對(duì)于完整處理和與外圍控制的大規(guī)模集成只有有限的演示,而這對(duì)于傳感器處理架構(gòu)的未來(lái)至關(guān)重要。同時(shí),柴揚(yáng)告訴 DeepTech,自動(dòng)駕駛應(yīng)該是比較好的切入口,一旦突破現(xiàn)在的 瓶頸,就可能會(huì)有更多的新的應(yīng)用產(chǎn)生。
上海有一家叫芯侖科技的公司,他們研發(fā)的動(dòng)態(tài)視覺(jué)傳感器(Dynamic Vision Sensor,DVS)就是應(yīng)用在車(chē)輛上,采集圖像、然后做一些實(shí)時(shí)的分析。他們?cè)谶@個(gè)領(lǐng)域做得是比較好的,用得就是近傳感器計(jì)算(Near-Sensor Computing),已經(jīng)非常接近實(shí)用,在國(guó)內(nèi)也是比較領(lǐng)先的。盡管柴揚(yáng)團(tuán)隊(duì)目前工作重心主要集中在視覺(jué)傳感器上,但是近傳感器與傳感器內(nèi)計(jì)算方法也可以擴(kuò)展到其他種類(lèi)的傳感器,如聽(tīng)覺(jué)、觸覺(jué)、味覺(jué)信號(hào)、化學(xué)信號(hào)甚至生物信號(hào)的傳感器。
玉汝于成,不忘初心
柴揚(yáng)于香港科技大學(xué)電子工程系獲得博士學(xué)位;之后在斯坦福大學(xué)開(kāi)展博士后研究;后面在香港理工大學(xué)繼續(xù)電子器件方向的研究。
在談到成果落地的問(wèn)題時(shí),柴揚(yáng)也提到,香港高校中有的老師做得非常成功,比如大疆創(chuàng)新、商湯科技和晶科電子都是從香港高校孵化出來(lái)的。談及此,柴揚(yáng)也表示了對(duì)粵港澳大灣區(qū)未來(lái)發(fā)展的期待,現(xiàn)在國(guó)家針對(duì)大灣區(qū)提出了一些新的政策,香港政府也推出了一系列的支持科創(chuàng)政策,整個(gè)科創(chuàng)生態(tài)肯定能夠變得更好一些,雖然這個(gè)過(guò)程可能是相對(duì)漫長(zhǎng)的,希望最后的研究結(jié)果能夠解決目前存在的一些科學(xué)工程問(wèn)題,可以產(chǎn)生一些切實(shí)可用的東西。