產(chǎn)業(yè)的需求決定了要完成的人工智能任務(wù)越來(lái)越復(fù)雜，輕量化人工智能必須通過(guò)加速運(yùn)算效率、提高計(jì)算密度才能實(shí)現(xiàn)極致的效率。——冷聰 中國(guó)科學(xué)院自動(dòng)化研究所副研究員

人工智能算法的復(fù)雜度急劇攀升，神經(jīng)網(wǎng)絡(luò)計(jì)算的能耗代價(jià)越來(lái)越高，數(shù)據(jù)洪水式地涌積堰塞……這些年，人工智能的發(fā)展遇到了越來(lái)越多的瓶頸。如何將人工智能模型及其計(jì)算載體前端化、輕量化成為亟待解決的問(wèn)題。最新興起的輕量化人工智能被寄予厚望，以“輕量化”為賽點(diǎn)的人工智能競(jìng)賽下半場(chǎng)已經(jīng)來(lái)臨。為此，4月27日，科技日?qǐng)?bào)記者采訪了中國(guó)科學(xué)院自動(dòng)化研究所的相關(guān)專家。

輕量化成為人工智能下半場(chǎng)賽點(diǎn)

人工智能技術(shù)在行業(yè)應(yīng)用中，大多依賴海量的訓(xùn)練數(shù)據(jù)和大規(guī)模服務(wù)器的算力支持。

然而，近年來(lái)，隨著信息技術(shù)領(lǐng)域的摩爾定律逐步放緩，硬件的發(fā)展越來(lái)越難以滿足當(dāng)前人工智能模型動(dòng)輒萬(wàn)億級(jí)規(guī)模的存儲(chǔ)和算力需求，數(shù)據(jù)堰塞、存儲(chǔ)暴漲、隱私泄露、能耗高企等問(wèn)題隨之而來(lái)。

“當(dāng)前，對(duì)于人工智能設(shè)備和應(yīng)用的快速響應(yīng)、隱私保護(hù)以及節(jié)能減排的需求越發(fā)凸顯，輕量化人工智能應(yīng)運(yùn)而生，并被寄予厚望。2020年，《麻省理工科技評(píng)論》將輕量化人工智能列為‘全球十大突破性技術(shù)’。”中國(guó)科學(xué)院自動(dòng)化研究所研究員程健說(shuō)。

所謂輕量化人工智能，是指以一系列輕量化技術(shù)為驅(qū)動(dòng)提高芯片、平臺(tái)和算法的效率，在更緊密的物理空間上實(shí)現(xiàn)低功耗的人工智能訓(xùn)練和應(yīng)用部署，不需要依賴與云端的交互就能實(shí)現(xiàn)智能化操作的人工智能。

輕量化人工智能被評(píng)入“全球十大突破性技術(shù)”，《麻省理工科技評(píng)論》給出的評(píng)選理由是，輕量化智能使現(xiàn)有的服務(wù)，比如語(yǔ)音助手、手機(jī)拍照等，變得更好更快，不必每次都需要連接云端才能運(yùn)行深度學(xué)習(xí)模型;此外，輕量化人工智能也將使新的應(yīng)用成為可能，比如基于移動(dòng)端的醫(yī)學(xué)檢測(cè)分析、對(duì)反應(yīng)時(shí)間要求更快的自動(dòng)駕駛汽車;此外，本地化的人工智能更利于隱私保護(hù)，用戶的數(shù)據(jù)不再需要離開(kāi)設(shè)備就能實(shí)現(xiàn)服務(wù)功能的進(jìn)化。

“更重要的是，輕量化人工智能將人工智能推向更主流，它大大降低了人工智能系統(tǒng)的部署難度和成本，把人工智能從一場(chǎng)高門檻的科技巨頭競(jìng)賽變成更容易普惠民生的智能生態(tài)。”程健說(shuō)，在人工智能領(lǐng)域的角逐中，以輕量化為賽點(diǎn)的下半場(chǎng)已經(jīng)來(lái)臨。

極致效率、極低能耗是最終追求

在表現(xiàn)上，輕量化人工智能是在做減法，降低能耗、降低對(duì)硬件平臺(tái)性能指標(biāo)的要求、降低與云端的通訊需求等。

然而，“實(shí)質(zhì)上，輕量化的內(nèi)核卻是在做加法。”中國(guó)科學(xué)院自動(dòng)化研究所副研究員冷聰說(shuō)，產(chǎn)業(yè)的需求決定了要完成的人工智能任務(wù)越來(lái)越復(fù)雜，輕量化人工智能必須通過(guò)提高運(yùn)算速度、計(jì)算密度才能實(shí)現(xiàn)極致的效率。

在程健看來(lái)，在精度接近無(wú)損的前提下，將人工智能模型及其計(jì)算載體輕量化，是一個(gè)極具挑戰(zhàn)性的任務(wù)。

解決這一問(wèn)題，需要對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行輕量化設(shè)計(jì)、計(jì)算加速以及設(shè)計(jì)新的計(jì)算架構(gòu)以實(shí)現(xiàn)模型的硬件化，這需要從軟件和硬件兩方面來(lái)著手。

在軟件上，進(jìn)行模型和算法創(chuàng)新，通過(guò)輕量化模型設(shè)計(jì)、矩陣分解、稀疏表示、量化計(jì)算來(lái)實(shí)現(xiàn)模型的微型化和計(jì)算加速;而在硬件上，則要通過(guò)流水線設(shè)計(jì)、存儲(chǔ)模式設(shè)計(jì)等手段進(jìn)行硬件架構(gòu)的創(chuàng)新，通過(guò)軟硬協(xié)同設(shè)計(jì)和優(yōu)化實(shí)現(xiàn)人工智能的輕量化。

“雖然執(zhí)行神經(jīng)網(wǎng)絡(luò)計(jì)算的是硬件，但神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和人工智能平臺(tái)決定了計(jì)算量的大小和運(yùn)算方式。”冷聰坦言，所以極致的輕量化必須是軟件和硬件的協(xié)同輕量化——基于復(fù)雜的人工智能應(yīng)用場(chǎng)景，將芯片、平臺(tái)和算法充分結(jié)合以聯(lián)合加速。

作為人工智能的硬件載體，人工智能芯片必須達(dá)到更高的性能、更高的效率、更低的功耗和更小的體積。這樣才能有足夠平價(jià)高效的計(jì)算平臺(tái)滿足產(chǎn)業(yè)需求，承載復(fù)雜的人工智能任務(wù)，并且使推理和運(yùn)算從云端遷移到終端。

同時(shí)，輕量化的人工智能平臺(tái)要以更低的功耗來(lái)訓(xùn)練和運(yùn)行人工智能算法，最大化的發(fā)掘硬件的能力。更重要的是，應(yīng)用輕量化技術(shù)的神經(jīng)網(wǎng)絡(luò)模型要小規(guī)模、少運(yùn)算量并保持良好的精度。

未來(lái)輕量化人工智能將賦能萬(wàn)物

程健介紹，中國(guó)科學(xué)院自動(dòng)化研究所是輕量化人工智能的先行者，很早就開(kāi)始了軟硬協(xié)同輕量化的技術(shù)研究，并走在國(guó)際前列。

早在2016年，卷積神經(jīng)網(wǎng)絡(luò)大規(guī)模邁向應(yīng)用之初，中國(guó)科學(xué)院自動(dòng)化研究所就在國(guó)際人工智能頂級(jí)期刊發(fā)表了多篇神經(jīng)網(wǎng)絡(luò)模型輕量化領(lǐng)域的重要論文，成為國(guó)際上最早開(kāi)始人工智能輕量化研究的機(jī)構(gòu)之一，相關(guān)成果引起了國(guó)內(nèi)外諸多專家的廣泛關(guān)注。

“我們?cè)O(shè)計(jì)開(kāi)發(fā)的輕量化人工智能平臺(tái)QEngine及輕量化算法已經(jīng)在數(shù)十萬(wàn)終端上部署。2019年，在國(guó)際神經(jīng)信息處理系統(tǒng)大會(huì)的微型網(wǎng)絡(luò)挑戰(zhàn)競(jìng)賽中，我們與ARM、IBM、高通、Xilinx等國(guó)際一流芯片公司同場(chǎng)競(jìng)技，獲得了輕量化神經(jīng)網(wǎng)絡(luò)架構(gòu)圖像類的雙冠軍。”程健表示。

2020年，中國(guó)科學(xué)院自動(dòng)化研究所自主研發(fā)的全球首款極低比特量化神經(jīng)處理芯片(QNPU)成功流片，繞開(kāi)了芯片計(jì)算領(lǐng)域備受關(guān)注的“內(nèi)存墻”難題，在芯片成本、功耗、計(jì)算結(jié)構(gòu)、邊緣計(jì)算等方面實(shí)現(xiàn)革命性的變革。

“該芯片的面世，也標(biāo)志著自動(dòng)化研究所成為了全球?yàn)閿?shù)不多的擁有‘人工智能芯片—平臺(tái)—算法’全棧輕量化人工智能技術(shù)的機(jī)構(gòu)之一。”冷聰說(shuō)。

未來(lái)，以人工智能驅(qū)動(dòng)的小型化設(shè)備會(huì)越來(lái)越多出現(xiàn)在我們身邊。由人工智能芯片、平臺(tái)和算法組成的輕量化人工智能終端將在越來(lái)越多的場(chǎng)景中應(yīng)用。

“比如，在電力行業(yè)，我國(guó)的輸電線路覆蓋廣，野外自然環(huán)境復(fù)雜，檢修維護(hù)作業(yè)危險(xiǎn)系數(shù)高、難度大，我們?cè)O(shè)計(jì)的自主巡檢無(wú)人機(jī)、缺陷識(shí)別分析便攜終端、通道可視化智能感知攝像頭具備多種智能識(shí)別、檢測(cè)和分析功能，能夠保障輸配電線路的安全和電力系統(tǒng)穩(wěn)定。”程健舉例說(shuō)。

同時(shí)，在消費(fèi)電子行業(yè)，暗光增強(qiáng)、超分辨率等自動(dòng)化所設(shè)計(jì)的輕量化算法及輕量化神經(jīng)網(wǎng)絡(luò)計(jì)算架構(gòu)，也為手機(jī)終端、安防終端提供了影像增強(qiáng)效果。

程健表示，輕量化人工智能未來(lái)將賦能萬(wàn)物，讓每個(gè)設(shè)備都具有環(huán)境感知、人機(jī)交互、決策控制的能力。(記者 陸成寬)