AI時代，秒懂不可不知的NPU，小白也OK

來源：亮鉆科技編輯：ZZZ 2024-06-03 10:16:22 加入收藏

NPU神經(jīng)處理單元(N euralP rocessingU nit)作為一種新興的硬件加速器，正在成為ARM主板配置中的新寵。

　　在人工智能(AI)技術(shù)如火如荼的今天，NPU神經(jīng)處理單元(N euralP rocessingU nit)作為一種新興的硬件加速器，正在成為ARM主板配置中的新寵。與傳統(tǒng)的CPU和GPU相比，NPU在處理AI任務(wù)上的效率更高，在現(xiàn)今ARM主板配置中也變得越來越重要。本文將帶大家了解 NPU 的作用、必要性，以及國產(chǎn)芯片廠商是如何對它進行布局的。

　　什么是NPU

　　簡而言之，NPU是專為AI和機器學(xué)習(xí)(ML)任務(wù)量身打造的硬件加速器。相較于傳統(tǒng)的CPU和GPU，NPU針對深度學(xué)習(xí)算法所需的復(fù)雜計算進行了優(yōu)化，能讓自然語言處理、圖像分析等AI任務(wù)更加高效地運行。

　　通常，NPU會與CPU集成在一起。例如，RK3588，RK3588S和RK3568 CPU都已經(jīng)集成了NPU。

　　NPU / CPU / GPU的比較：

　　隨著語音識別、圖像識別、人臉識別等AI應(yīng)用的普及，NPU的優(yōu)勢將越發(fā)明顯。它能夠迅速、高效地處理和學(xué)習(xí)大量數(shù)據(jù)，并顯著提升應(yīng)用性能。一開始，NPU主要用于提升智能手機的相機功能、電池續(xù)航和安全性。但現(xiàn)在，它正在快速擴展到ARM主板以及更多物聯(lián)網(wǎng)智能終端。

　　舉例來說，亮鉆部分ARM主板和嵌入式主機就已經(jīng)內(nèi)置了NPU，例如：邊緣智能主板D-3588和D-3568、智能物聯(lián)網(wǎng)主板K-3588S、AI工業(yè)電腦主機VEC-3588、邊緣計算主機KEC-3566和KEC-A311D等。

　　什么場景需要配置NPU

　　對于需要處理大量AI任務(wù)的場景，比如醫(yī)療影像分析、智能安防、智能制造、機器人等，它們需要處理大量復(fù)雜的人工智能、圖像處理或高性能計算任務(wù)，NPU可以提升設(shè)備的性能和用戶體驗。

　　簡單來說，CPU、GPU和NPU都是運作的核心組件，而NPU能在AI任務(wù)方面大顯身手，分擔(dān)GPU和CPU的負(fù)擔(dān)，讓它們更專注于其他傳統(tǒng)任務(wù)。在需要執(zhí)行AI任務(wù)時，操作系統(tǒng)會評估系統(tǒng)資源，決定由NPU還是GPU來完成任務(wù)。

　　國產(chǎn)芯片廠商深入布局

　　目前，國產(chǎn)SoC廠商正在加大對NPU的投入，以豐富和提升SoC人工智能處理能力。NPU在SoC中的典型應(yīng)用主要是機器視覺。

　　例如，瑞芯微推出的新一代機器視覺方案RV1106及RV1103，在NPU、ISP、視頻編碼、音頻處理等方面性能都有顯著提升，能夠在低待機功耗的同時提供出色的邊緣AI算力。此外，瑞芯微的高性能芯片RV1126配備了2.0Tops的NPU，活體檢測率高達(dá)98.48%。晶晨股份的A311D采用了高性能A73內(nèi)核，并搭載了5Tops的高性能NPU，適用于各類中高端人工智能物聯(lián)網(wǎng)設(shè)備。