神經網路處理器

神經網路處理器(Neural-network Processing Unit；簡稱NPU)是專為加速AI應用而設計，透過類似於人類的神經系統的處理器。神經網路是人工智慧中的一種方法，指導電腦以受人腦啟發的方式來處理資料。它會建立一種可讓電腦用來從錯誤中學習並持續改善的適應型系統。相較於CPU及GPU，低功耗、高效能的NPU格外適合處理裝置端的AI推論任務，包括影像辨識、自然語言處理、物件偵測等應用。

 

神經網路用於深度學習，這是一種進階的機器學習類型，可以在無需人工干預的情況下從未標記資料中得出結論。例如，基於神經網路建構並獲得了足夠訓練資料的深度學習模型，可以識別相片中以前從未見過的物品。

 

NPU的兩大技術特點：

 

1. 模擬人類神經網路的運作方式，同樣擅長平行運算處理，並適當地分配晶片內的「任務流」，減少閒置的運算資源。

 

2. 經由「近記憶體運算」(將處理器盡量靠近DRAM，以減少資料的傳輸延遲以及功率消耗)或「記憶體內運算」(將簡單的邏輯運算移至記憶體陣列中) ，實現儲存及運算的一體化，降低運算過程的能耗、加快存取速度，從而提升AI運算的執行速度和效率 。