一個國際研究團隊設計並製造了一種直接在內存中運行計算的芯片,可運行各種人工智慧(AI)應用,而且它能在保持高精度的同時,僅消耗通用AI計算平臺所耗能量的一小部分,兼具高效率和通用性。相關研究發表在最近的《自然》雜誌上。
這款名為NeuRRAM的神經形態芯片使AI離在與雲斷開的廣泛邊緣設備上運行又近了一步。在雲中,AI計算可隨時隨地執行複雜的認知任務,而不需要依賴與中央服務器的網絡連接。從智慧手錶到虛擬現實(VR)耳機、智慧耳機、工廠中的智慧傳感器和用於太空探索的漫遊車,其應用比比皆是,遍及世界的每一個角落和人類生活的方方面面。
NeuRRAM芯片的能效不僅是目前最先進的“內存計算”芯片(一種在內存中運行計算的創新混合芯片)的兩倍,而且它提供的結果也與傳統數字芯片一樣準確。傳統的AI平臺要龐大得多,通常受限于使用在雲中運行的大型數據服務器。
此外,NeuRRAM芯片具有高度的通用性,支持多種不同的神經網絡模型和架構。因此,該芯片可用於許多不同的應用,包括圖像識別和重建以及語音識別。
目前,AI計算既耗電又昂貴。邊緣設備上的大多數AI應用程序都涉及將數據從設備移動到雲端,AI在雲端對其進行處理和分析,然後將結果移回設備。
通過降低邊緣AI計算所需的功耗,這款NeuRRAM芯片可帶來更強大、更智慧、更易於訪問的邊緣設備和更智慧的製造。它還可帶來更好的數據隱私,因為將數據從設備傳輸到雲會帶來更高的安全風險。
研究人員通過一種名為能量延遲乘積(EDP)的方法來測量芯片的能效。EDP結合了每次操作所消耗的能量和完成操作所需的時間。通過這一措施,NeuRRAM芯片實現了比目前最先進芯片高7—13倍的計算密度。
研究人員在芯片上運行各種人工智慧任務。它在手寫數字識別任務上準確率達到99%,在圖像分類任務上達到85.7%,在谷歌語音命令識別任務上達到84.7%。此外,該芯片還在圖像恢復任務中減少了70%的圖像重建誤差。這些結果可以與現有的數字芯片相媲美,後者在相同的精度下執行計算,但大大節省了能源。
【總編輯圈點】
與經典計算相比,AI計算的許多數據處理都涉及矩陣乘法和加法,以及海量的並行工作,如何在保持AI芯片精度的前提下還做到節能呢?最終該用什麼路線去實現,其實依然眾説紛紜。但這也正是一項新技術的特點與魅力——在探索階段百花齊放。就像本文中團隊實現的神經形態芯片,其最大的吸引人之處,正是它兼具了高能效與通用性。