2022硬核中國芯投票啟動啦!
為企業投票助力,即可參與抽獎!
摘要:斯坦福大學工程師製作的NeuRRAM芯片,可以不用從雲端發送與接收信息,直接在內存內進行AI處理,能夠消除計算單元和內存單元之間的分離。具有更快、更安全、更便宜、更具可擴展性的特點,讓更多人能夠獲取AI能力。
原文鏈接:https://news.stanford.edu/2022/08/18/new-chip-ramps-ai-computing-efficiency/
來源 | CSDN(ID:CSDNnews)
作者 |斯坦福大學工程學院
譯者| 陳甜靜
責編 | 屠敏
當前,AI芯片已成為最熱門的投資領域,各種AI芯片如雨後春筍般冒出。從廣義上講,只要能夠運行人工智能算法的芯片都叫做AI芯片。但是通常意義上的AI芯片指的是針對人工智能算法做了特殊加速設計的芯片。
人工智能驅動的邊緣計算在我們的生活中無處不在。無人機、智能可穿戴設備和工業物聯網傳感器等設備都配備了人工智能芯片,因此計算可以在數據發源地之互聯網的「邊緣」進行,可以實時處理並保證數據隱私。
在今天的人工智能芯片中,數據處理和數據存儲在計算單元和內存單元中。這些單元之間頻繁的數據移動消耗了人工智能處理過程中的大部分能量,而微型邊緣設備上的人工智能功能會受到電池容量的限制。因此減少數據移動是解決能源問題的關鍵。
NeuRRAM 芯片的能效不僅是最先進芯片的兩倍,而且用途廣泛,提供的結果與傳統數字芯片一樣準確。
(圖片來源:David Baillot/加州大學聖地亞哥分校。)
為解決這一問題,斯坦福大學的工程師於近日發布了一款新穎的電阻式隨機存取存儲器(RRAM)芯片。此芯片特點是在內存內進行AI處理,消除計算單元和內存單元之間的分離。雖然體積很小但是效率很高。
「在芯片上完成計算過程,而不是從雲端發送與接收信息。能夠實現更快、更安全、更便宜、更具可擴展性的能力」,H.-S Philip Wong工程學院的Willard R.和Inez Kerr Bell教授談道。
「通過我們的芯片,展示了如何應對移動中的低效問題。」剛從斯坦福大學畢業的Weier Wan補充道。
他們在Nature雜誌最近的一篇文章中介紹了NeuRRAM。雖然內存計算已經存在了幾十年,但該芯片是第一個在硬件上實際演示廣泛的AI應用程序的芯片,不僅僅是通過模擬。
為了克服數據移動瓶頸,研究人員實現了一種內存計算(CIM),這是一種新穎的芯片架構,可以直接在內存中而不是在單獨的計算單元中執行AI計算。NeuRRAM使用的存儲技術是電阻式隨機存取存儲器(RRAM),這是一種非易失性存儲器,其特點是即使斷電也能保留數據,目前其已經應用於商業產品中。RRAM可以在小面積內存儲大型AI模型,並且功耗極低,非常適合小尺寸和低功耗的邊緣設備。
NeuRRAM論文的共同資深作者Wong表示:「這是將大量內存直接集成到神經網絡芯片上並呈現所有基準測試結果,通過硬件測量的首批實例之一。」
NeuRRAM的架構是與加州大學聖地亞哥分校的Gert Cauwenberghs實驗室合作設計的,該實驗室開創了低功耗神經形態硬件設計的先河。此架構允許芯片以低功耗和緊湊面積的方法執行模擬內存計算,還支持數據流方向的可重構性以及各種AI工作負載映射策略,並且可以與不同類型的AI算法一起工作。
為了展示NeuRRAM人工智能能力的準確性,該團隊測試了它在不同任務中的運作方式。他們發現MNIST數據集的字母識別準確率為99%,CIFAR-10數據集的圖像分類準確率為85.7%,谷歌語音命令識別準確率為84.7%,貝葉斯算法的圖像重建錯誤減少了70%。
「效率、多功能性和準確性都是應用該技術時要考慮的重要方面,但要同時實現它們並不簡單。關鍵在於要從硬件到軟件整個堆棧共同優化。」Wan表示道。
目前,NeuRRAM只是一種物理概念層面的驗證,但要轉化為實際的邊緣設備則需要更多開發.
這種結合效率、準確性和執行不同任務的能力充分展示了芯片的潛力。Wan說:「也許目前它只用於執行簡單的人工智能任務,例如關鍵字定位或人體檢測,但未來它可以實現完全不同的用戶體驗。我們需要繼續改進設計並將RRAM擴展到更先進的技術節點。」
電氣工程助理教授Priyanka Raina談道:「這項工作為RRAM設備工程、內存計算的編程模型和神經網絡設計的未來研究開闢了多種途徑,同時能夠使該技術可擴展並供軟件開發人員使用。」
如果成功,像NeuRRAM這樣的RRAM內存計算芯片具有幾乎無限的潛力。它們可以嵌入農田進行實時人工智能計算,根據當前土壤條件調整灌溉系統。他們也可以將VR眼鏡從功能有限的笨重形態變成更類似於Tony Stark在鋼鐵俠和復仇者聯盟電影中的虛擬屏幕。「大規模生產這些芯片會更加便宜,且適應性強、功耗低,可以用於改善我們的日常生活,如用於家庭健康監測的醫療設備。也可用於解決從氣候變化到糧食安全的各種問題。」Wong總結道。
本文由全球物聯網觀察轉載自「CSDN」,內容為作者獨立觀點,不代表全球物聯網觀察立場。僅供交流學習之用,如有任何疑問,敬請與我們聯繫info@gsi24.com。
西門子線上研討會來啦!
掃碼預約會議,還可參與現金紅包抽獎,中獎率100%哦!
大家都在看
摩芯半導體:賦予汽車靈魂以「芯大腦」
最新!2022年國產功率半導體選型指南
專注於存儲芯片,宏旺微樹立民族品牌形象
對話存儲芯企:市場降溫?新的需求增長點在這!
芯象半導體:專注於高集成度數模混合SoC通信芯片設計
領慧立芯:志在成為高性能模擬及混合信號芯片行業的領軍者
芯佰微:給客戶提供實用性高、技術領先的計算機信息系統集成方案

點「在看」為物聯網產業加油!