正在閱讀:計算記憶體結構穫重大突破 提升AI計算工作負載計算記憶體結構穫重大突破 提升AI計算工作負載

2020-12-21 00:15 出處:其他 作者:佚名 責任編輯:songshipeng

  在本次IEEE國際電子元件會議上,IBM研究院(IBM Research)公佈了在“計算記憶體結構”方面所取得的一項突破性成果,該結構可以為混合雲平台中的人工智能計算工作負載實現卓越的性能水平。

  研究人員開發出了號稱第一個嵌入式磁阻隨機存取存儲器(Magnetoresistive Random-Access Memory)技術,採用14納米結構,並稱其是Spin Transfer Torque MRAM(STT-MRAM),這一新結構有助於解決數據密集型混合雲和AI工作負載中的關鍵記憶體瓶頸。

  IBM在博客文章中表示,隨著企業將那些要求最苛刻的工作負載遷移到混合雲平台,他們將面臨“計算記憶體瓶頸”的問題,這是由於系統中處理器比現有記憶體系統速度快得多而導致記憶體短缺的問題。

  IBM表示,這種新型STT-MRAM結構可以解決記憶體和處理器之間的瓶頸,實現更高的記憶體性能。

  STT-MRAM利用電子自旋將數據存儲在磁疇中,並將靜態RAM的高速度與傳統DRAM的更高密度結合在一起,從而提供了一種更可靠的記憶體結構。IBM表示,最後一級CPU緩存中部署STT-MRAM,將可以減少數據密集型工作負載所需的記憶體讀寫操作,從而降低系統延遲和功耗,同時增加帶寬。

  IBM在今日發表的白皮書中稱,這項14納米嵌入式STT-MRAM CMOS技術是有史以來最先進的MRAM系統,將為混合雲中的AI工作負載提供一個“效率更高、性能更高的系統”。

  IBM在另外一份白皮書詳細介紹了這個新型結構所使用的高級磁性材料,這種材料讓STT-MRAM系統具有更高的密度,存儲量是原來的兩倍,從而大大提高了數據恢復性能。

  IBM還透露了有關“模擬記憶體計算”研究的最新資訊,這種技術將計算和記憶體結合到單一設備中,用於處理要求更為苛刻的AI工作負載。IBM說,這種專有硬體可以用於訓練越來越複雜的AI模型,能效大幅提升。

  打造用於AI的專用模擬記憶體計算硬體,面對的挑戰之一,就是“突觸權重映射問題”。突觸權重用於指示神經網路中兩個節點之間的連接強度,需要將其精確地映射到模擬非易失性記憶體設備上,以實現深度學習推理,但做到這一點面臨巨大挑戰,IBM說.

  IBM在第一份題為《相變記憶體設備中進行深度學習推理程式設計的突觸權重精確度》白皮書中討論了依賴於脈衝編碼調制的、基於模擬電阻的存儲設備如何用於解決這一映射難題,並描述了一種透過分析和透過陣列級實驗準確映射突觸權重的方法。

  在另外一份題為《“無輔助的真實模擬神經網路訓練晶片》的白皮書描述了IBM模擬神經網路晶片的概念,其本質上是一種“電阻處理單元”(RPU),具有出色的即時性能,堪比同類的數字系統,從而在運行AI推理時可實現承諾的“模擬優勢”。

 
一文讀懂 投影機和雷射電視區別究竟在哪?
印表機成為家庭的剛需 成本問題該如何兼顧? 周末宅家已成常態?用投影看電影是個不錯的選擇 企業最大的安全困擾 勒索軟體還未消滅的五大原因 知名廠商遭勒索病毒攻擊 張口竟索要數千萬美金

為您推薦

加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
加載更多

網路設備論壇帖子排行

最高點擊 最高回覆 最新
最新資訊離線隨時看 聊天吐槽贏獎品