未來異型自動插件機技術趨勢發(fā)展分析

    作者:wenwen 發(fā)布時間:2018-12-14 點擊數:

            目前主流異型自動插件機AI芯片的核心主要是利用MAC(MultiplierandAccumulation,乘加計算)加速陣列來實現對CNN(卷積神經網絡)中最主要的卷積運算的加速。這一代AI芯片主要有如下3個方面的問題。

            (1)異型自動插件機深度學習計算所需數據量巨大,造成內存帶寬成為整個系統(tǒng)的瓶頸,即所謂“memorywall”問題。

            (2)與第一個問題相關,內存大量訪問和MAC陣列的大量運算,造成AI芯片整體功耗的增加。

            (3)異型自動插件機深度學習對算力要求很高,要提升算力,最好的方法是做硬件加速,但是同時深度學習算法的發(fā)展也是日新月異,新的算法可能在已經固化的硬件加速器上無法得到很好的支持,即性能和靈活度之間的平衡問題。

            因此,可以預見異型自動插件機下一代AI芯片將有如下的五個發(fā)展趨勢。

            (1)更高效的大卷積解構/復用

            在標準SIMD的基礎上,CNN由于其特殊的復用機制,可以進一步減少總線上的數據通信。而復用這一概念,在超大型神經網絡中就顯得格外重要。異型自動插件機如何合理地分解、映射這些超大卷積到有效的硬件上成為了一個值得研究的方向,

            (2)更低的Inference計算/存儲位寬

            AI芯片最大的演進方向之一可能就是神經網絡參數/計算位寬的迅速減少——從32位浮點到16位浮點/定點、8位定點,甚至是4位定點。在理論計算領域,2位甚至1位參數位寬,都已經逐漸進入實踐領域。

            (3)更多樣的存儲器定制設計

            當計算部件不再成為神經網絡加速器的設計瓶頸時,如何減少存儲器的訪問延時將會成為下一個研究方向。通常,異型自動插件機離計算越近的存儲器速度越快,每字節(jié)的成本也越高,同時容量也越受限,因此新型的存儲結構也將應運而生。

            (4)更稀疏的大規(guī)模向量實現

            神經網絡雖然大,但是,實際上有很多以零為輸入的情況,此時稀疏計算可以高效的減少無用能效。來自哈佛大學的團隊就該問題提出了優(yōu)化的五級流水線結,在最后一級輸出了觸發(fā)信號。在Activation層后對下一次計算的必要性進行預先判斷,如果發(fā)現這是一個稀疏節(jié)點,則觸發(fā)SKIP信號,避免乘法運算的功耗,以達到減少無用功耗的目的。

            (5)計算和存儲一體化

            異型自動插件機計算和存儲一體化(process-in-memory)技術,其要點是通過使用新型非易失性存儲(如ReRAM)器件,在存儲陣列里面加上神經網絡計算功能,從而省去數據搬移操作,即實現了計算存儲一體化的神經網絡處理,在功耗性能方面可以獲得顯著提升。

            以上就是小編關于未來異型自動插件機技術趨勢發(fā)展分析的介紹,希望對大家有用哦!

    責編:文文
    加入收藏
    主站蜘蛛池模板: 精品国产黑色丝袜高跟鞋| 亚洲愉拍99热成人精品热久久| 久久精品成人| 91精品国产综合久久久久久| 亚洲国产精品13p| 国产精品成| 成人精品一区二区三区中文字幕| 无码8090精品久久一区| 91热成人精品国产免费| 国产精品三级国产电影| 一本久久a久久精品综合香蕉| 国产国产成人久久精品| 国产精品www| 精品熟女少妇a∨免费久久| 亚洲国产精品自在拍在线播放| 国产精品一区三区| 四虎精品8848ys一区二区| 成人精品综合免费视频| 久久久久久国产精品无码超碰| 亚洲国产成人精品无码久久久久久综合| 国产区精品高清在线观看| 99热都是精品久久久久久| 国产92成人精品视频免费| 久久久久国产精品熟女影院| 尤物国精品午夜福利视频| 欧美精品区一级片免费播放| 国产乱人伦精品一区二区在线观看| 精品亚洲欧美高清不卡高清| 日韩欧精品无码视频无删节 | 久久精品国产亚洲av瑜伽| 香蕉国产精品频视| 中文精品久久久久国产网址| 国产精品福利网站导航| 国产成人精品日本亚洲11| 国产精品自在线拍国产| 国产精品无码久久久久久| 国产久热精品无码激情| 99免费精品视频| 精品久久777| 中文字幕亚洲精品资源网| 911亚洲精品国产自产|