《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業界動態 > AI芯片飛速發展 算法也需不斷優化

AI芯片飛速發展 算法也需不斷優化

2017-08-05

在深度學習的領域里,最重要的是數據運算。誰的數據更多,誰的運算更快,誰就會占據優勢。因此,在處理器的選擇上,可以用于通用基礎計算且運算速率更快的GPU迅速成為人工智能計算的主流芯片

2017年度GTC技術大會上,英偉達推出了他們公司最新研發的GPU——Volta。該芯片的核心是一款稱為“Tensor Core(張量處理器)”的人工智能加速器,這是開發下一階段AI應用的硬件保障。然而,我們需要升級軟件,更新AI算法,其原因有兩點:一是現有的AI算法不能充分利用這個加速器的性能,二是為了獲得AI開發中另外的突破。

1501837268317074577.jpg

如果我們能充分利用這種新代芯片,不僅將大大推進AI應用的進展,甚至可能會創建新的AI應用。比如說,AI算法可以利用該種芯片的高速運行速度,來更好地理解和綜合分析人類語言。語音識別系統將極大地完善,音頻的轉錄將更加準確,計算機將會有能表現出語言風格和情感的語音系統。

有許多公司已經認識到了AI所具有的巨大潛力,還研發出了強大的芯片,以期獲得AI的廣泛應用。例如,英偉達開發的 GPU以及谷歌研發出的TPU。

這些芯片有一個共同點,就是它們都根據程序局部性原理來不斷優化算法。為了獲得局部性優勢,需要AI芯片和AI算法的共同支持。目前,新興的AI芯片已經可以為此提供基礎框架(例如Volta的“Tensor Core”),但是更多的AI算法還沒有獲得與這種芯片的相應升級。通俗地說,當下通行的算法不能充分利用到該芯片的高速運行速度。

AI芯片的第一階段是并行驅動,即同時執行多種任務。

在海量數據集上訓練大型神經網絡可以充分展示其易被現有并行芯片利用的顯著并行性。然而,目前來看,內存提取性能的發展遠遠不能滿足人們的需求。最終這些新芯片會面臨“內存墻”的困境,即內存性能會嚴重限制芯片性能的發揮。

為了進入到下一階段,AI芯片仍要在局部性上下功夫。局部性可以體現為重復引用同一個變量。打個比方,您在雜貨店里購物,您要按照購物清單買東西,清單一共列有10件商品,您如果想加快尋獲商品的速度的話,可以請10個朋友,讓他們分別找到1件清單上商品。這種方法雖然是并行驅動的,但效率也非常低下,因為清單上不同的物品可能擺在一起,這就會產生讓不同的朋友來找尋相鄰物品的情況,從而降低了效率。一個更好的辦法是讓每個朋友去一個不同的過道,并只找那個過道的物品。這就是局部性解決目前“內存墻”困境的方式。

新代AI芯片需要具有顯著局部性特點的算法相適應。目前,并不是所有的AI算法都能勝任這一任務,因為它們不具備顯著的局部性。計算機視覺算法由于其大量使用卷積神經網絡而在局部性上顯有優勢,但語言和語言應用中所使用的復現神經網絡則需要稍加變動(尤其要對其推理能力進行優化),以改善其局部性。

在百度的硅谷AI實驗室,研究人員嘗試了幾種完善算法的方式,來挖掘局部性的潛力。早期的實驗顯示出了我們非常可能克服這一困難的跡象。例如,研究人員發展了RNN網絡,讓其在低批量大小下達到了30倍速的提升。這開了一個好頭,但未來AI芯片的性能還要有更大的提升。另一個研究方向是整合了來自卷積和復發神經網絡的想法得來的,但這個方向的最優解還在后頭。

深度學習的AI算法計算有限,迄今為止的突破都是得益于運算速度更快的計算機的出現。然而,當下的算法已經取得了突破性進展,而且已經在語音識別,機器翻譯和人類語音綜合方面得到了成果。目前,進行下一階段AI算法研發的硬件已經到位。早期實驗中的種種跡象表明——我們正處于下一代算法開發的前端。預計下一代算法能充分利用目前AI芯片的性能,并且可以引領我們得到其他方面的突破。


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 色综合67194| 三级黄色毛片视频| 狠狠久久永久免费观看| 国产免费爽爽视频免费可以看| 99精品在线视频| 无码AV免费毛片一区二区| 亚洲人成无码网站久久99热国产| 第一福利官方导航| 国产免费久久精品99久久| 91国高清视频| 婷婷国产偷v国产偷v亚洲| 久久电影网午夜鲁丝片免费| 欧美色图亚洲自拍| 出租房换爱交换乱第二部| 高h视频免费观看| 国产精品无码无片在线观看| www久久只有这里有精品| 精品国产亚洲一区二区三区在线观看| 国产福利不卡视频| avtt在线观看| 成全视频在线观看免费高清动漫视频下载| 亚洲av日韩综合一区尤物| 波多野结衣办公室| 午夜三级三级三点在线| 高清色黄毛片一级毛片| 成人深夜福利视频| 久青草影院在线观看国产| 毛片在线免费视频| 午夜在线播放免费高清观看| 黑冰女王踩踏视频免费专区| 国产美女在线观看| lisaannvideos办公室| 无码a级毛片日韩精品| 久草网在线视频| 欧美日韩中文国产一区二区三区 | 国产成人18黄网站麻豆| 888亚洲欧美国产VA在线播放| 女人让男人桶app免费大全| 中文字幕免费在线看线人动作大片| 日韩三级中文字幕| 亚洲AV无码专区在线亚|