Visit our new website: worldnews.easybranches.com

英特尔Nervana神经网络处理器架构更新:带宽超越Tbps

  • Thu, 07 Dec 2017 13:13

今年早些时候,英特尔展示了其在神经网络处理器(NPU)研发上的最新进展。新设计的芯片,其在机器学习和人工智能性能上远超通用型处理器,且会努力推向市场。英特尔人工智能产品事业部副总裁 Carey Kloss 对 Nervana 架构的改进进行了解释,首先是理解一个神经网络(NNP)必须做些什么。使用神经网络训练一台机器,需要大量的内存和算数运算,才能产生有效的输出。

扩展性、能耗、最大负荷,也是 Nervana 空间架构的主要考虑因素。为了最大限度地节省能源,除非绝对必要,否则数据不应在系统内移动;矢量数据可以在内存模块之间进行分割,让数据总是接近最需要它的地方。

随着高带宽内存(HBM)的部署,片上和外埠内存之间的带宽可以超过 1TB/s 。尽管这是一个令人印象深刻的数字,内存带宽仍然是深度学习工作负载的一个限制因素。

鉴于英特尔无法等到新式内存技术的到来,于是只能在其它方面运用一些创造性的开发方法。比如使用软件控制内存,允许在内存从一次加载来自外存的信息,然后在本地内存模块之间转移数据。

每个模块大约有 2MB 空间,每个 Nervana 芯片合计约 30MB 。减少读取外部内存的操作,有助于防止内存带宽饱和、且允许对下一操作所需数据集进行预取。

Flexpoint 数据类型的一项更新,可在仅 16-bit 的存储上,实现近似于 32-bit 浮点操作的性能。位宽开销减半之后,有效内存带宽可轻松翻倍。当然 Flexpoint 也是模块化的,因此未来的 Nervana 能够进一步减少操作所需的 bit 数。

最后,芯片和外部组件之间的通信,也得到了双向(Tbit 级)的极大改善。在高速通信的保障下,一簇 Nervana 芯片可被当做一个整体,用于单项任务工作。

[编译自:TechSpot]

cnBeta.COM业界资讯

Tags


US Weekly

Related Stories

[图]升级iOS 11.2.6后AirPods出现各种问题?重新配对可修复
  • Thu, 22 Feb 2018 09:15

有部分用户在社区报告,在iPhone端升级至最新的iOS 11.2.6更新之后已经连接配对的AirPods出现了很多奇怪的问题,不...

苹果发布公测版 iOS 11.3 Public beta 3
  • Thu, 22 Feb 2018 07:19

与以往一样,在开发者测试版系统更新推出的一天之后,苹果今天凌晨向公测用户推送了 iOS 11.3 public beta 3。参与...

瑞典戰車奇蹟!「台灣神A」帥倒車遭VOLVO撞上 結果車主崩潰
  • Thu, 22 Feb 2018 06:16

戰神!有網友目擊一場神奇車禍,有瑞典國寶之稱的Volvo(富豪)休旅車在路口處遭砂石車追撞,後玻璃碎裂一地...

磁鐵「吸鐵塊變化」測地震?民眾連署查地磁資料!氣象局回應了
  • Thu, 22 Feb 2018 03:13

自稱為地震預測家、台灣地震預測研究所長林湧森於「公共政策網路參與平臺」提議,政府應公開即時地磁訊號圖...

1日100件扛到腿軟!郵差送貨爬樓梯 提案漲價「1層加10元」
  • Thu, 22 Feb 2018 02:14

中華郵政因為有貨運到家的服務,規定包裹、快捷都要送到家,不少民眾都會網購食物、飲料,就算超過10公斤,...

走蘇花改省時又安全!遊覽車硬闖 乘車集資「每人20元」代罰
  • Thu, 22 Feb 2018 01:15

蘇花改「蘇澳-東澳段」目前只開放小型車使用,因此引發了其他用路人不滿,曾經就有重機騎士試圖硬闖,現在...

阻絕病衰自立樂齡 成醫積極推廣高齡照護
  • Thu, 22 Feb 2018 00:12

83歲姜爺爺原本是勇健老年人,各種農務日皆難不倒他,但去年一場車禍造成脾臟破裂進行大手術,術後身體功能...

洋男喝醉後坦言愛上台女原因 「不是EZ!」答案仍讓她心碎了
  • Wed, 21 Feb 2018 23:12

《詳全文...》 ETtoday 生活新聞

台大要管中閔上任 教育部:事情講清楚,我們能不作為嗎?
  • Wed, 21 Feb 2018 19:14

台大自主行動聯盟在21日有200人上到凱道、教育部前抗議,要求讓管中閔盡速上任,質疑「公文卡在教育部,故意...

苹果正在与矿企磋商 直接采购电池原料钴
  • Wed, 21 Feb 2018 18:19

知情人士称,苹果公司正在展开磋商,寻求首次直接从矿企长期采购重要电池原料钴,确保充足供应。科技行业担...

研究人员展示室内激光无线充电新技术
  • Wed, 21 Feb 2018 17:13

蓝牙和 Wi-Fi 已经让人们享受了多年的便利,但是无线充电技术却一直在充电功率和传输距离上拖着后腿。好消息...

研究人员展示室内激光无线充电新技术
  • Wed, 21 Feb 2018 15:15

蓝牙和 Wi-Fi 已经让人们享受了多年的便利,但是无线充电技术却一直在充电功率和传输距离上拖着后腿。好消息...


新聞分類