科技频道 英国AI芯片创企发力中国训练推理赛道,7月新品覆盖“云

动漫周边 2021-09-05106未知admin

  原标题:英国AI芯片创企发力中国训练/推理赛道,7月新品覆盖“云边端”

  

  智东西(:zhidxcom)

  文 董温淑

  智东西7月28日消息,今天,英国AI芯片创企Graphcore的高级副总裁兼中国区总经理卢涛、Graphcore技术应用总负责人罗旭与智东西等分享Graphcore产品的性能及Graphcore在中国的市场策略。

  Graphcore成立于2016年,经过4年潜心研究,专为AI任务打造的第一代IPU(智能处理单元)于2019年落地。本月中旬,Graphcore发布其第二代IPU产品。卢涛称,在运行图像分类训练任务时,8个基于IPU的刀片机性能相当于16个NVIDIA DGX A100 GPU,且价格更为低廉。

  卢涛称,中国市场作为AI芯片发展的一个重要市场,也是Graphcore布局的重点。Graphcore将通过寻求云合作伙伴、OEM合作伙伴、渠道合作伙伴布局中国市场。

  据悉,今年7月份以来,Graphcore接连推出多款软硬件产品,致力于在计算、数据、通信三方面实现性技术突破。

  一、IPU MK2:比MK1系统性能提升8倍以上

  Graphcore推出的IPU(智能处理单元)是一种专为AI训练、推理任务设计的新型处理器,采用大规模并行同构众核架构,卢涛将其描述为“世界上最复杂的处理器”。

  

  Graphcore第一代IPU MK1于2019年推出,据称相比NVIDIA V100 GPU,能将自然语言处理(NLP)处理速度可提升20%~50%,为图像分类带来6倍的吞吐量而且是更低的时延,在一些金融模型方面训练速度能够提高26倍以上。

  第二代IPU MK2采用台积电7nm制程技术,在823平方毫米的上集成594亿个晶体管,算力可达250TFlops,具有900MB处理器内存储,采用1472个处理器内核、8832个单独的并行线程。

  相比第一代IPU MK1,IPU MK2系统性能提升了8倍以上。相比MK1,MK2达到2倍以上的吞吐量峰值、6倍以上的处理器内有效存储,具有超过446GB的IPU-Machine流存储,支持用于大规模横向扩展的IPU-Fabric横向扩展结构。

  

  

  为了优化通信效果,Grapgcore采用专为AI设计的横向扩展结构IPU-Fabric。该结构能达到2.8Tbps的超低时延,支持000个IPU之间的横向扩展,可直接连接和/或通过以太网交换机连接,支持和全缩减操作。

  卢涛称,在运行AI任务时,数据稀疏性越高,IPU的优势越明显。随着数据稀疏性升高,科技频道IPU性能可领先GPU 10倍~50倍。

  

  

  另外,M2000的配置具备“弹性”,从配置1个M2000到配置个M2000均可。

  

  IPU-POD可无缝扩展多达000个IPU,这些IPU作为一个整体或作为的细分分区,可以处理多个工作负载以及满足不同用户需求。

  

  IPU-POD参考架构可进行大规模、分散的横向扩展,从而将高性能的机器智能计算扩展到超级计算规模。

  三、IPU者云:支持5种先进AI模型训练、推理任务

  IPU者云支持一些当前最先进和复杂的AI模型的训练和推理。具体包括:

  1、自然语言处理类,比如BERT;2、高级计算机视觉应用类,即以分组卷积为代表的一些机器视觉类的应用,比如ResNeXt、EfficientNet、ResNet;3、时序类,比如LSTM、RNN、GRU等大量应用于应用、推荐、金融算法的模型;4、排名与推荐类,比如Deep Autoencoder;5、概率模型,比如MCMC等用于算法交易的模型。

  

  目前,Graphcore IPU者云面向商业用户评测、高校研究项目、部分个人者提供免费试用。

  四、Poplar SDK:已开源计算图库源代码

  The Poplar SDK 1.2与领先的机器学习框架集成,科技频道具有强大灵活的低级别API,增强了用于IPU上的PyTorch和Keras框架支持,具备新的库支持和功能,可用于改善机器学习模型的性能,支持用TensorFlow和PopART中的多机数据进行并行训练,公开Exchange-Memory的管理功能。科技频道

  目前,Graphcore Poplar计算图库源代码已经开源,并可在GitHub上使用。罗旭称,Poplar工具将助力各位者“创建下一代机器智能”。

  

  结语:Graphcore发力全球市场,将开设东京办公室

  经过前期的潜心研发,Graphcore的IPU产品已迭代至第二代。与GPU不同,Graphcore研发的IPU是专为AI任务设计的处理器,在运行特定AI任务时性能优于传统的GPU。

  卢涛指出,目前Graphcore还未实现盈利,但对于一个新产品来说,前期的大量投入是不可避免的。他认为随着AI训练、推理的发展,IPU将拥有更大的市场。

  在产品更新迭代的同时,Graphcore开始在全球市场布局。目前,Graphcore在全球拥有13个分支机构,下一步计划在日本东京开设办公室。

  

原文标题:科技频道 英国AI芯片创企发力中国训练推理赛道,7月新品覆盖“云 网址:http://www.wzhuazhong.cn/a/dongmanzhoubian/2021/0905/247692.html

网站首页 新闻中心 动漫人物 动漫资讯 动漫作品 动漫周边 动漫杂志 动漫电影 中国动漫 日本动漫 欧美动漫 国内新闻 国际新闻 时事新闻 财经新闻 娱乐新闻 体育新闻 科技新闻 数码新闻 汽车新闻

Copyright © 2002-2013 哗终动漫网 版权所有  

联系QQ:1352848661