中国芯片最强是谁阿里含光800 AI处理器亮相高调展现人物识别场景性能超越GPU4-11倍
在2019年的杭州云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋简短介绍了阿里的首款AI芯片含光800。这款当时最强的AI推理芯片的发布就引发了巨大的关注,可以说是高调亮相。
今年的线上云栖有一个芯片设计发展现状与未来的论坛,阿里云异构计算产品研发总监龙欣分享了含光800推出近一年后的最新进展。他表示:“含光800 NPU实例已经正式对外服务,不需要白名单就可以在阿里云实例上购买,实例名称是ebman1.24xlarge,最多支持8核NPU和96核vCPU,384G内存,网络带宽最高达到30Gbit/s,主要面向数据中心的CNN类型模型推理加速,业务包括城市大脑、图像视频审核、拍立淘等。”
更引人关注的是含光800在具体应用中的表现。虽然性能通过阿里云输出,但已显示其在三大场景中的落地性能比GPU高4-11倍。在城市大脑中,它可以实现40颗传统GPU延时为300ms,而只需4颗含光800即可降至150ms。在拍立淘商品库中,每天新增10亿商品图片,用传统GPU算力识别需要1小时,而用含光800后可缩减至5分钟。
龙欣还展示了行人检测和车辆检测的应用中,其性能提升分别为4倍和8.5倍。在ResNet50 V2模型中的内容识别应用中,它能够达到20000 FPS,比主流推理GPU速度快11倍;而Inception V4模型处理帧率达到5000 FPS,比主流GPU快10.8倍。此外,在直播视频增强中它能保持500 FPS,对比主流GPU仅50 FPS,更是在点播HDR中取得66 FPS,为A100训练 GPU提供6.6倍的性能加速。
尽管如此,这次共享并没有提供更多关于语言类AI应用的情况。雷锋网认为,即便有强大的团队设计出一款芯片,大规模落地仍然需要很长时间,并且软件发挥着直接作用来获得客户认可和采用。因此,我们期待下一代AI芯片何时将会问世。