阿里含光800 AI处理器亮相三大场景应用性能远超GPU提升人物识别体验4-11倍
在2023年的阿里云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋再次推出了公司的自研AI芯片——含光800。尽管这款芯片已经在去年发布，但它依然引起了广泛关注，因为它不仅代表了科技巨头自主研发芯片的趋势，而且也展示了阿里的AI技术实力。
一年之后，今年的线上云栖大会中，有一个特别的论坛，专门讨论了含光800芯片设计发展现状与未来的展望。龙欣，阿里云异构计算产品研发总监，他分享了近一年来含光800推出后的最新进展。
他表示：“包含8核NPU和96核vCPU、384G内存以及网络带宽最高达到30Gbit/s”的ebman1.24xlarge实例现在已经正式对外服务，不需要白名单就可以购买。这款高性能处理器主要面向数据中心中的CNN类型模型推理加速，适用于城市大脑、图像视频审核和拍立淘等业务场景。”
虽然含光800尚未对外发售，但其性能通过阿里云输出已得到了验证。在实际应用中，它表现出色的特点包括深度优化CNN及视觉类算法，加速卷积和矩阵乘，以及针对特定模型如ResNet-50、SSD/DSSD、Faster-RCNN等进行优化。
至于具体应用中的表现，比GPU提升4-11倍，这一点在昨天的分享中得到强调。在城市大脑应用中，只需4颗含光800即可完成杭州主城区交通视频实时处理，而传统GPU则需要40颗；拍立淘商品库每天新增10亿商品图片，从1小时缩短至5分钟使用含光800后。此外，在行人检测和车辆检测等场景下，也有相似的提升效果。
此次分享没有提供语言领域如语音交互或自然语言理解方面具体示例。不过，从其他场景看来，对比GPU性能提升4-11倍，这款自研芯片显示出了其在AI计算上的巨大潜力。然而，与去年相比，此次共享信息较少，并且可能受到当前贸易紧张关系所影响。尽管如此，我们仍期待着未来更多关于这一新兴技术的大型落地案例，以及下一代AI芯片何时问世。
