性能超英伟达A100华为高管近半中国大模型选择昇腾技术路线
• 阅读 0
6月18日消息,在近日举行的2024世界半导体大会暨南京国际半导体博览会上,江苏鲲鹏・昇腾生态创新中心的首席运营官王陶披露了昇腾集群的最新进展。据王陶介绍,昇腾集群已经完成了训练千亿参数大模型的技术路线,其性能更是超越了业界知名的英伟达A100。
在中国众多的大模型中,近半数选择了昇腾技术路线,这足以彰显其在AI领域的强劲实力。王陶进一步指出,昇腾AI芯片在训练效率上最高可以达到英伟达芯片的1.1倍。更令人瞩目的是,在训练如meta Llama、BloomGPT等大型模型时,昇腾AI的算力训练效率远超英伟达A100,甚至达到了其他国产友商的10倍。
王陶骄傲地表示,昇腾目前已经成为了国产化大模型的首选。他举例说,科大讯飞在经过严格测试后,也采纳了华为的万卡集群方案。与英伟达A100相比,该集群在效率上能达到0.8至1.2倍。尽管在某些方面与英伟达A100还存在微小差距,但在大模型训练领域,昇腾已经与英伟达A100芯片不相上下。特别是在万卡算力集群的实践应用上,无论是鲲鹏云脑还是科大讯飞,都已经过了市场的严格检验。
据了解,此前在华为全连接大会2023上,华为发布了一款全新架构的昇腾AI计算集群——Atlas 900 SuperCluster,该集群可支持超过万亿参数的大模型训练。其创新之处在于采用了华为全新的星河AI智算交换机CloudEngine XH16800,利用该交换机高密度800GE端口的能力,仅通过两层交换网络就能实现2250节点(相当于18000张卡)的超大规模无收敛集群组网。这一技术突破无疑进一步巩固了昇腾在AI领域的领先地位。