科大讯飞相关人员透露他们在用华为的芯片。目前华为昇腾910代表昇腾系列AI新品的最强算力,是V100的2倍以上,略微超A100/A800 80G PCIe版本,但是相比H100/H800仍有不小的差距。
在超算领域,双精度浮点计算能力FP64是进行高算力计算的硬性指标,A800和H800同时具备,而昇腾没有。
从AI整体看来,昇腾芯片的适配性、资源限制和生态系统还有很大提升空间,NVIDIA的适配性更广,生态更成熟。
华为昇腾只能用于华为自身生态中的大模型业务,比如昇腾不能做GPT-3,因为昇腾910不支持32位浮点,而目前大模型训练几乎都要使用32位的浮点,所以华为昇腾芯片只能利用华为开发的框架(如MindSpore),在加上优化好的大模型,比如盘古CV。任何公开模型都必须经过华为的深度优化才能在华为的平台上运行,所以我们可以理解为华为只能运行自己闭环的大模型产品。
|