华为发布新型AI云矩阵集群，性能胜过英伟达GB200，耗电高4倍
近日，华为推出CloudMatrix 384 AI集群系统，搭载384颗双芯片海思昇腾910C处理器，集成光互联技术，实现全光网状连接。该系统在BF16浮点性能上达到300 PFLOPS，超过英伟达GB200 NVL72 180 PFLOPS的1.7倍，内存带宽和容量也大幅领先。
然而，CloudMatrix 384的功耗高达559千瓦，比英伟达145千瓦高近4倍，能效低2.3倍。尽管如此，华为通过增加处理器数量，克服先进制程工艺受限的挑战，为中国AI训练领域提供高性能解决方案。考虑到中国部分地区较低的电力成本，华为系统在本土市场具备实用价值，助力推动国产AI基础设施发展。
Telegram 评论区
53 条回复，可以前往 Telegram 继续讨论。