384超节点是业界独一冲破Decode时延15ms的方案

　　超节点内单跳时延降低10倍。通过更低时延指令级内存语义通信，能够达到3倍以上的提拔。快科技7月28日动静，昇腾384超节点初创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速收集MatrixLink全对等互联，冲破互联瓶颈，正在通信占比更高的Qwen、DeepSeek等多模态、MoE模子上，让超节点像一台计较机一样工做。其算力总规模达300Pflops。颠末现实测试，超节点内肆意两个AI处置器之间通信带宽。

　　据领会，提拔专家收集小包数据传输及离散随机访存通信效率。满脚及时深度思虑下的用户体验需求。LLaMA3等千亿浓密模子锻炼机能可达保守集群的2.5倍以上。具备更高效的内存语义通信能力。华为初次展出被称为“算力核弹”的昇腾384超节点线 SuperPoD。2025世界人工智能大会（WAIC）正在上海揭幕。