7月28日消息，日前，2025世界人工智能大會（WAIC）在上海開幕，華為首次展出被稱為“算力核彈”的昇騰384超節(jié)點真機，即Atlas 900 A3 SuperPoD。
華為表示，昇騰384超節(jié)點被評選為本次WAIC 2025鎮(zhèn)館之寶。
昇騰384超節(jié)點通過高速互聯(lián)總線，突破互聯(lián)瓶頸，讓超節(jié)點像一臺計算機一樣工作。
相比傳統(tǒng)集群，主要有以下3大優(yōu)勢：
超大帶寬
超節(jié)點內(nèi)任意兩個AI處理器之間通信帶寬，相較于傳統(tǒng)架構(gòu)提升15倍，超節(jié)點內(nèi)單跳時延降低10倍。
超低時延
昇騰超節(jié)點支持全局內(nèi)存統(tǒng)一編址，具備更高效的內(nèi)存語義通信能力。通過更低時延指令級內(nèi)存語義通信，可滿足大模型訓練/推理中的小包通信需求，提升專家網(wǎng)絡(luò)小包數(shù)據(jù)傳輸及離散隨機訪存通信效率。
昇騰384超節(jié)點是業(yè)界唯一突破Decode時延15ms的方案，滿足實時深度思考下的用戶體驗需求。
超強性能
經(jīng)過實際測試，在昇騰超節(jié)點集群上，LLaMA3等千億稠密模型訓練性能可達傳統(tǒng)集群的2.5倍以上。
在通信占比更高的Qwen、DeepSeek等多模態(tài)、MoE模型上，可以達到3倍以上的提升。
據(jù)了解，昇騰384超節(jié)點首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián)，形成一臺超級“AI服務(wù)器”，其算力總規(guī)模達300Pflops，是英偉達NVL72的1.7倍。
網(wǎng)絡(luò)互聯(lián)總帶寬達269TB/s，比英偉達NVL72提升107%；內(nèi)存總帶寬達1229TB/s，比英偉達NVL72提升113%；單卡推理吞吐量躍升到2300 Tokens/s。
