Posted 2026-07-23Updated 2026-07-23Artificial Intelligence10 minutes read (About 1542 words)DeepSpeed Communication Compression and Hiding 导言 通信优化只有两条基本路线:少传,或让传输不再暴露在关键路径。1-bit Adam/LAMB 与 0/1 Adam 属于前者,Domino 属于后者。前者改变数值算法,后者改变调度;两者的正确性风险和验收方式完全不同。 Read more
导言 通信优化只有两条基本路线:少传,或让传输不再暴露在关键路径。1-bit Adam/LAMB 与 0/1 Adam 属于前者,Domino 属于后者。前者改变数值算法,后者改变调度;两者的正确性风险和验收方式完全不同。
2027-03-15Building Large-Scale AI Systems on Ascend: Training, Inference, and Multimodal OptimizationOverview