#分布式训练

训练超大模型时，数据并行、张量并行、流水线并行与 ZeRO 分别解决什么问题？

2026-08-11