CVPR Oral | 南京大学李武军教授课题组推出分布式训练算法UniAP，大模型训练最高加速3.8倍

李武军教授团队研发了高效能分布式训练算法 UniAP，该算法能联合优化层内和层间并行策略，显著提升大模型训练效率并降低成本。UniAP 基于混合整数二次规划进行建模，并通过自动搜索找到最优的分布式训练方案，已在实验中显示出比现有方法更高的训练速度和更低的成本。