近年来，基础大模型和多模态模型快速发展，科研与产业应用随之迭代。训练与微调阶段采用的优化算法，直接影响算力利用效率、训练周期和结果质量。长期以来，深度学习训练多以随机梯度下降及其变体为主，优点是实现简单、适用面广，但在大规模、分布式训练以及异质数据条件下，收敛速度、稳定性和理论可解释性都面临更大压力。如何在更接近真实数据分布与算力约束的环境中，构建更稳定、更高效、并行友好的优化框架，已成为提升大模型训练“工程效率与理论可靠性”协同水平的重要议题。
从“算得动”到“算得快、算得稳、算得省”，训练优化器的演进正在改变大模型研发的成本结构与迭代节奏；此次研究把优化理论、分布式异质性挑战与工程可实现性放在同一框架下推进，为缓解大规模训练瓶颈提供了新的思路，也提示我们：基础方法的持续突破，往往是推动应用范式变化的重要变量。