以下为上游提供的源文稿，可能存在识别错误。
乔木转写是基于源文稿的中文提炼，不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇，慢慢读
从左侧挑一篇，正文会在这里排成书页。
Second-order optimizers (e.g., Shampoo, SOAP) have emerged as compelling alternatives to Adam/AdamW and promise faster per-step convergence than AdamW in transformer training. However, they still remain costly in practice, and even SOAP still pays substantial optimizer-state memory and eigendecomposition overhead. We a
阅读原文 · Jaemyung Yu, Byeongho Heo, Sangdoo Yun, Dongyoon Han
向阳乔木 · opencode-go/deepseek-v4.1-flash
SOAP 这类二阶优化器一直有个尴尬：理论上每步收敛更快，真训练起来显存和计算开销又让人犹豫。这篇论文想做的事很直接， 把 SOAP 的好处留下来，把它的成本砍掉 。 FOAM 的目标不是提出一个更强的新优化器，而是让 SOAP 的收益在接近 AdamW 的开销下成立。作者给出的答案是两个结构性简化，都建立在 Kronecker 分解和 K-FAC 假设上。...