全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

知道何时该教:从多语言推理蒸馏中的可教前缀学习

On-Policy Self-Distillation (OPSD) improves reasoning by training a student on its own reasoning, using the same model conditioned on reference solutions as a teacher. Applying OPSD to multilingual reasoning requires the teacher to provide useful feedback across languages, even when the student makes mistakes in interm

阅读原文 · Jaewon Cho, Minseo Yoon, Jinyoung Park, Jinwoo Seo, Jaewon Chu, Alice Oh, Hyunwoo J. Kim

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

多语言推理蒸馏里有个容易被忽略的细节:老师模型不一定一直在教对的东西。 这篇论文盯的就是这件事。作者在 On-Policy Self-Distillation(OPSD)框架下观察到一个现象,学生模型自己推理出错之后,老师模型会顺着学生的错误步骤往下走,而不是把它拉回来。他们把这个现象叫 Teacher Drift ,并且发现低资源语言里漂移来得更早。 如果...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出