全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

DecisionRank:面向决策模型重排器的同策略蒸馏

Decision models target structured tasks by directly predicting choices or scores, avoiding autoregressive decoding latency. However, transferring a generative LLM's ranking knowledge to a decision model remains challenging: the teacher expresses preferences through a ranked list of document ID sequences, while the stud

阅读原文 · Yanran Wu, Dian Yu, Chongyang Bai, Jieyi Zhang, Rui Liu, Tianyi Chen, Shike Mei, Hang Cui, Frank Shyu, Sandeep Pandey, Luke Simon, Chunwei Liu, Xi Liu

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

排序模型这块,生成式 LLM 做 listwise 重排效果好,但推理慢,因为它得自回归地把文档 ID 一个个吐出来。DecisionRank 想做的事很直接: 把这份排序知识塞进一个只做打分、不做生成的决策模型里,同时把速度拿回来。 难点在于两边的“表达方式”对不上。老师用一串文档 ID 的排序列表表达偏好,学生只在首 token 位置输出分数。硬把生成模...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出