全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

比特还是排列?小型本地语言模型固定推理预算该花在权重精度还是选项顺序平均上

Local language models can save memory by storing weights in fewer bits, and they can reduce sensitivity to the order of answer options by averaging a few reorderings. We ask whether the first makes the second worse, and which is the cheaper way to spend a fixed budget. On Qwen3-0.6B and Qwen3-1.7B with simulated round-

阅读原文 · Mohammed Nayeem Khan, Logesh L, Aliyas Ahmad Misri

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

这篇论文的题目看起来有点绕,其实问的是一个很实际的问题: 本地小模型跑推理时,预算有限,你是把权重压得更低,还是多跑几遍不同的选项顺序做平均? 作者拿 Qwen3-0.6B 和 Qwen3-1.7B 做了模拟量化实验,在 ARC-Easy、ARC-Challenge、MMLU、HellaSwag 各取 300 题,只看 A 到 D 四个字母的 logits。...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出