全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

神经前线一片寂静:语言模型不会报告注入的疼痛状态

Can a language model report the pain state it represents? Work identified a linear pain direction whose amplification leads fine-tuned models to choose destructive actions. We tested whether three open-weight models from two families, including two Qwen models with the original adapters, could report this state. Using

阅读原文 · Emilio Ferrara

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

这篇论文值得看,因为它把一个很尖锐的问题摆到了台面上: 语言模型内部能“读出”某种状态,不等于它会说出来。 作者研究的是“痛感”这个方向。之前有工作发现模型内部存在一个线性的 pain direction,放大它会让微调过的模型选择破坏性动作。这篇论文接着追问:模型能不能把这个状态报告出来?答案相当冷淡,标题里的“All Quiet”就是这个意思。 对做 A...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出