全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

居中消融:为何末层方向消融会欠触发或崩塌,以及闭式修复方案

Directional ablation removes a hidden state's component along a "behaviour direction" while a language model runs. It is the standard way to switch a behaviour such as refusal off, but it is erratic: on some models it barely fires, on others the text collapses into repetition. We show why, and fix it. At the last resid

阅读原文 · Quy-Anh Dang, Chris Ngo

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

这篇论文盯上的是语言模型可解释性里一个很常用的操作: 方向消融 。想关掉模型的某种行为,比如拒答,常见做法是在隐藏状态里把某个“行为方向”减掉。问题是这个操作一直不太稳,有的模型上几乎没反应,有的模型上文本直接崩成复读机。 作者说他们搞清楚了为什么会这样,还给了个闭式解。 如果你在做安全对齐、行为编辑,或者用过激活干预这类手段,这篇值得先扫一眼。 这篇论文想...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出

分享海报

正在生成海报…

主题

字体

开源字体第一次使用时联网下载,只取海报上用到的字。