以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
Directional ablation removes a hidden state's component along a "behaviour direction" while a language model runs. It is the standard way to switch a behaviour such as refusal off, but it is erratic: on some models it barely fires, on others the text collapses into repetition. We show why, and fix it. At the last resid
阅读原文 · Quy-Anh Dang, Chris Ngo
向阳乔木 · opencode-go/deepseek-v4.1-flash
这篇论文盯上的是语言模型可解释性里一个很常用的操作: 方向消融 。想关掉模型的某种行为,比如拒答,常见做法是在隐藏状态里把某个“行为方向”减掉。问题是这个操作一直不太稳,有的模型上几乎没反应,有的模型上文本直接崩成复读机。 作者说他们搞清楚了为什么会这样,还给了个闭式解。 如果你在做安全对齐、行为编辑,或者用过激活干预这类手段,这篇值得先扫一眼。 这篇论文想...