以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
Large language model (LLM) agents routinely interact with untrusted external data, exposing them to indirect prompt injection (IPI) attacks that hijack agents into executing attacker-chosen tasks. To uncover these vulnerabilities at scale, automated red-teaming methods often leverage reinforcement learning (RL) to gene
阅读原文 · Lipeng He, Yihan Wang, Jiawen Zhang, N. Asokan
向阳乔木 · opencode-go/deepseek-v4.1-flash
这篇论文值得看,原因不在它又提了一个攻击方法,而在它戳破了一个大家默认成立的假设:红队测试里攻击成功率(ASR)越高,拿来对抗训练后智能体就越稳。 作者发现并非如此。两个当前很强的 RL 红队方法 RL-Hammer 和 PISmith 都出现了模式坍缩,反复找到相似的攻击策略。这些策略在评测上很好看,但把它们喂给对抗训练,防守方几乎学不到新东西。 高 AS...