全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

PIPETTE:面向鲁棒 LLM Agent 的提示注入紫队测试

Large language model (LLM) agents routinely interact with untrusted external data, exposing them to indirect prompt injection (IPI) attacks that hijack agents into executing attacker-chosen tasks. To uncover these vulnerabilities at scale, automated red-teaming methods often leverage reinforcement learning (RL) to gene

阅读原文 · Lipeng He, Yihan Wang, Jiawen Zhang, N. Asokan

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

这篇论文值得看,原因不在它又提了一个攻击方法,而在它戳破了一个大家默认成立的假设:红队测试里攻击成功率(ASR)越高,拿来对抗训练后智能体就越稳。 作者发现并非如此。两个当前很强的 RL 红队方法 RL-Hammer 和 PISmith 都出现了模式坍缩,反复找到相似的攻击策略。这些策略在评测上很好看,但把它们喂给对抗训练,防守方几乎学不到新东西。 高 AS...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出

分享海报

正在生成海报…

主题

字体

开源字体第一次使用时联网下载,只取海报上用到的字。