以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
Combatting adversarial distillation 打开原始媒体 ↗ Combatting adversarial distillation November 20, 2026 How we're addressing safety risks of distillation and lessons we've learned for strengthening safeguards across the industry. As frontier AI models become more capable, safeguards play an increasingly important role in ho
阅读原文 · OpenAI
向阳乔木 · publisher
在内部自适应评测里,攻击方要恢复模型在回答更早一个提示时生成的受保护推理。对沿用原有防护的GPT-6 Astra,平均攻击成功率是 54.0% ;对采用更新防护的GPT-6.2 Astra,这个数字降到了 0.2% 。 2026年11月20日,OpenAI发布文章,讨论他们如何检测和打断对抗性蒸馏,如何加强对受保护推理的防护,以及他们认为哪些经验可以帮助行业...