全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

Was I wrong about open models & cyber risks?

Last week coined the term “ Black October “ after an onslaught of critical vulnerability disclosures, including PHP2Shell and GitLab, signified the moment when the cyber risks of AI models started to materialize. It seemed like the news cycle had stabilized a bit when I started writing this, but then there was news abo

阅读原文 · Nathan Lambert

文章对话

OpenCode Go · deepseek-v4.1-flash

- **“Black October”标志着 AI 网络风险开始实体化**:作者用这个词概括 PHP2Shell、GitLab 等一连串关键漏洞披露,认为这是 AI 模型网络风险从理论走向现实的节点,且漏洞暴露呈指数上升、短期内不会见顶。 - **对“开源即灾难”的预测提出可证伪的挑战**:他认为真正跨过能力门槛的是 GLM-5.3,而非被渲染成“网络武器”的 Claude Mythos;GLM-5.3 权重发布一个多月,公开证据并未显示世界发生剧变,因此恐慌论者的预测正被现实检验。 - **承认自己“fine(没事)”的措辞不够准确**:他仍坚持开源模型若泄露更接近“加速”而非“阶跃式风险”,但也承认应更认真对待 AI 安全社区关于“网络不稳定新时代”的合理担忧——即将到来的是被迫的行业级软件工作方式升级,昂贵且痛苦,而非云淡风轻。 - **漏洞不等于伤害:利用需要多环节对齐**:以 Epoch AI 用 GLM-5.3 发现的 Firefox 漏洞为例,找到 exploit 只是多阶段攻击中的一步,还需要投递载体、动机等条件配合,从漏洞到社会性伤害之间有很长链条。 - **攻击者行为受商业模式约束,攻防天平未必倒向攻击方**:威胁行为者更像有既定业务流程的企业,不会因某个关键 CVE 出现就集体转行;作者判断企业采用开源模型的速度可能快于资源更少的攻击者,但“漏洞主要由闭源模型发现”这一判断他自认误差很大。

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出