全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

Read, Allocate, Route: Role-Coupled Tokenization for Pixel-Space Generative Transformers

Pixel-space generative Transformers typically use one token per image patch, so capturing finer detail requires more tokens and makes global attention increasingly expensive. We observe that finer detail does not necessarily require more global communication: low-frequency structure benefits from global exchange, while

阅读原文 · Jiongfan Yang, Weichen Fan, Haiwen Diao, Zhongang Cai, Ziwei Liu

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

像素空间生成 Transformer 有个长期存在的矛盾:一个图像 patch 对应一个 token,想要更细的细节就得加 token,而 token 一多,全局注意力的成本就会急剧上升。这篇论文提出的观察挺有意思: 细节更细,未必需要更多全局通信 。低频结构适合全局交换信息,高频细节在局部建模就够了。 基于这个思路,作者做了 SpecSlot,一个像素空间...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出