全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

眼不见,心仍在:面向全模态 LLM 的 Token 压缩

The goal of this paper is to reduce the input token cost of Omni-modal large language models (Omni-LLMs) at inference time. Omni-LLMs reason jointly over audio, video and text, but the cost of the three streams is highly unbalanced: visual tokens account for the vast majority of the input, and are highly redundant. In

阅读原文 · Suho Yoo, Youngjoon Jang, Hyebin Cho, Joon Son Chung

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

全模态模型(Omni-LLM)能同时读音频、视频和文本,但推理成本被视觉 token 严重拖累。视觉 token 占了输入的大头,冗余度又高。 这篇论文提出 ReMo,一个 训练免调 的视觉 token 压缩框架。思路挺有意思:一个视觉 token 只有在“别处找不到同样信息”时才保留。信息已经在音频里说过了,或者已经被别的视觉 token 覆盖了,就删。...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出

分享海报

正在生成海报…

主题

字体

开源字体第一次使用时联网下载,只取海报上用到的字。