全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

面向样本高效 NPU 设计空间探索的机制化评价器

NPU design-space exploration for LLM inference mainly relies on an expensive simulator that often returns only scalar feedback such as latency and power. Such feedback can rank evaluated configurations, but gives little information for deciding why a configuration is slow or which architecture parameter should be chang

阅读原文 · Yicheng He, Yuqi Xue, Tianyang Wu, Jian Huang, Bin Hu

乔木风格重写

向阳乔木 · opencode-go/deepseek-v4.1-flash

NPU 设计空间搜索有个老问题:仿真器跑一次很贵,返回的却只有延迟、功耗这类标量分数。它能告诉你哪个配置更好,却说不清为什么慢、下一步该调哪个参数。LLM 推理里 prefill 和 decode 受限于不同资源,一个是算力,一个是 HBM 带宽,这个盲区就更要命。 CriticNPU 想做的,是给这套搜索过程加一个“会讲道理”的评审。它不替代仿真器,而是在...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出

分享海报

正在生成海报…

主题

字体

开源字体第一次使用时联网下载,只取海报上用到的字。