以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
NPU design-space exploration for LLM inference mainly relies on an expensive simulator that often returns only scalar feedback such as latency and power. Such feedback can rank evaluated configurations, but gives little information for deciding why a configuration is slow or which architecture parameter should be chang
阅读原文 · Yicheng He, Yuqi Xue, Tianyang Wu, Jian Huang, Bin Hu
向阳乔木 · opencode-go/deepseek-v4.1-flash
NPU 设计空间搜索有个老问题:仿真器跑一次很贵,返回的却只有延迟、功耗这类标量分数。它能告诉你哪个配置更好,却说不清为什么慢、下一步该调哪个参数。LLM 推理里 prefill 和 decode 受限于不同资源,一个是算力,一个是 HBM 带宽,这个盲区就更要命。 CriticNPU 想做的,是给这套搜索过程加一个“会讲道理”的评审。它不替代仿真器,而是在...