https://xiejiayun.github.io/tags/%E8%8A%AF%E7%89%87%E6%9E%B6%E6%9E%84/Recent content in 芯片架构 on Jiayun's BlogHugozh-cnWed, 06 May 2026 00:00:00 +0000https://xiejiayun.github.io/post/pnm-hbm-replace-gpu-compute-die-attention-2026/Wed, 06 May 2026 00:00:00 +0000https://xiejiayun.github.io/post/pnm-hbm-replace-gpu-compute-die-attention-2026/<blockquote> <p>当上下文长度从 8K 增长到 1M，Attention 的计算量增长了 15000 倍。但真正的瓶颈不是算力——是数据搬运。</p></blockquote> <hr> <h2 id="一长上下文推理的真正瓶颈不是-flops">一、长上下文推理的真正瓶颈不是 FLOPS</h2> <p>2026 年的 LLM 推理正在经历一场静默的危机。</p>https://xiejiayun.github.io/post/near-memory-3d-stacked-llm-chips-2026/Wed, 29 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/near-memory-3d-stacked-llm-chips-2026/<h2 id="llm推理的真正瓶颈不是算力是搬数据">LLM推理的真正瓶颈：不是算力，是搬数据</h2> <p>如果你问一个GPU工程师&quot;为什么LLM推理这么贵&quot;，他的回答可能不是&quot;算力不够&quot;，而是**&ldquo;数据搬不动&rdquo;**。</p>