SemiAnalysis：Kimi K3降低KV传输带宽，AI网络需求仍将增长

BlockBeats 消息，7月19日，半导体与AI独立研究机构SemiAnalysis指出，Kimi K3约75%的网络层采用KDA（稀疏注意力机制），相比全局注意力模型，KV缓存传输带宽可降低最多10倍。但这并不意味着AI网络交换机市场规模会大幅收缩。

Kimi K3拥有2.8万亿参数，即使使用MXFP4，每次前向计算仍需约1.5TB HBM带宽。为实现合理交互速度与盈利部署，仍需通过GB300、NVL72等高带宽网络连接大量芯片，并依赖WideEP扩展服务。

WideEP将896个专家模型分散至多GPU，在每层前向计算中执行两次Token分发与结果合并，单次前向计算需120次以上。而预填充与解码间的KV传输仅在每轮对话发生一次，因而KDA节省的带宽远小于大规模专家模型带来的扩展需求。

SemiAnalysis认为，更高效的注意力机制可能推动上下文长度从100万Token提升至500万Token以上。基于Jevons悖论，效率提升将扩大AI使用规模，进而进一步增加网络需求。