稀疏 MoE 与推测解码（Speculative Decoding）普及

算力成本下降推动行业爆发

通过将单次前向传播激活的参数量限制在 10%~20%，MoE 架构在保持顶级模型能力的同时，将单次 API 调用成本降低了一个数量级。推测解码则利用轻量草稿模型加速生成，使复杂长文本输出速率翻倍。