# ♻️ 英伟达优化 🌙 Kimi K3 推理速度

Source: https://www.zaihua.news/article/44505/

[返回新闻流](https://www.zaihua.news/)
2026年10月18日 · 16:20 · [在花新闻](https://www.zaihua.news/about/)

# 英伟达优化 Kimi K3 推理速度

SemiAnalysis 发文称，英伟达通过一项上游 vLLM 优化，在 2.8 万亿参数的 Kimi K3 模型上实现每用户每秒 423 个 token 的速度，相同硬件下快 1.68 倍。

该帖称，英伟达 CentML 的 Benjamin 使用 Cute DSL 编写了解码专用内核，并通过 Megakernel 融合实现优化；英伟达也在为 vLLM 开发适配 DeepSeek v4.1 等模型的工作。

[SemiAnalysis(@SemiAnalysis_)](https://x.com/SemiAnalysis_/status/2111627094878790023)

🌸 [科技圈](http://t.me/zaihuanews)· [茶馆](https://t.me/zaihuachat) · [投稿](http://t.me/ZaiHuabot)

https://cdn.zaihua.news/main/44505/mtproto-0-068e1ea95d067f29.jpg

[上一条外卖大战一年后：平台利润回升，商家与骑手却额外承压](https://www.zaihua.news/article/44500/)[下一条美国 AI 基建热潮出现裂痕，巨额投资面临回报考验](https://www.zaihua.news/article/44506/)