# DeepSeek 开源大规模推理框架 DeepInfer

Source: https://www.zaihua.news/article/44563/

[返回新闻流](https://www.zaihua.news/)
2026年10月20日 · 17:11 · [在花新闻](https://www.zaihua.news/about/)

# DeepSeek 开源大规模推理框架 DeepInfer

10 月 20 日，DeepSeek 开源内部大规模推理框架 DeepInfer，并同步开源 Token 编解码组件 deepseek-recipe。基于该框架，V4.1 Flash 的单一集群吞吐达 155 万亿 Tokens/天。

该框架支持分布式推理、推测解码、结构化输出等能力，可在英伟达与华为昇腾平台运行；KVCache 可保留 72 小时以上。

[Github](https://github.com/deepseek-ai/DeepInfer) | [DeepSeek](https://mp.weixin.qq.com/s/5MEu2eeqNfBWXlkCKTd6sg)

🌸 [科技圈](http://t.me/zaihuanews)· [茶馆](https://t.me/zaihuachat) · [投稿](http://t.me/ZaiHuabot)

https://cdn.zaihua.news/main/44563/mtproto-0-1a1f3c16c163fdee.jpg

[上一条中国微短剧正成为全球第四大线上娱乐视听产品新业态](https://www.zaihua.news/article/44562/)[下一条特朗普儿童账户存款超 80 亿美元，美财长贝森特感谢马斯克的慷慨捐股](https://www.zaihua.news/article/44564/)