# 英伟达推出NIM云原生微服务，推动生成式AI重塑软件全栈

Source: https://www.zaihua.news/article/25255/

[返回新闻流](https://www.zaihua.news/)
2024年6月2日 · 22:30 · [在花新闻](https://www.zaihua.news/about/)

# 英伟达推出NIM云原生微服务，推动生成式AI重塑软件全栈

在2024年台北电脑展上，英伟达CEO黄仁勋提出生成式人工智能将引发一场新的产业革命，特别在软件行业。英伟达推出的NIM（Nvidia Inference Microservices）旨在简化AI模型的部署，缩短上市时间，并使用行业标准API来抽象化开发和生产包装的复杂性。NIM是一套优化的云原生微服务，支持在云、数据中心和GPU加速工作站上运行预训练的AI模型。

此外，英伟达还发布了llama3大模型的NIM容器，现已在官网上线供用户下载并部署。这标志着AI工厂概念的进一步实现，通过提供易于部署的AI服务，英伟达助力企业加速AI应用的开发和部署，推动全栈软件的创新和转型。

[llama3 大模型NIM 容器](https://www.nvidia.com/en-us/ai/#referrer=ai-subdomain)

关注频道 [@ZaiHuaPd](https://t.me/ZaiHuaPd)
频道爆料 [@ZaiHuabot](https://t.me/ZaiHuabot)

[上一条英伟达预告2026年推出下一代Rubin GPU架构，包括HBM4显存和Vera CPU](https://www.zaihua.news/article/25254/)[下一条国产NAS 绿联系统帮助文件惊现群晖内容](https://www.zaihua.news/article/25256/)