# 英特尔开源 NPU 加速库，方便使开发人员优化其 AI 应用

Source: https://www.zaihua.news/article/23210/

[返回新闻流](https://www.zaihua.news/)
2024年3月3日 · 15:21 · [在花新闻](https://www.zaihua.news/about/)

# 英特尔开源 NPU 加速库，方便使开发人员优化其 AI 应用

X用户@Tony Mongkolsmai 发现，英特尔已经在 GitHub 上开源了其 NPU 加速库，支持 Windows 和 Linux。

开发人员可以按照相应文档对其软件进行优化，从而适配新一代 AI 模型，包括 TinyLlama 和 Gemma-2b-it。

根据官方描述：英特尔 NPU 加速库是一个 Python 库，旨在利用英特尔神经处理单元 (NPU) 的强大性能在兼容硬件上执行高速计算，从而提高应用的效率。

英特尔还表示其 NPU 加速库目前不断开发中，后续将推出各种能显著提高性能的功能，截至目前已经实现了 8bit 量化、Float16 支持、torch.compile 支持等，后续还将支持 NPU / GPU 异构计算等功能。

[IT之家](https://www.ithome.com/0/753/323.htm)
[Intel® NPU Acceleration Library’s documentation](https://intel.github.io/intel-npu-acceleration-library/)

线索：[@ZaiHuabot](https://t.me/ZaiHuabot)
投稿：[@TNSubmbot](https://t.me/TNSubmbot)
频道：[@TestFlightCN](https://t.me/TestFlightCN)

[上一条紧跟欧盟，俄罗斯计划立法要求苹果开放iOS第三方应用商店](https://www.zaihua.news/article/23209/)[下一条巴黎奥运信息U盘失窃案告破，窃贼获刑7个月](https://www.zaihua.news/article/23211/)