在手机等移动设备上运行3B及以下小模型
PocketAI是一个可以在移动设备上本地运行小型语言模型的软件，软件内可以直接下载Meta、阿里等3B及以下的语言模型，同时支持本地导入其他语言模型。
编辑实测iPhone 13/14 Pro可以运行，但随着对话条数增多响应明显卡顿，未卸载语言模型切换后台任务直接卡死无响应。8G 运行内存M2芯片的iPad可以流畅运行且不需要卸载模型即可随意切换后台任务。安卓手机未实测期待群友反馈～
☘️ 关注频道 @ZaiHuapd
📮 热点投稿 @ZaiHuabot
Telegram 评论区
0 条回复，可以前往 Telegram 继续讨论。