如何在手机上本地部署多款主流 AI 大模型？今天我们就来详细的介绍并演示下！

支持模型包括： DeepSeek R1、Llama 3.3、Qwen2.5 和 Gemma 3 等。这些模型不仅支持中文理解与生成，还能在 iOS 和安卓设备上流畅运行，实现真正的离线智能体验。

我们将以开源项目 PocketPal-AI 为例，带大家一步步完成安装与配置过程，展示如何利用手机轻松调用这些强大模型进行对话和问答。无需连接云端，保护隐私的同时大幅降低延迟，是 AI 发烧友与开发者不可错过的实用方案！

部署非常简单，无需任何设置，点点手指头下载安装就能搞定！

iOS版下载：【点击前往】

Android 版下载:【点击前往】

APK 安装包下载：【点击前往】、如果你不在海外，就选择👉【网盘下载】

PocketPal AI

开源项目 【官方仓库】

特征

• 离线 AI 辅助：无需互联网连接即可直接在您的设备上运行语言模型。
• 模型灵活性：下载并在多个 SLM 之间交换，包括DeepSeek R1、 Danube 2 和 3、Phi、Gemma 2 和 Qwen等。
• 自动卸载/加载：当应用程序在后台运行时，通过卸载模型自动管理内存。
• 推理设置：自定义模型参数，如系统提示、温度、BOS 令牌和聊天模板。
• 实时性能指标：在 AI 响应生成期间查看每秒令牌数和每个令牌的毫秒数。

PocketPal AI 最新版现已与 Hugging Face 模型中心集成！在应用程序内直接从 Hugging Face Hub 浏览、下载和运行模型，在手机本地离线AI大模型，非常的方便！大家可以根据自己手机的配置大小来选择适合自己的AI模型！