![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/bfec4238e717482aa886ed781263c14d.png)
1、下载安装pocketpal-ai
安装github的release APK
2、安装大模型
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/1d045c76f3894febbc07a83a5704ce5e.png)
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/2fb761306a034b50a15a157b7a80cd08.png)
搜索并下载模型,没找到deepseek官方的,因为海外的开发者上传了一堆乱七八糟的deepseek qwen模型,导致根本找不到官方上传的……deepseek一开源他们觉得自己又行了。
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/b9293a77f776429d8036fbc453a1568c.png)
点击之后下载一个模型,注意这几种模型大小不同,配置和优化方法有区别。
Q3:在大模型领域,Q2、Q4、Q8等后缀通常用来表示模型的量化级别。
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/91f0584c857e46779019025443869bf8.png)
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/23eec6ee831c4c20aba4bb6b48e4434b.png)
3、聊天
我的手机CPU是天玑8300 ultra,token生成速度还不错,比较流畅。
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/34ae3b3d222e469891cd467311c678d6.png)