使用Termux将安卓手机变成随身AI服务器(page assist连接)

embedded/2025/2/21 5:34:28/

在这里插入图片描述

通过以下方法在安卓手机上运行 Ollama 及大模型,无需 Root 权限,具体方案如下:


  1. 通过 Termux 模拟 Linux 环境运行
  • 核心工具:
    • 安装 (安卓终端模拟器)()]。
    • 借助 proot-distro 工具安装 Linux 发行版(如 Debian)()]。
  • 操作步骤:
    1. 在 Termux 中运行命令安装依赖:
      pkg update && pkg install proot-distro  
      proot-distro install debian  
      proot-distro login debian  
      
    2. 在 Debian 环境中安装 Ollama:
      curl -fsSL https://ollama.com/install.sh | sh  
      
    3. 启动服务并运行模型:
      ollama serve &  
      ollama run deepseek-r1:1.5b  # 以 DeepSeek-R1 为例()]  
      

  1. 直接使用预编译的 Ollama 二进制文件 (推荐)
  • 适用场景:若手机性能较弱或不想配置复杂环境。
  • 操作步骤:
    1. 在 Termux 中下载 Ollama 的 ARM64 版本:
      pkg install ollama
      
    2. 直接运行模型:
      # 以下修改监听和允许跨域是远程访问必要参数  
      # 修改监听地址
      export OLLAMA_HOST=0.0.0.0:11434
      # 允许跨域访问
      export OLLAMA_ORIGINS=*
      # 后台启动监听
      ollama serve &
      # 拉取deepseek-r1:7b模型
      ollama run deepseek-r1:7b
      
      参数与性能调优
      环境变量控制:
      OLLAMA_FLASH_ATTENTION=1:启用注意力机制加速,提升模型推理速度。
      OLLAMA_NUM_PARALLEL=16:设置并行处理请求数,优化多任务性能。
      Ollama支持的其他环境变量主要包括:
      OLLAMA_HOST:定义服务监听地址(如 0.0.0.0:11434)。
      OLLAMA_KEEP_ALIVE:设置模型在内存中的存活时间(如 24h)。
      OLLAMA_MAX_LOADED_MODELS:限制同时加载的模型数量(默认1)。
      OLLAMA_NUM_THREADS=8 根据CPU核心数调整(如8核)。
      OLLAMA_NUM_PARALLEL:设置并行请求处理数(默认1)。
      OLLAMA_MODELS:自定义模型存储路径。
      OLLAMA_METRICS_ENABLED=true 启用prometheus监控指标输出,访问http://localhost:11434/metrics。

  1. page assist的设置
    在这里插入图片描述

  1. 性能与注意事项
  • 硬件要求:
    • 手机需支持 ARM64 架构(主流安卓机均兼容)。
    • 运行 1.5B~8B 参数的模型需至少 4GB 内存。
  • 局限性:
    • 大模型(如 70B)因算力限制无法流畅运行。
    • 需保持 Termux 后台常驻,避免进程中断]。
  • 优化建议:
    • 使用 & 后台运行命令(如 ollama serve &)。
    • 优先选择量化版模型(如 4bit 精度)减少资源占用]。

总结
通过 Termux + Linux 环境或直接运行二进制文件,可在安卓手机上部署 Ollama 并运行中小规模模型(如 DeepSeek-R1、Llama3-8B)。


http://www.ppmy.cn/embedded/163990.html

相关文章

计算机视觉算法实战——表面缺陷检测(主页有源码)

✨个人主页欢迎您的访问 ✨期待您的三连 ✨ ✨个人主页欢迎您的访问 ✨期待您的三连 ✨ ✨个人主页欢迎您的访问 ✨期待您的三连✨ ​ 一、领域简介✨✨ 工业表面缺陷检测是智能制造中的核心环节,旨在通过自动化视觉系统替代传统人工质检,快速、精准地识…

Java爬虫获取1688商品搜索API接口的实现指南

在电商数据分析、市场调研以及商品选品等领域,按关键字搜索1688商品并获取相关数据是一项重要的任务。本文将详细介绍如何使用Java爬虫技术,通过1688的API接口按关键字搜索商品,并解析返回的数据。以下是实现的完整步骤和代码示例。 一、前期…

【苍穹外卖】学习

软件开发整体介绍 作为一名软件开发工程师,我们需要了解在软件开发过程中的开发流程, 以及软件开发过程中涉及到的岗位角色,角色的分工、职责, 并了解软件开发中涉及到的三种软件环境。那么这一小节,我们将从 软件开发流程、角色…

仿 Sora 之形,借物理模拟之技绘视频之彩

来自麻省理工学院、斯坦福大学、哥伦比亚大学以及康奈尔大学的研究人员携手开源了一款创新的3D交互视频模型——PhysDreamer(以下简称“PD”)。PD与OpenAI旗下的Sora相似,能够借助物理模拟技术来生成视频,这意味着PD所生成的视频蕴…

网络安全:从攻击到防御的全景解析

📝个人主页🌹:一ge科研小菜鸡-CSDN博客 🌹🌹期待您的关注 🌹🌹 1. 引言 在互联网高度发达的今天,网络安全已成为影响社会稳定、国家安全和企业发展的关键因素。无论是个人用户的数据…

RNN介绍

RNN(循环神经网络,Recurrent Neural Network)是一种专门处理序列数据的神经网络架构,在Transformer出现之前曾是处理文本、时间序列等任务的主流模型。它的核心特点是能够通过循环结构保留历史信息。 RNN的核心机制 循环处理&…

Ubuntu 下创建具有 root 权限用户

一、前言 在 Ubuntu 系统中,创建新的用户,并且为该用户赋予 root 权限。 二、操作步骤 (一)创建新用户 sudo adduser user1(二)为新用户添加 sudo 权限 sudo usermod -aG sudo user1 usermod&#xf…

HBuilderX中,VUE生成随机数字,vue调用随机数函数

Vue 中可以使用JavaScript的Math.random() 函数生成随机数,它会返回 0 到 1 之间的浮点数, 如果需要0到1000之前的随机数,可以对生成的随机数乘以1000,再用js的向下取整函数Math.floor() 。 let randNum Math.random(); // 生成…