Mac ARM 本地运行 Mini-Omni 记录

embedded/2024/10/25 3:36:47/

Mini-Omni是一个开源的多模态大型语言模型，可以听、说和思考。具有实时端到端语音输入和流式音频输出的对话能力。Github

安装 conda
miniconda 安装
执行

# 创建一个python环境
conda create -n omni python=3.10
conda activate omni# clone项目
git clone https://github.com/gpt-omni/mini-omni.git
cd mini-omni# 安装依赖
pip install -r requirements.txt# 安装ffmpeg
brew install ffmpeg# 安装PyAudio
brew install portaudio # mac必须 
pip install PyAudio==0.2.14# server
python3 server.py --ip '0.0.0.0' --port 60808 --device cpu # 设置 cpu 运行# web ui
# 启动
API_URL=http://0.0.0.0:60808/chat streamlit run webui/omni_streamlit.py

访问 http://localhost:8501/

在这里插入图片描述

http://www.ppmy.cn/embedded/132226.html

react18中如何监听localstorage的变化获取最新的本地缓存

有时候业务中会需要监听缓存的变化，实时更新页面的内容获取发送接口请求。这就要我们来监听对localstorage的修改，实时响应变化！！一下方法同样实用于vue项目。同一个项目中不同页面的实现实现效果代码分析修改localstoare的…

每天五分钟深度学习框架pytorch：从底层搭建多项式线性回归模型

本文重点和上一节课程一样，本文我们将不使用pytorch搭建一个多项式的回归模型，来增加我们对使用pytorch搭建多项式回归模型的理解。模型 #定义参数和模型 w=torch.randn(3,1,requires_grad=True) b=torch.randn(1,requires_grad=True) def Linear(x): return torch.mm(x…

【数据库】Mysql的锁类型

Mysql中的锁机制主要是为了保证数据的一致性和完整性，在并发的情况下起着至关重要的作用。其中锁的类型主要是分为以下几种： 按照粒度分类全局锁：对于整个数据库实例进行枷锁，加锁后整个实例就处于只读的状态。局锁通常用于需要…

人工智能：未来生活与工作的变革力量

人工智能（AI）作为21世纪最具变革性的技术之一，正以前所未有的速度改变着我们的生活和工作方式。从医疗行业的突破性进展到企业运营的智能化，以及日常生活中各种智能产品的普及，人工智能正在成为现代社会不可或缺的一部…

深度生成模型文物修复--论文阅读笔记（导-6）

图像修复是计算机视觉领域最活跃的研究领域之一。它通常是一个不适定的逆问题，其中恢复的图像候选是通过近似退化图像的原始形式产生的。图像修复任务可以进一步细分为图像去噪[16]、超分辨率6和图像修复34。图像修复问题解决方法分为两类：传统的和基于深…

FastGPT上使用多种大语言模型

注册MindCraft并创建API KEY 首先我们在智匠MindCraft上注册账号并创建API KEY，参考接口调用文档，查看我们能调用哪些模型。我们可以看到这个开发平台上整合了主流的大语言模型，并且是兼容openai接口的。 docker compose 部署时修改配置文件…

了解Android中的AIDL

Android中的AIDL及其作用一、概述在Android开发中，AIDL（Android Interface Definition Language）是一种Android特有的接口定义语言，用于实现进程间通信（IPC）。通过AIDL，开发者可以在不同的应…

原文链接：python海洋水动力https://mp.weixin.qq.com/s?__bizMzUzNTczMDMxMg&mid2247607618&idx3&sn945a3f734c3e9d4273afa5a3e50ab565&chksmfa8264a5cdf5edb309232af17e0fda961f2fc6b4da8e8a27acc9d584bde119da7b0c60828904&token1928664218&…

Mac ARM 本地运行 Mini-Omni 记录

相关文章