LLM run

ops/2025/3/10 16:24:06/
aidu_pl">
  • lmstudio
    lmstudio

  • ollama
    ollama

  • N 卡使用自带UI gpu加速推理 ,选择满足条件的,

  • ds模型选择列表
    https://ollama.com/library/deepseek-r1

  • a卡当前支持的显卡型号
    在这里插入图片描述

  • I卡 gpu加速配置

  • 2025.3 intel Official project optimization
    https://www.modelscope.cn/models/ipexllm/ollama-ipex-llm#Windows-%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97

anaconda + pip ipex-llm是愚蠢的废弃方案

  • 清理无用的pip所下载包
pip list
pip uninstall 包名# 删除所有已安装的包
# window environment need download this
pip freeze | % {pip uninstall -y $_}
pip freeze | ForEach-Object { pip uninstall -y $_ }
  • ipex-llm
    https://github.com/intel/ipex-llm
  • anaconda
    anaconda
    在这里插入图片描述
  • py
    py
    在这里插入图片描述

https://zhuanlan.zhihu.com/p/25124843480


http://www.ppmy.cn/ops/164703.html

相关文章

Java 大视界 -- Java 大数据在智能体育赛事运动员表现分析与训练优化中的应用(122)

💖亲爱的朋友们,热烈欢迎来到 青云交的博客!能与诸位在此相逢,我倍感荣幸。在这飞速更迭的时代,我们都渴望一方心灵净土,而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识,也…

完全日期(日期枚举问题)--- 数学性质题型

题目: """如果一个日期中年月日的各位数字之和是完全平方数,则称为一个完全日期。例如: 2021年 6月 5日的各位数字之和为 2 0 2 1 6 5 16 而 16是一个完全平方数,它是 4的平方。所以 2021年 6月 5日是一个…

十大数据科学Python库

十大数据科学Python库 1、NumPy:脊髓2、Pandas:数据操纵专家3、Matplotlib:艺术之魂4、Scikit-Learn:瑞士军刀5、TensorFlow:聪明的家伙6、PyTorch:叛逆者7、Selenium:操纵大师8、NLTK&#xff…

[css教程]2025系统全面css教程(四)

16 动画 @keyframes 规则 要创建 CSS3 动画,你需要了解 @keyframes 规则。 ​ @keyframes 规则是创建动画。 ​ @keyframes 规则内指定一个 CSS 样式和动画将逐步从目前的样式更改为新的样式。 当在 @keyframes 创建动画,把它绑定到一个选择器,否则动画不会有任何效果。 …

【Python】Django 中的算法应用与实现

Django 中的算法应用与实现 在 Django 开发中,算法的应用可以极大地扩展 Web 应用的功能和性能。从简单的数据处理到复杂的机器学习模型,Django 都可以作为一个强大的后端框架来支持这些算法的实现。本文将介绍几种常见的算法及其在 Django 中的使用方法…

c#事件案例与分析

using System; using System.Collections.Generic;namespace EventExample {// 定义事件数据public class DataReceivedEventArgs : EventArgs{public string Data { get; }public DataReceivedEventArgs(string data){Data data;}}// 发布者类public class Publisher{// 定义…

【商城实战(13)】购物车价格与数量的奥秘

【商城实战】专栏重磅来袭!这是一份专为开发者与电商从业者打造的超详细指南。从项目基础搭建,运用 uniapp、Element Plus、SpringBoot 搭建商城框架,到用户、商品、订单等核心模块开发,再到性能优化、安全加固、多端适配&#xf…

linux环保监测4G边缘网关:环境数据的可靠传输者

环保监测工控机,常被称为“环境数据采集器”或“环保数据终端”,是一种专门用于环境监测领域的工业计算机。它具备强大的数据处理能力、稳定的运行性能和多种接口,能够实时采集、处理和传输环境监测数据。这些数据包括空气质量、水质、噪声、…