ollama linux下载

news/2025/2/10 15:08:48/

实验室服务器(A6000)执行curl -fsSL https://ollama.com/install.sh | sh太慢了。

而sudo snap install ollama,容易爆cudalibrt.so12无法正常使用的bug。

发现 https://www.modelscope.cn/models/modelscope/ollama-linux
使用modelscope进行ollama的下载,网速很稳定,2-3mb/s。

pip install modelscope 
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.5.7

并且ollama拉取模型后,正常推理不报错。


http://www.ppmy.cn/news/1570887.html

相关文章

Apache Kafka:高吞吐分布式流平台的深度解析

引言:流数据时代的挑战 在实时推荐、物联网数据处理、金融交易监控等场景中,传统消息队列面临三大核心挑战: 海量数据吞吐:日均千亿级消息处理需求 超低延迟要求:毫秒级端到端传递延迟 数据持久保障:故障…

Spring Boot常见面试题总结

1. Spring Boot基础 Q1: Spring Boot是什么?它的优点有哪些? Spring Boot是简化Spring应用开发的框架,提供自动配置、内嵌服务器、starter依赖等。优点包括快速搭建、约定优于配置、减少XML配置、集成生态丰富。 Q2: SpringBootApplication注…

kafka服务端之分区管理

文章目录 概述优先副本选举为何要有优先副本优先副本选举弊端如何开启优先副本选举如何开启部分优先副本选举如何正确使用优先副本选举 分区重分配为何需要分区重分配分区重分配工作原理分区重分配弊端及其如何正确使用 复制限流为何需要复制限流如何进行复制限流 修改副本因子…

高并发读多写少场景下的高效键查询与顺序统计的方案思路

之前在某平台看到一篇有意思的场景——对于高并发读多写少场景下,如何进行高效键查询与统计早于其创建时间且没有被删除的数量(只需要先入先出,不需要从中间删元素) 在高并发、读多写少的场景下,业务需求通常聚焦在以…

Mac本地体验LM studio

博主很懒,不爱打字! 1、LM studio官网:LM Studio - Discover, download, and run local LLMs 2、下载DMG文件,安装 3、使用vscode工具,commandshiftH【全局替换功能】,选择目录/Applications/LM\ Studio…

李飞飞团队 S1 技术思路:低成本实现高效推理模型

李飞飞团队 S1 技术思路:低成本实现高效推理模型 在人工智能领域,模型训练成本一直是制约技术普及和创新的重要因素。然而,李飞飞团队近日以不到 50 美元的云计算费用成功训练出了名为 S1 的 AI 推理模型,其在数学和编码能力测试…

AF3 distogram_loss函数解读

AlphaFold3 的distogram loss函数用于训练中比较预测的距离分布(由 logits 表示)与真实距离分布之间的差异。在蛋白质结构预测中,distogram 表示每对残基之间距离落在各个区间(bin)的概率分布,损失函数使用交叉熵来衡量预测分布与真实分布(通过计算残基之间的欧氏距离确…

win32汇编环境,结构体的使用示例二

;运行效果 ;win32汇编环境,结构体的使用示例二 ;举例说明结构体的定义,如何访问其中的成员,使用assume指令指向某个结构体,计算结构数组所需的偏移量得到某个成员值等 ;直接抄进RadAsm可编译运行。重要部分加备注。 ;下面为asm文件 ;>>…