llama.cpp LLM模型 windows cpu安装部署

news/2024/12/30 2:45:50/

参考:
https://www.listera.top/ji-xu-zhe-teng-xia-chinese-llama-alpaca/
https://blog.csdn.net/qq_38238956/article/details/130113599

cmake windows安装参考:https://blog.csdn.net/weixin_42357472/article/details/131314105

llama.cpp下载编译

1、下载:

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp

2、编译

mkdir build
cd build
cmake ..
cmake --build . --config Release

在这里插入图片描述

3、测试运行

cd bin\Release
./main -h

在这里插入图片描述


http://www.ppmy.cn/news/601815.html

相关文章

关于全局异常提示

项目中客户端请求如果后端出现技术上的bug,会报出网络异常,这对客户是很不友好的,比方说请求参数格式校验,如下: import com.fasterxml.jackson.annotation.JsonFormat; 假如日期格式传的不对,这个注解校验…

什么是CDN?CDN的原理和作用是什么?

一:什么是CDN CDN全称Content Delivery Network,即内容分发网络。 CDN是Content Delivery Network(内容分发网络)的缩写,是一种利用分布式节点技术,在全球部署服务器,即时地将网站、应用、视频…

电脑硬盘:数据错误(循环冗余检查)

恢复方法: 1、数据不重要,直接格式化 因为磁盘在磁盘管理工具中是可以看到的,只是磁盘格式变成了RAW(磁盘系统文件损坏) 2、安易硬盘数据恢复软件 速度慢,能发现损坏的磁盘,需要获取注册码 …

用友U8总账对账不平问题总结

内容: 1:个人往来科目总账与明细账对账不平 问题现象:个人往来科目总账与明细账对账不平 解决方案:将GL_ACCVOUCH表期初数据相关科目凭证标志字段IFLAG1改为IFLAG0,问题解决。 2:客户往来总账与明细账…

plsql数据库密码过期的解决方法

plsql数据库密码过期的解决方法 2014-10-11 0 个评论 来源:鹏javatar的专栏 收藏 我要投稿 id"iframeu2597680_0" src"http://pos.baidu.com/cczm?sz650x180&rdid2597680&dc2&diu2597680&dri0&dis0&dai4&am…

viewpager ragment 生命周期

1.一直以来的疑问 Fragment在ViewPager到底经历了哪些生命周期方法?到底发生了什么? 常会TabLayout和ViewPager配合起来使用,针对这套组合,就想也做一些学习了解。在一个ViewPager中经常会存在多个Fragment,Fragemnt在…

Oracle的文件系统

Oracle的文件结构图如下: 免费下载-安易数据恢复软件 【点击进入】 AneData全能文件恢复,超强数据恢复工具 硬盘移动硬盘SD卡U盘相机手机内存卡全支持 查 看 Oracle的文件系统主要分成以下的四大块: 1> 控制文件(.CTL&#x…

oracle (+)的,数据库知识(SQL+ORACLE)

数据库知识(SQLORACLE) 概述 安易系统的SQL以及ORACLE使用相关 一、SQL SQL工具 数据备份以及还原 1、SQL工具  企业管理器:  查询分析器 2、数据备份以及还原  备份  还原 3、SQL 语句(DDL,DML,DCL) Select 语句(group by ,having,order …