LLM使用方法介绍,持续更新

embedded/2024/11/15 4:54:21/

LLM_0">LLM使用方法介绍,持续更新

LLM_2">1. LLM本地搭建与运行

1. Ollama的安装

  1. 网址:https://ollama.com/
  2. 点击Download选择对应的操作系统下载安装软件,软件默认安装在C盘无法选择路径;
    image-20240423001240049
  3. 安装完成后,Win+R进入终端执行:ollama,出现如下图所示表示安装成功
    image-20240423001339414

2. Llama 3的安装与运行

  1. 打开:https://github.com/ollama/ollama,找到下载对应版本的运行命令
    image-20240423001359709
  2. 在终端执行对应命令即可下载,下载完成即可在终端输入对话;
    image-20240423001418480
  3. 输入对话测试即可
    image-20240423002412593

3. Open WebUI的安装与运行

Open WebUI 是一个仿照 ChatGPT 界面,为本地大语言模型提供图形化界面的开源项目,可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型(包括 Ollama 和 OpenAI 兼容的 API),也支持远程服务器。

2. Colab微调大模型

待更新 。。。

3. 百度千帆大模型的API调用

1.创建应用

https://console.bce.baidu.com/qianfan/ais/console/applicationConsole/application

image-20240423005351821

2.开通大模型服务

根据自己需要开通对应大模型,当然也可以不开通。在后续的体验中心和代码在线调试中选择免费的大模型即可;

image-20240423005110349

3.体验中心

https://console.bce.baidu.com/qianfan/ais/console/onlineTest

4. 示例代码在线调试

https://console.bce.baidu.com/tools/#/index,复制示例代码到自己工程即可使用;

image-20240423004808915


http://www.ppmy.cn/embedded/10704.html

相关文章

Qt 跨平台开发的一丢丢总结

Qt 跨平台开发 文章目录 Qt 跨平台开发摘要第一 \ & /第二 神奇{不能换行显示第三 预处理宏 关键字: Qt、 win、 linux、 lib、 MSVC 摘要 最近一直在琢磨Qt跨平台开发的问题,缘由有以下几个, 首先第一个,我们目前开发…

【C++学习】STL之空间配置器之一级空间配置器

文章目录 📊什么是空间配置器✈STL 提供六大组件的了解👀为什么需要空间配置器👍SGI-STL空间配置器实现原理🌂一级空间配置器的实现 📊什么是空间配置器 空间配置器,顾名思义就是为各个容器高效的管理空间…

【前端】vue的基础知识及开发指引

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、Vue是什么二、学习 Vue.js 的基础知识三、熟悉 Vue.js 的生态系统四、掌握常用工具和库五、实践和项目开发六、 持续学习和跟进 前言 随着开发语言及人工智…

106. 从中序与后序遍历序列构造二叉树

106. 从中序与后序遍历序列构造二叉树 描述: 给定两个整数数组 inorder 和 postorder ,其中 inorder 是二叉树的中序遍历, postorder 是同一棵树的后序遍历,请你构造并返回这颗 二叉树 。 示例 1: 输入:inorder [9,3,15,20,7]…

代码随想录Day57

Day 57 今日任务 回文子串 516.最长回文子序列动态规划总结篇 代码实现 回文子串 class Solution {public int countSubstrings(String s) {//dp[i][j]表示[i, j]是否是回文子串int result 0;boolean[][] dp new boolean[s.length()][s.length()];char[] chars s.toChar…

Sql Server 数据库:查询表结构脚本

查询脚本: SELECT CASE WHEN col.colorder 1 THEN obj.name ELSE END AS 表名, col.colorder AS 序号 , col.name AS 列名 , ISNULL(ep.[value], ) AS 列说明 , t.name AS 数据类型 , col.length AS 长度 , ISNULL(COLUMNPROPERTY(col.id, col.name, Scale), 0) AS 小数位数…

软考 系统架构设计师系列知识点之大数据设计理论与实践(13)

接前一篇文章:软考 系统架构设计师系列知识点之大数据设计理论与实践(12) 所属章节: 第19章. 大数据架构设计理论与实践 第4节 Kappa架构 19.4.2 Kappa架构介绍 Kappa架构由Jay Kreps提出(Lambda由Storm之父Nayhan M…

学习笔记:Vue3(图片明天处理)

文章目录 1.概述1.1定义1.2特性1.3组合式API 2.基本用例-项目搭建3.项目目录介绍3.1概述3.2查看文件 4.组合式API4.1概述4.2新的API风格4.2.1概述4.2.2写法4.2.3基本用例-Setup选项使用4.2.4基本用例-语法糖写法(重点)4.2.5执行时机4.2.6代码特点 4.3响应…