milvus多个Querynode,资源消耗都打在一个节点上

news/2024/9/18 8:13:03/ 标签: milvus

milvus 查询时的原理
在这里插入图片描述
当读取数据时,MsgStream对象在以下场景中创建:

在 Milvus 中,数据必须先加载后才能读取。当代理收到数据加载请求时,会将请求发送给查询协调器,查询协调器决定如何将分片分配到不同的查询节点。分配信息(即 vchannels 的名称以及 vchannels 与其对应的 pchannels 之间的映射)通过方法调用或 RPC(远程过程调用)发送给查询节点。随后,查询节点会创建相应的 MsgStream 对象来消费数据。

问题的解决:
https://github.com/milvus-io/milvus/discussions/32698

具体为什么会产生这个问题,可以看我上一篇文章
https://blog.csdn.net/IT_Octopus/article/details/141605964?spm=1001.2014.3001.5501

考虑到大家网络可能不好截图出来:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述其中大致的内容都看懂了,比较困难的是

大致上是每个collection有一根数据管道,其中有一个querynode负责管理这根管道,我们称之为shard-leader,它从管道中接收来自pulsar的数据,数据积累在内存里,称为growing segment,当数据达到一定量,比如一百兆,就把这块数据落盘变成sealed segment,其他的querynode等加载sealed segment。
你插入的数据太少,大部分都在growing segment里,所以数据都在shard-leader里。如果你插入10GB的数据,你会发现其他的querynode也开始有数据。
看起来,你们应该有比较多的partition,每个partition都会有growing数据,而growing数据都会在shard delegator上。默认情况下只有一个delegator,因此大部分数据都在一台机器上。
2. 调小segment flush的阈值,使得数据更快flush,growing的数据更少。

这几句话,我个人理解一下哈:
动态的数据:
1.数据量太小,且数据是动态新增的,且没有60s间隔,没有达到segement分区的限制,没有从growingSegement态变成sealed态,所以都落在其中的一个segement。所以没有触发querynode分配。

       数据插入和 Growing Segment: 当新数据被插入 Milvus 时,它们首先被写入 Growing Segment。Growing Segment 是一个可以继续接收新数据的活跃段。Flush 操作和 Sealed Segment: Flush 操作会将 Growing Segment 中的数据持久化到存储中,并将 Growing Segment 转变为 Sealed Segment。Sealed Segment 是一个已关闭的段,不能再接收新的数据插入。3. Flush 阈值: Milvus 有一个阈值来决定何时自动执行 Flush 操作(60s)。这个阈值通常基于数据量或时间间隔

静态数据 or 封闭数据
“以分片为单位做balance” 这句话是我理解这个问题的核心点,
意思只有到达某个阈值的时候才会开启分配到其他queynode节点
在这里插入图片描述

通过上述搜索原理 和 官方回答的讨论可以得到这个结论
1.数据量不够,没有达到querynode 一个资源的限额。
在这里插入图片描述2.在数据量小的情况下,少querynode ,每个querynode 多资源
3.调整flush的阈值,我觉得在小数据量的情况下操作有点杀鸡用牛刀,完全可以使用命令塞入数据的指定多个副本,做负载…个人观点仅供参考哈


http://www.ppmy.cn/news/1519301.html

相关文章

【原型设计工具评测】Axure、Figma、Sketch三强争霸

在当今的数字化设计领域,选择合适的原型设计工具对于项目的成功至关重要。Axure、Figma 和 Sketch 是目前市场上最受欢迎的三款原型设计工具,它们各具特色,满足了不同用户的需求。本文将对这三款工具进行详细的对比评测,帮助设计师…

苹果笔记本电脑能不能玩游戏?苹果电脑玩游戏咋样?

过去Mac玩不了游戏最大的问题,就是图形API自成一体,苹果既不支持微软的DirectX,同时为了推广自家的Metal图形API,又对OpenGL和Vulkan两大主流的通用API敬而远之。游戏生态、硬件瓶颈让苹果电脑不适合玩游戏。 不过说到底&#xf…

Qt详解QHostInfo

文章目录 前言QHostInfo简介QHostInfo的优势使用流程概述QHostInfo主要函数1. `QHostInfo::lookupHost()`2. `QHostInfo::fromName()`3. `QHostInfo::addresses()`4. `QHostInfo::error()`5. `QHostInfo::errorString()`使用示例更多用法总结前言 QHostInfo 是 Qt 网络模块中的…

支付平台一般采取哪些措施来保护我的个人信息

支付平台个人信息保护措施概览 支付平台为了保护用户的个人信息,采取了多种安全措施。这些措施主要包括数据加密传输、多重身份验证、实时监测与风险预警系统、安全支付环境的建立等。支付平台通常采用SSL/TLS等加密技术来保障用户信息在传输过程中的安全&#xff…

75.给定一个包含红色、白色和蓝色、共 n 个元素的数组 nums ,实现一个算法原地 对它们进行排序,使得相同颜色的元素相邻,并按照红色、白色、蓝色顺序排列

LeetCode 颜色分类问题详解 一、题目描述 给定一个包含红色、白色和蓝色,共 n 个元素的数组 nums,原地对它们进行排序,使得相同颜色的元素相邻,并按照红色、白色、蓝色顺序排列。 我们使用整数 0、1 和 2 分别表示红色、白色和蓝色。 必须在不使用库内置的 sort 函数的…

mysql查询慢除了索引问题还会是因为什么?

问题 作为一个程序员SQL查询慢的问题在工作和面试中都是会经常遇到的问题, 一般情况下我们都会联想到索引问题, 那么除了索引问题还有什么其他的场景会导致SQL查询慢呢? MySQL执行查询逻辑 例如我们使用可视化工具执行这样一条SQL: select * from user_info where age 10;…

基于ssm+vue+uniapp的农业电商服务系统小程序

开发语言:Java框架:ssmuniappJDK版本:JDK1.8服务器:tomcat7数据库:mysql 5.7(一定要5.7版本)数据库工具:Navicat11开发软件:eclipse/myeclipse/ideaMaven包:M…

网络模型及协议介绍

一.OSI七层模型 OSI Open System Interconnect 开放系统互连模型 以前不同厂家所生产的网络设备的标准是不同的,所以为了统一生产规范就制定了OSI这个生产模型。 作用:降低网络进行数据通信复杂度 这个模型的作用第一降低数据通信的复杂度&#xff…

World of Warcraft [CLASSIC][80][Grandel] Call to Arms: Warsong Gulch

Call to Arms: Warsong Gulch - Quest - 魔兽世界怀旧服CTM4.34《大地的裂变》数据库_大灾变85级魔兽数据库_ctm数据库 10人PVP战歌峡谷,该战场经常用来互刷军衔和荣誉,哈哈 wow plugin_魔兽世界挂机插件-CSDN博客

计算机网络端口

应用在通信过程中是通过端口来识别发送交付的。那么通信的一方是怎么知道对方的应用进程的端口号呢? 2017年12月25日,星期一, 简单点说这些信息都被封装在ip包内, 我个人觉得你现在不太明白的地方是不太清楚数据包在传递过程中…

Word中设置奇数页的页眉为一级标题内容;偶数页的页眉为文章题目

1.在Microsoft Word中设置奇数页和偶数页不同的页眉 可以通过以下步骤进行: 打开Word文档:首先,打开你想要设置页眉的Word文档。 进入页眉和页脚编辑模式: 双击文档顶部的页眉区域,或者在“插入”选项卡中点击“页眉…

Mysql面试专题

mysql学习图 慢查询 什么是慢查询:慢查询是指数据库中查询时间超过指定阈值(美团设置为100ms)的SQL,它是数据库的性能杀手,也是业务优化数据库访问的重要抓手。 其实也就是一些比较慢的查询语句,严重的影…

在Ubuntu 20.04上安装MySQL的方法

前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。 简介 MySQL 是一个开源的数据库管理系统,通常作为流行的 LAMP(Linux、Apache、MySQL、PHP/Python/Perl&#xf…

【搜索引擎】ElasticSearch 7.x版本

1 Elasticsearch概述 1.1 Elasticsearch是什么 1.2 全文搜索引擎 1.3 Elasticsearch And Solr 1.4 Elasticsearch Or Solr 1.5 Elasticsearch应用案例 2 Elassticsearch入门 2.1 Elasticsearch 安装 2.1.1 下载软件 2.1.2 安装软件 2.1.3 问题解决 2.2 Elasticsearch基本操…

Python知识点:如何使用Elasticsearch与Elasticsearch-py进行全文检索

使用Elasticsearch与elasticsearch-py库进行全文检索可以分为以下几个步骤: 1. 安装elasticsearch-py 首先,确保你已经安装了elasticsearch-py库。你可以使用pip来安装它: pip install elasticsearch2. 连接到Elasticsearch实例 使用elas…

docker实战扩展四( Dockerfile 中,COPY . .详细讲解)

在 Dockerfile 中,COPY . . 是一个常用的指令,它的作用是将构建上下文中的所有文件复制到镜像中的指定目录。为了更好地理解这个指令,我们需要先了解两个概念:构建上下文和容器中的工作目录。 概念解释 构建上下文: 构建上下文是指在执行 docker build 命令时,Docker CL…

ChatGPT-4o:多领域创新应用的智能助手

ChatGPT-4o:多领域创新应用的智能助手 前言1. 数学建模:ChatGPT-4o的精确计算1.1 专业术语简介1.2 代码示例:线性规划问题问题描述代码实现运行结果 2. AI绘画:ChatGPT-4o的视觉创造力2.1 角色设计示例:火焰魔法师角色…

点餐API接口对接的过程中需要注意哪些问题

以下是点餐 API 接口对接的一般步骤: 选择合适的点餐 API 服务提供商:市面上有不少提供点餐 API 的平台。你需要根据自身业务需求、预算、接口的稳定性和性能、技术支持等因素来综合考量选择。注册与申请:在选定 API 服务提供商后&#xff0…

laravel8快速开发简单博客系统(一)

目录 一、创建项目和搭建环境 1.打开终端进入项目存放目录,创建laravel8项目 2.配置phpstudy环境 3.打开域名运行 二、创建数据库演示 1.进入.env配置文件修改自己服务器database配置 2.创建数据库 3.进入项目目录,输入php artisan migrate如果报错参考下面…

ElasticSearch索引和搜索词匹配的一些细节

一个item“麦当劳”&#xff1a;被切词成“麦当 劳” 那么这个item的索引有2个term&#xff1a;“麦当”&#xff0c;“劳” 那么下面代码&#xff0c; 能召回这个item的代码&#xff1a; //可以召回这个itemArrayList<String> tokens new ArrayList<String>();…