MongoDB-aggregate流式计算:去重操作

ops/2024/9/25 1:45:46/

场景一:去重查询

在MongoDB的find查询里,可以直接使用distinct方法,但也有不少限制

在aggregate流式计算中,没有办法直接使用distinct方法,需要使用其他方法实现:

1、使用$group管道操作符,将需要去重关键字段进行分组聚合;

2、在$group中,使用$addToSet操作符将分组聚合后数据放入数组中;

3、使用$unwind操作符将数组进行拆分;

4、使用$project将所需要的数据进行展示,不需要的数据排除掉;

db.collection_name.aggregate([{$group: {_id: "$jzlsh",jzlsh: {$addToSet: "$jzlsh"}}},{$unwind: {path: "$jzlsh",preserveNullAndEmptyArrays: true}},{$project: {_id: 0,jzlsh: 1}}
])

场景二:去重计数

1、使用$group操作符将需要去重计数的关键字段或者多个字段,进行分组聚合

2、使用$addToSet操作符将分组聚合后的字段添加到数组中

3、再下一个管道中再使用一次$group,此时将_id设置为null,表示不再进行分组,因为上一个管道中已经去除了重复数据

4、使用$sum操作符进行计数操作

db.collection_name.aggregate([{$group: {_id: "$xid",xid: {$addToSet: "$xid"}}},{$group: {_id: null,count: {$sum: 1}}}
])

 场景三:只查询出有重复的数据

根据上面两个例子已经掌握的知识,进行整合即可查询出有重复的数据:

1、使用$group操作符将目标字段进行分组

2、使用$addToSet操作符将分组聚合后的字段添加到数组中

3、使用$sum操作符,获取每一组数据中的数据出现次数

4、使用$unwind操作符将$addToSet生成的数组进行拆分

5、在下一个管道中使用$match操作符对count进行条件判断count:{$gt:1}即可得出重复数据

db.collection_name.aggregate([{$group: {_id: "$jzlsh",jzlsh: {$addToSet: "$jzlsh"},count: {$sum: 1}}},{$unwind: {path: "$jzlsh",preserveNullAndEmptyArrays: true}},{$match: {count: {$gt: 1}}}
])


http://www.ppmy.cn/ops/115555.html

相关文章

【计算机视觉】YoloV8-训练与测试教程

✨ Blog’s 主页: 白乐天_ξ( ✿>◡❛) 🌈 个人Motto:他强任他强,清风拂山冈! 💫 欢迎来到我的学习笔记! 制作数据集 Labelme 数据集 数据集选用自己标注的,可参考以下&#xff1a…

从角速度向量的角度理解姿态角速度和机体角速度的转换公式

一、什么是姿态角速度 这是我从《多旋翼飞行器设计和控制》上截取的关于欧拉角的定义。无人机的姿态角速度即偏航角、俯仰角、滚转角的一次导数,分别是、、。 二、什么是机体角速度 这是我在网上随便找的图,展示了机体坐标系。这个坐标系与飞机固定连接&…

单样本Cellchat(V2)细胞通讯分析学习和整理

细胞通讯分析是一种研究不同细胞类型之间如何通过信号分子(如配体和受体)进行相互交流和调控的分析方法。它在揭示细胞间相互作用的机制,理解组织和器官如何协调运作方面具有重要意义。 细胞通讯分析的主要内容如下: 配体-受体相…

Innovus跑到中途想要更换library怎么办?

有的小伙伴在跑innovus时,可能会碰到library更新等问题。但此时,place已经跑完了,又不想重新跑,怎么办呢? 其实,每次保存的innovus database里面都有专门存放这些数据的文件。我们可以将其中一些setting文件…

Linux:进程(四)

目录 一、进程优先级 二、Linux调度与切换 1.背景 2.进程切换 3.Linux调度 一、进程优先级 背景:在计算机中,软硬件资源是有限的,而进程想要访问某一种资源,就得通过排队来保证访问资源的过程是有条不紊的。 Linux下对优先级…

软件设计师考试笔记

计算机系统知识 计算机硬件基础 1.1 计算机组成原理 • 中央处理器(CPU): o CPU是计算机的核心部件,负责执行指令并进行算术与逻辑运算。它由控制单元、运算单元和寄存器组组成。 o 控制单元(CU)&#xff…

kafka 生产者拦截器

生产者拦截器 kafka 消息发送到Broker 之前大概需要经过 生产者拦截器 、序列化器、分区器等一系列处理。本文主要介绍生产者拦截器 生产者拦截器可以在消息发送之前对消息进行拦截。它可以改变消息内容,包括key , value ,topic 等任何信息 通常不推荐修改key , to…

弹性负载均衡ELB 详解和设置方法

一、弹性负载均衡ELB 详解 1. 定义与概念 弹性负载均衡(Elastic Load Balancing,简称ELB)是一种将访问流量自动分发到多台云服务器的流量分发控制服务。它通过在多个后端服务器之间均衡分配请求,提高应用程序的可用性、可扩展性…