【数据库优化-count()】count()统计行数

news/2024/12/29 0:40:46/

目录

1 count(*)为什么性能差?

2 优化count(*)性能

2.1 增加redis缓存

2.2 多线程执行

2.3 减少join的表

3 count的各种用法性能对比


数据库:Mysql8、存储引擎是Innodb

通常情况下,分页接口一般会查询两次数据库,第一次是获取具体数据,第二次是获取总的记录行数,然后把结果整合之后,再返回。

查询具体数据的sql,比如是这样的,它没有性能问题。

select id,name from user limit 1,20;

但另外一条使用count(*)查询总记录行数的sql,却存在性能差的问题。例如:

select count(*) from user;

为什么会出现这种情况呢?

1 count(*)为什么性能差?

在Mysql中,count(*)的作用是统计表中记录的总行数。而count(*)的性能跟存储引擎有直接关系,但并非在所有的存储引擎中使用count(*)的性能都很差。

在Mysql中使用最多的存储引擎是:innodbmyisam

在myisam中会把总行数保存到磁盘上,使用count(*)时,只需要返回那个数据即可,无需额外的计算,所以执行效率很高。

而innodb则不同,由于它支持事务,有MVCC(即多版本并发控制)的存在,在同一个时间点的不同事务中,同一条查询sql,返回的记录行数可能是不确定的。在innodb使用count(*)时,需要从存储引擎中一行行地读出数据,然后累加起来,所以执行效率很低。如果表中数据量小还好,一旦表中数据量很大,innodb存储引擎使用count(*)统计数据时,性能就会很差。

2 优化count(*)性能

2.1 增加redis缓存

对于简单的count(*),比如:统计浏览总次数或者浏览总人数,我们可以直接将接口使用redis缓存起来,没必要实时统计。

当用户打开指定页面时,在缓存中每次都设置成count = count+1即可。用户第一次访问页面时,redis中的count值设置成1。用户以后每访问一次页面,都让count加1,最后重新设置到redis中。

这样在需要展示数量的地方,从redis中查出count值返回即可。

该场景无需从数据埋点表中使用count(*)实时统计数据,性能将会得到极大的提升。不过在高并发的情况下,可能会存在缓存和数据库的数据不一致的问题。但对于统计浏览总次数或者浏览总人数这种业务场景,对数据的准确性要求并不高,容忍数据不一致的情况存在。

2.2 多线程执行

比如有这样一个需求:统计有效订单有多少,无效订单有多少。

这种情况一般需要写两条sql,统计有效订单的sql如下:

select count(*) from order where status=1;

统计无效订单的sql如下:

select count(*) from order where status=0;

 但如果在一个接口中,同步执行这两条sql效率会非常低。这时候,可以改成一条sql:

select count(*),status from order
group by status;

使用group by关键字分组统计相同status的数量,只会产生两条记录,一条记录是有效订单数量,另外一条记录是无效订单数量。但有个问题:status字段只有1和0两个值,重复度很高,区分度非常低,不能走索引,会全表扫描,效率也不高。

还有其他的解决方案不?答:使用多线程处理。

我们可以使用CompleteFuture,两个线程异步调用统计有效订单的sql和统计无效订单的sql,最后汇总数据,这样能够提升查询接口的性能。

2.3 减少join的表

大部分的情况下,使用count(*)是为了实时统计总数量的。但如果表本身的数据量不多,但join的表太多,也可能会影响count(*)的效率。比如在查询商品信息时,需要根据商品名称、单位、品牌、分类等信息查询数据。这时候写一条sql可以查出想要的数据,比如下面这样的:

select count(*)
from product p
inner join unit u on p.unit_id = u.id
inner join brand b on p.brand_id = b.id
inner join category c on p.category_id = c.id
where p.name='测试商品' and u.id=123 and b.id=124 and c.id=125;

使用product表去joinunit、brand和category这三张表。其实这些查询条件,在product表中都能查询出数据,没必要join额外的表。

我们可以把sql改成这样:

select count(*)  
from product
where name='测试商品' and unit_id=123 and brand_id=124 and category_id=125;

在count(*)时只查product单表即可,去掉多余的表join,让查询效率可以提升不少。

3 count的各种用法性能对比

  • count(*) :它会获取所有行的数据,不做任何处理,行数加1。

  • count(1):它会获取所有行的数据,每行固定值1,也是行数加1。

  • count(id):id代表主键,它需要从所有行的数据中解析出id字段,其中id肯定都不为NULL,行数加1。

  • count(普通索引列):它需要从所有行的数据中解析出普通索引列,然后判断是否为NULL,如果不是NULL,则行数加1。

  • count(未加索引列):它会全表扫描获取所有数据,解析出未加索引列,然后判断是否为NULL,如果不是NULL,则行数加1。

由此,最后count的性能从高到低是:

count(*) ≈ count(1) > count(id) > count(普通索引列) > count(未加索引列) 

所以,其实count(*)是最快的。 


http://www.ppmy.cn/news/138909.html

相关文章

Python版Day4

24. 两两交换链表中的节点 给你一个链表,两两交换其中相邻的节点,并返回交换后链表的头节点。你必须在不修改节点内部的值的情况下完成本题(即,只能进行节点交换)。 # Definition for singly-linked list. # class Lis…

1、中关村在线-大中华区专业IT网站

1、网址:http://www.zol.com.cn/ 2、该网站可方便下载各种软件 转载于:https://www.cnblogs.com/wf2010517141/p/10208487.html

学习资源网站

1.中关村:https://www.zol.com.cn/ 2.运维派:http://www.yunweipai.com/ 3.IT运维网:https://www.ityww.cn/ 4.W3school:https://www.w3school.com.cn/ 5.绿惨运维博客:https://www.cnblogs.com/clsn/ 6.脚本之家&…

jQuery仿中关村在线网站内容图片上评论弹幕代码特效

网页弹幕效果想必大家都不陌生,这个有的人喜欢,有的人不喜欢,但是作为技术前端人员,这些技术您的了解一点:下面我给大家看个效果图: 要实现这个功能,首先我们要写个DIV,然后里面加个…

nas怎么做网站服务器,NAS存储搭建网站服务器

极客头条 中关村在线 2017-09-06 有工作或生活中接触网站的朋友都知道,网站是通过服务器存储网站的源代码文件,然后通过域名与服务器连接,最终用户就可以通过域名访问网站了。看到这里不禁脑洞大开,既然网站服务器主要也就是起到…

中关村等oss在线图床网站源码 带画廊

介绍: 中关村等oss在线图床网站源码 带画廊 网盘下载地址: http://kekewl.cc/vLN2rxh0MTP 图片:

使用webmagic 爬取中关村评论

和之前爬取天气网站一样,现在用webmagic爬取中关村在线华为手机的评论。(http://detail.zol.com.cn/405/404275/review.shtml) 之前的天气网站由数据是静态的,解析时很容易就能获取,这次的评论数据不一样,是js动态加载的。 f12打…

局域网服务器网站iis设置,用IIS(网络信息服务器)配置WEB服务器

用Windows自带的IIS(网络信息服务器)可以轻松的让你的东西被同一个局域网中的其他用户访问,下面是配置WEB服务器的步骤: 控制面板-》程序与功能-》打开或关闭Windows功能-》勾选Internet信息服务,并且展开Internet信息服务选上FTP服务器,Web管…