mysql 海量数据设计:对数据库存储有深入研究

news/2024/12/22 14:40:43/

索引:

聚簇索引

二级索引

联合索引:最左匹配原则、自动优化顺序

索引优化方向:

存储空间

主键选择:自增主键、随机主键、业务主键

如何设计一个雪花算法:

正数 + 时间戳 + 机器id(固定) + 服务id + 序号

package util;import java.util.Date;/*** @ClassName: SnowFlakeUtil*/
public class SnowFlakeUtil {private static SnowFlakeUtil snowFlakeUtil;static {snowFlakeUtil = new SnowFlakeUtil();}// 初始时间戳(纪年),可用雪花算法服务上线时间戳的值// 1650789964886:2022-04-24 16:45:59private static final long INIT_EPOCH = 1650789964886L;// 时间位取&private static final long TIME_BIT = 0b1111111111111111111111111111111111111111110000000000000000000000L;// 记录最后使用的毫秒时间戳,主要用于判断是否同一毫秒,以及用于服务器时钟回拨判断private long lastTimeMillis = -1L;// dataCenterId占用的位数private static final long DATA_CENTER_ID_BITS = 5L;// dataCenterId占用5个比特位,最大值31// 0000000000000000000000000000000000000000000000000000000000011111private static final long MAX_DATA_CENTER_ID = ~(-1L << DATA_CENTER_ID_BITS);// dataCenterIdprivate long dataCenterId;// workId占用的位数private static final long WORKER_ID_BITS = 5L;// workId占用5个比特位,最大值31// 0000000000000000000000000000000000000000000000000000000000011111private static final long MAX_WORKER_ID = ~(-1L << WORKER_ID_BITS);// workIdprivate long workerId;// 最后12位,代表每毫秒内可产生最大序列号,即 2^12 - 1 = 4095private static final long SEQUENCE_BITS = 12L;// 掩码(最低12位为1,高位都为0),主要用于与自增后的序列号进行位与,如果值为0,则代表自增后的序列号超过了4095// 0000000000000000000000000000000000000000000000000000111111111111private static final long SEQUENCE_MASK = ~(-1L << SEQUENCE_BITS);// 同一毫秒内的最新序号,最大值可为 2^12 - 1 = 4095private long sequence;// workId位需要左移的位数 12private static final long WORK_ID_SHIFT = SEQUENCE_BITS;// dataCenterId位需要左移的位数 12+5private static final long DATA_CENTER_ID_SHIFT = SEQUENCE_BITS + WORKER_ID_BITS;// 时间戳需要左移的位数 12+5+5private static final long TIMESTAMP_SHIFT = SEQUENCE_BITS + WORKER_ID_BITS + DATA_CENTER_ID_BITS;/*** 无参构造*/public SnowFlakeUtil() {this(1, 1);}/*** 有参构造* @param dataCenterId* @param workerId*/public SnowFlakeUtil(long dataCenterId, long workerId) {// 检查dataCenterId的合法值if (dataCenterId < 0 || dataCenterId > MAX_DATA_CENTER_ID) {throw new IllegalArgumentException(String.format("dataCenterId 值必须大于 0 并且小于 %d", MAX_DATA_CENTER_ID));}// 检查workId的合法值if (workerId < 0 || workerId > MAX_WORKER_ID) {throw new IllegalArgumentException(String.format("workId 值必须大于 0 并且小于 %d", MAX_WORKER_ID));}this.workerId = workerId;this.dataCenterId = dataCenterId;}/*** 获取唯一ID* @return*/public static Long getSnowFlakeId() {return snowFlakeUtil.nextId();}/*** 通过雪花算法生成下一个id,注意这里使用synchronized同步* @return 唯一id*/public synchronized long nextId() {long currentTimeMillis = System.currentTimeMillis();System.out.println(currentTimeMillis);// 当前时间小于上一次生成id使用的时间,可能出现服务器时钟回拨问题if (currentTimeMillis < lastTimeMillis) {throw new RuntimeException(String.format("可能出现服务器时钟回拨问题,请检查服务器时间。当前服务器时间戳:%d,上一次使用时间戳:%d", currentTimeMillis,lastTimeMillis));}if (currentTimeMillis == lastTimeMillis) {// 还是在同一毫秒内,则将序列号递增1,序列号最大值为4095// 序列号的最大值是4095,使用掩码(最低12位为1,高位都为0)进行位与运行后如果值为0,则自增后的序列号超过了4095// 那么就使用新的时间戳sequence = (sequence + 1) & SEQUENCE_MASK;if (sequence == 0) {currentTimeMillis = getNextMillis(lastTimeMillis);}} else { // 不在同一毫秒内,则序列号重新从0开始,序列号最大值为4095sequence = 0;}// 记录最后一次使用的毫秒时间戳lastTimeMillis = currentTimeMillis;// 核心算法,将不同部分的数值移动到指定的位置,然后进行或运行// <<:左移运算符, 1 << 2 即将二进制的 1 扩大 2^2 倍// |:位或运算符, 是把某两个数中, 只要其中一个的某一位为1, 则结果的该位就为1// 优先级:<< > |return// 时间戳部分((currentTimeMillis - INIT_EPOCH) << TIMESTAMP_SHIFT)// 数据中心部分| (dataCenterId << DATA_CENTER_ID_SHIFT)// 机器表示部分| (workerId << WORK_ID_SHIFT)// 序列号部分| sequence;}/*** 获取指定时间戳的接下来的时间戳,也可以说是下一毫秒* @param lastTimeMillis 指定毫秒时间戳* @return 时间戳*/private long getNextMillis(long lastTimeMillis) {long currentTimeMillis = System.currentTimeMillis();while (currentTimeMillis <= lastTimeMillis) {currentTimeMillis = System.currentTimeMillis();}return currentTimeMillis;}/*** 获取随机字符串,length=13* @return*/public static String getRandomStr() {return Long.toString(getSnowFlakeId(), Character.MAX_RADIX);}/*** 从ID中获取时间* @param id 由此类生成的ID* @return*/public static Date getTimeBySnowFlakeId(long id) {return new Date(((TIME_BIT & id) >> 22) + INIT_EPOCH);}public static void main(String[] args) {SnowFlakeUtil snowFlakeUtil = new SnowFlakeUtil();long id = snowFlakeUtil.nextId();System.out.println(id);Date date = SnowFlakeUtil.getTimeBySnowFlakeId(id);System.out.println(date);long time = date.getTime();System.out.println(time);System.out.println(getRandomStr());}}

雪花算法优点:

  • 高并发分布式环境下生成不重复 id,每秒可生成百万个不重复 id。
  • 基于时间戳,以及同一时间戳下序列号自增,基本保证 id 有序递增。
  • 不依赖第三方库或者中间件。
  • 算法简单,在内存中进行,效率高。
  • 不是连续的,找不到规律

雪花算法缺点:

  • 依赖服务器时间,服务器时钟回拨时可能会生成重复 id。算法中可通过记录最后一个生成 id 时的时间戳来解决,每次生成 id 之前比较当前服务器时钟是否被回拨,避免生成重复 id。

怎样建索引最好?

单列索引,如果有业务唯一索引,可不使用自增id

组合索引:尽量保证最左匹配

哪些特殊情况索引不会失效?

索引合并: or查询

什么情况索引会失效?

索引隐式类型转换: varchar字段,传long,不报错,但不走索引,全表扫描

包含计算

索引区分度过低:回表太多次,还不如走全表扫描

条件超出索引范围:走索引没意义了

我的一些经验:

Mysql 为什么默认定义varchar(255) 而不是varchar(256)

char, varchar类型的值,会有一个长度标识位来存值长度。
当定义varchar长度小于等于255时,长度标识位需要一个字节;
当大于255时,长度标识位需要两个字节

真实使用空间是:255 + 1 + 2 = 258字节

1、utf8mb4: 表情符号

2、时间使用long: 兼容数据库切换

3、boolean使用tinyint:: 兼容数据库切换

4、枚举使用tinyint: 兼容数据库切换

5、金额建议使用long: 兼容数据库切换

6、索引数量不要太多

7、单个索引字段不超过5个:有一些算法的,记不大清了,可以百度搜一下,组合索引是否限制长度

8、字符串索引使用前缀索引:最好使用前缀索引

分库分表

啥时候分表?

数据达到千万级

为什么达到千万级要考虑分表?

因为b+树超过三层,查询会变慢

有哪些方案?

垂直:库、表 

如何垂直?

不常用的数据,做垂直分库分表

水平:

如何水平?

取模:

        如何取模?  id % n个库表,写好取模算法

冷热分区:常用语消息历史数据保存。之前做大数据时,用到的。不影响指定时间的数据查询,还能保证定期数据统计PV/UV

基因注入法:包含业务分类

什么是基因注入法? 雪花算法增加业务id

基因注入法优点和缺点?

优点:尽可能的保证同类数据在同一个库表中

缺点:数据拆分不均匀

        

水平分库分表,扩容(一开始分表分少了)怎么做?有哪些方案?

1、简单做法,不做数据迁移

2、

分页怎么做?


http://www.ppmy.cn/news/48215.html

相关文章

Redis的事务

Redis的事务 1. 是什么? Redis事务可以一次执行多个命令,本质是一组命令的集合 一个事务中的所有命令都会序列化,按顺序地串行化执行而不会被其他命令插入,不许加塞 2. 能干嘛 一个队列中,一次性、顺序性、排他性地执行一些列命令 3. Redis事务 VS MySQL事务 4. Redis事…

FTP上传下载

这里FTP上传使用的是&#xff1a; commons-net:commons-net:3.6 首先登录 FTPClient client new FTPClient();// 连接FPT服务器,设置IP及端口client.connect(host地址, port端口);client.login(userName用户名, passWord密码);client.changeWorkingDirectory(filePath文件夹…

Django | 一文完美解决admin增加新用户只有用户名密码和确认密码的问题

文章目录 如图所示&#xff0c;下面给出解决方案&#xff1a; 如果您使用 使用 Django 默认的后台管理界面添加用户时&#xff0c;只看到了三个字段&#xff08;通常是 username、password和 repassword&#xff09;&#xff0c;那么可以通过定义 add_fieldsets 属性来增加更多…

【eXtplorer】本地搭建免费在线文件管理器并实现在外远程登录

文章目录 1. 前言2. eXtplorer网站搭建2.1 eXtplorer下载和安装2.2 eXtplorer网页测试2.3 cpolar的安装和注册 3.本地网页发布3.1.Cpolar云端设置3.2.Cpolar本地设置 4.公网访问测试5.结语 1. 前言 通过互联网传输文件&#xff0c;是互联网最重要的应用之一&#xff0c;无论是…

我把Solon打包成了native image,速度快的惊人

我刚开始对 Solon 感兴趣的原因&#xff0c;就是启动快、包体积小&#xff0c;用了一段时间之后&#xff0c;发现 Solon 使用 GraalVM native iamge 打包有一些问题&#xff0c;我把问题发到 Solon 用户群里&#xff0c;作者告诉我 Solon 的原生编译还 beat 阶段&#xff0c;只…

内存管理、内存映射、mmap

内存管理 MMU&#xff1a;Memory Management Unit&#xff0c;内存管理单元&#xff0c;CPU中独立硬件&#xff0c;负责处理CPU的内存访问请求。虚拟地址到物理地址的转换&#xff08;即虚拟内存管理&#xff09;。 物理内存&#xff1a;真实存在的插在主板内存槽上的内存条&a…

C# 类库打包推送到nuget

步骤1&#xff1a;注册nuget 账号&#xff0c;可以使用outlook邮箱进行注册 步骤2&#xff1a;建立 apikey 名字自己起&#xff0c;Glob Pattern 填入“*” 步骤3&#xff1a;把程序打包&#xff0c;打包很简单右键vs2022 打包就好 但是注意*.csproj 文件修改,修改目的是为了…

python 操作CAD 二次开发 相关函数

import win32com.client as win32#输出dwg文件 from pyautocad import Autocad#输出dwg文件 import numpy as np#输出dwg文件 import pywin32 #输出dxf文件 import ezdxf #输出dxf文件 #打开CAD AutoCAD.Application.18 为 2010版本 #AutoCAD.Application.19 为 2014版本 #Au…