minio 部署、迁移、使用

news/2024/9/17 19:07:17/

一、minio 部署

1、单节点部署

部署IP：192.168.206.10

1.1、下载minio的二进制文件

wget https://dl.min.io/server/minio/release/linux-amd64/minio

1.2、规划磁盘

minio 数据目录一定不能和 跟/ 在一个磁盘上，要单独挂载，比如规划将minio的数据目录置于/data/minio，如果按照以下的磁盘，/mkdir /data/minio后，目录是在 / 下创建。

故你需要将/data目录单独挂一块盘或者将/data/minio目录单独挂一块盘，否则后续启动会提示Error: Drive `/data/minio/data1` is part of root drive, will not be used 

API: SYSTEM()
Time: 10:12:55 UTC 08/12/2022
Error: Drive `/data/minio/data1` is part of root drive, will not be used (*errors.errorString)8: internal/logger/logger.go:259:logger.LogIf()7: cmd/erasure-sets.go:1243:cmd.markRootDisksAsDown()6: cmd/format-erasure.go:800:cmd.initFormatErasure()5: cmd/prepare-storage.go:198:cmd.connectLoadInitFormats()4: cmd/prepare-storage.go:282:cmd.waitForFormatErasure()3: cmd/erasure-server-pool.go:109:cmd.newErasureServerPools()2: cmd/server-main.go:694:cmd.newObjectLayer()1: cmd/server-main.go:531:cmd.serverMain()

添加磁盘（演示环境资源有限，只是添加一块2G盘符），由于已经有一块硬件（sda），故第二块磁盘名称为sdb (Linux 硬盘知识)

添加磁盘后开机，进行磁盘格式化分区，并挂载到/data/minio上，操作如下

[root@master01 ~]# fdisk -l /dev/sdb[root@master01 ~]# fdisk /dev/sdb命令(输入 m 获取帮助)：n                      # n 创建分区
Partition type:p   primary (0 primary, 0 extended, 4 free)e   extended
Select (default p): p                        # n 创建主分区
分区号 (1-4，默认 1)：                        #  直接回车，走默认1
起始 扇区 (2048-4194303，默认为 2048)：       # 直接回车，从默认2048开始
将使用默认值 2048
Last 扇区, +扇区 or +size{K,M,G} (2048-4194303，默认为 4194303)：   # 直接回车，说明有多少做多少G硬盘
将使用默认值 4194303
分区 1 已设置为 Linux 类型，大小设为 2 GiB命令(输入 m 获取帮助)：p     # 打印磁盘 /dev/sdb：2147 MB, 2147483648 字节，4194304 个扇区
Units = 扇区 of 1 * 512 = 512 bytes
扇区大小(逻辑/物理)：512 字节 / 512 字节
I/O 大小(最小/最佳)：512 字节 / 512 字节
磁盘标签类型：dos
磁盘标识符：0x23a6127b设备 Boot      Start         End      Blocks   Id  System
/dev/sdb1            2048     4194303     2096128   83  Linux命令(输入 m 获取帮助)：w      # 保存分区
The partition table has been altered!Calling ioctl() to re-read partition table.
正在同步磁盘。[root@master01 ~]# ll /dev/sdb*
brw-rw---- 1 root disk 8, 16 4月   7 04:43 /dev/sdb
brw-rw---- 1 root disk 8, 17 4月   7 04:43 /dev/sdb1[root@master01 ~]# mkfs.xfs  /dev/sdb1   # 格式化分区
meta-data=/dev/sdb1              isize=512    agcount=4, agsize=131008 blks=                       sectsz=512   attr=2, projid32bit=1=                       crc=1        finobt=0, sparse=0
data     =                       bsize=4096   blocks=524032, imaxpct=25=                       sunit=0      swidth=0 blks
naming   =version 2              bsize=4096   ascii-ci=0 ftype=1
log      =internal log           bsize=4096   blocks=2560, version=2=                       sectsz=512   sunit=0 blks, lazy-count=1
realtime =none                   extsz=4096   blocks=0, rtextents=0[root@master01 ~]# blkid           # 查看/dev/sdb1的uuid
/dev/sda1: UUID="c219aeb3-fb5b-4009-9e9c-e3396a36ea3b" TYPE="xfs"
/dev/sda2: UUID="B6PX7v-uSkg-08db-w9V3-TT31-x7x5-ehMsr4" TYPE="LVM2_member"
/dev/sdb1: UUID="1f00db8b-dc34-4528-93ad-043192739a20" TYPE="xfs"
/dev/mapper/centos-root: UUID="243723b9-2e4d-40a6-aed9-23e227d61572" TYPE="xfs"
/dev/mapper/centos-swap: UUID="9ded6aff-9d46-4b84-abb9-1de8691c5bf7" TYPE="swap"[root@master01 ~]# echo "UUID=1f00db8b-dc34-4528-93ad-043192739a20 /data/minio xfs defaults 0 0 " >> /etc/fstab  # 将/dev/sdb1 挂载到 /data/minio[root@master01 ~]# tail -n 2 /etc/fstab
#UUID=e27dc238-c4d9-4921-81a0-53d7002f0e33 /opt/yyiuap/  xfs defaults 0 0
UUID=1f00db8b-dc34-4528-93ad-043192739a20 /data/minio xfs defaults 0 0[root@master01 ~]# mount -a    # 读取/etc/fstab 文件重新挂载[root@master01 ~]# df -h
文件系统                 容量  已用  可用 已用% 挂载点
/dev/mapper/centos-root   48G   11G   38G   22% /
devtmpfs                 899M     0  899M    0% /dev
tmpfs                    911M     0  911M    0% /dev/shm
tmpfs                    911M  9.6M  902M    2% /run
tmpfs                    911M     0  911M    0% /sys/fs/cgroup
/dev/sda1               1014M  142M  873M   14% /boot
tmpfs                    183M     0  183M    0% /run/user/0
/dev/sdb1                2.0G   33M  2.0G    2% /data/minio     # 发现已经挂载

1.3、规划目录结构和时间服务器

[root@master minio]# ntpdate -u cn.pool.ntp.org
[root@master minio]# mkdir bin data1 data2 config certs log run
[root@192 opt]# tree -f minio/
minio
├── minio/bin                              # 二进制文件目录
│   └── minio/bin/minio
├── minio/certs                            # 证书文件目录
│   ├── minio/certs/private.key            # 私钥文件
│   ├── minio/certs/public.crt             # 证书文件
├── minio/config                           # 配置文件目录
├── minio/data1                            # minio数据目录1
├── minio/data2                            # minio数据目录2 
├── minio/log                              # 日志文件目录
│   └── minio/log/minio.log                # 日志文件
└── minio/run                              # 自定义脚本├── minio/run/create_cert.sh           # 生成证书脚本├── minio/run/minio.service            # minio service文件├── minio/run/stop.sh                  # minio服务停止脚本└── minio/run/start.sh                 # minio服务启动脚本

1.4、配置启动参数

  • 将下载的 minio 放入 /data/minio/bin/
[root@master bin]# cd /data/minio/bin
[root@master bin]# rz minio
[root@master bin]# ll   
-rw-r--r-- 1 root root 96837632 4月   7 11:51 minio
  • 定义minio.service（分https和http启动）
[root@master minio]#  vi /usr/lib/systemd/system/minio_http.service
[Unit]
Description=Minio service
Documentation=This is a Minio Service.[Service]
Type=forking
# 启动服务时的等待的秒数，TimeoutStartSec 的值指定为 0，从而关闭超时检测。
TimeoutStartSec=10
# 工作目录
WorkingDirectory=/data/minio
# 服务运行用户
User=root
# 服务运行用户组
Group=root
Restart=on-failure
RestartSec=15s
ExecStart=/data/minio/run/start_http.sh
ExecStop=/data/minio/run/stop.sh[Install]
WantedBy=multi-user.target

[root@master minio]#  vi /usr/lib/systemd/system/minio_https.service
[Unit]
Description=Minio service
Documentation=This is a Minio Service.[Service]
Type=forking
# 启动服务时的等待的秒数，TimeoutStartSec 的值指定为 0，从而关闭超时检测。
TimeoutStartSec=10
# 工作目录
WorkingDirectory=/data/minio
# 服务运行用户
User=root
# 服务运行用户组
Group=root
Restart=on-failure
RestartSec=15s
ExecStart=/data/minio/run/start_https.sh
ExecStop=/data/minio/run/stop.sh[Install]
WantedBy=multi-user.target
  • start.sh 启动脚本(https)
[root@master01 run]# vi /data/minio/run/start_https.sh
#!/bin/bash
## MinIO启动脚本# 设置环境变量
# 设置HOME
export MINIO_HOME=/data/minio
# 默认配置文件目录${HOME}/.minio,默认会将配置信息生成到config.json文件
export MINIO_COFNIG_DIR=/${MINIO_HOME}/config
# TLS证书目录:
#    私钥private.key
#    证书public.crt
export MINIO_CERTS_DIR=/${MINIO_HOME}/certs
# 日志目录
export MINIO_LOG_PATH=/${MINIO_HOME}/log
# 访问凭证AK
export MINIO_ROOT_USER=minio_admin
# 访问凭证SK
export MINIO_ROOT_PASSWORD=minio_admin!@#
# 是否开启web访问,默认是开启
export MINIO_BROWSER=on
# 证书密码
export MINIO_CERT_PASSWD=admin123!@#
# 支持path-style访问，默认 http://mydomain.com/bucket/object
export MINIO_DOMAIN=test_minio.com
# MINIO的集群中各节点IP
export MINIO_HOST=192.168.206.10
# 39000 为API调用接口， 9000为web console接口
# 启动minio
nohup  /${MINIO_HOME}/bin/minio server \--config-dir ${MINIO_COFNIG_DIR} \--certs-dir ${MINIO_CERTS_DIR} \--address ${MINIO_HOST}:39000 --console-address ":9000" \https://${MINIO_HOST}/${MINIO_HOME}/data1 https://${MINIO_HOST}/${MINIO_HOME}/data2 \>> ${MINIO_LOG_PATH}/minio.log 2>&1 &

其中 MINIO_CERTS_DIR=/${MINIO_HOME}/certs   和   MINIO_CERT_PASSWD=admin123!@#  定义的https证书

minio 是支持副本的，也就是说传入minio中的数据，会一摸一样复制两份分别在规划/data//minio/data1 和  /data//minio/data2中，数据会存在两份，在没有设置纠删码的前提下。故需要在启动脚本中配置神声明

如果规划中，如果项设置3个存储目录，则就要有/data//minio/data1 和  /data//minio/data2 和  /data//minio/data3，然后在修改启动参数如下()

minio 在新版本后，控制台页面的端口和api端口区分出来，如何配置如下

  • start.sh 启动脚本(http)
[root@master01 run]# vi /data/minio/run/start_http.sh
#!/bin/bash
## MinIO启动脚本# 设置环境变量
# 设置HOME
export MINIO_HOME=/data/minio
# 日志目录
export MINIO_LOG_PATH=/${MINIO_HOME}/log
# 访问凭证AK
export MINIO_ROOT_USER=minio_admin
# 访问凭证SK
export MINIO_ROOT_PASSWORD=minio_admin!@#
# 是否开启web访问,默认是开启
export MINIO_BROWSER=on
# 支持path-style访问，默认 http://mydomain.com/bucket/object
export MINIO_DOMAIN=test_minio.com
# MINIO的集群中各节点IP
export MINIO_HOST=192.168.206.10
# 39000 为API调用接口， 9000为web console接口
# 启动minio
nohup  /${MINIO_HOME}/bin/minio server \--address ${MINIO_HOST}:39000 --console-address ":9000" \http://${MINIO_HOST}/${MINIO_HOME}/data1 http://${MINIO_HOST}/${MINIO_HOME}/data2 \>> ${MINIO_LOG_PATH}/minio.log 2>&1 &
  • stop.sh 停止脚本
[root@master01 run]# cat /data/minio/run/stop.sh
#!/bin/bash
## MinIO停止脚本
ps -ef | grep  minio | grep -v 'grep' | awk '{print $2}'| xargs kill -9if [ $? -ne 0 ];thenecho "minio service stop failed."exit 1
fi
  • 生成https证书文件，参考英文官网 3.2.2 Generate a private key with RSA
[root@master certs]# vi /data/minio/certs/create_cert.sh
#!/bin/bash
# 用来生成pem证书文件
# sh create_cert.sh
set -e# 从外界读取输入参数到指定变量
function read_input() {read -p "please input $1 parms:" $2
}
# 初始化输入参数
function init_input_param() {read_input "cert domain" "DOMAIN"read_input "cert path" "CERT_PATH"read_input "cert password" "PASSWORD"readonly IP=$(ip addr | grep 'state UP' -A2 | tail -n1 | awk '{print $2}' | awk -F"/" '{print $1}')readonly DNS=$(ip addr | grep 'state UP' -A2 | tail -n1 | awk '{print $4}' | awk -F"/" '{print $1}')
}# 生成openssl.conf文件
function generate_openssl_config() {
cat > ${CERT_PATH}/openssl.conf <<-EOF[req]distinguished_name = req_distinguished_namex509_extensions = v3_reqprompt = no[req_distinguished_name]C = CNST = VAL = SomewhereO = MyOrgOU = MyOUCN = ${DOMAIN}[v3_req]subjectAltName = @alt_names[alt_names]IP.1 = 127.0.0.1IP.2 = ${IP}DNS.1 = ${DNS}DNS.2 = ${DOMAIN}
EOF
}# openssl 生成私钥
function generate_private_key() {# 生成长度为2048的私钥openssl genrsa -aes256 -passout pass:${PASSWORD} -out ${CERT_PATH}/private-pkcs8.key 2048# 转换为PCKS-1openssl rsa -passin pass:${PASSWORD} -in ${CERT_PATH}/private-pkcs8.key -aes256 -passout pass:${PASSWORD} -out ${CERT_PATH}/private.key
}# 生成自签名文件
function generate_self_sign_cert() {openssl req -new -x509 -nodes -days 730 -keyout ${CERT_PATH}/private.key -passout pass:${PASSWORD} -out ${CERT_PATH}/public.crt -config ${CERT_PATH}/openssl.conf
}# 清除
function clean() {rm -rf ${CERT_PATH}/openssl.confrm -rf ${CERT_PATH}/private-pkcs8.key
}# 执行流程
function main() {init_input_paramgenerate_openssl_configgenerate_private_keygenerate_self_sign_certclean
}main
[root@master certs]# chmod +x create_cert.sh

执行命令： sh create_cert.sh，输入以下参数，如图所示

1.5、注册系统服务，并启动服务

启动minio(https)

[root@master minio]# chmod 755 /data/minio/run/* 
[root@master minio]# chmod +x /data/minio/bin/minio
# 开机自启minio.service
systemctl enable minio.service
# 刷新服务
systemctl daemon-reload
# 启动服务
systemctl start minio_https.service

如下日志代表成功

访问页面 https://192.168.206.10:9000/browser，如果登录后，页面为空白，则换成其他浏览器

启动minio(http)

http协议，有时候浏览器登录后显示空白页，需要换浏览器、清理缓存测试

[root@master run]# systemctl stop minio_https.service
[root@master log]# systemctl start minio_https.service

命令行启动服务（另一种方案，直接在shell界面）

[root@master bin]# MINIO_ROOT_USER=minio_admin MINIO_ROOT_PASSWORD=minio_admin\!\@\# ./minio server /data/minio/data1 /data/minio/data2 --console-address ":9000" --address :39000

2、集群部署

规划机器192.169.206.5  192.169.206.6  192.169.206.7  ，每个机器3个存储目录 data1 data2 data3

2.1、环境准备

下载minio、挂载磁盘，同步时间服务器具体看上述（单节点部署(下载minio的二进制文件) 和 (规划磁盘) ）

2.2、规划目录结构

[root@master minio]# mkdir bin data1 data2 data3 config certs log run

2.3、配置启动参数

  • 将下载的 minio 放入 /data/minio/bin/
[root@master bin]# cd /data/minio/bin
[root@master bin]# rz minio
[root@master bin]# ll   
-rw-r--r-- 1 root root 96837632 4月   7 11:51 minio
  • 定义minio.service（https启动）
[root@master minio]#  vi /usr/lib/systemd/system/minio.service
[Unit]
Description=Minio service
Documentation=This is a Minio Service.[Service]
Type=forking
# 启动服务时的等待的秒数，TimeoutStartSec 的值指定为 0，从而关闭超时检测。
TimeoutStartSec=10
# 工作目录
WorkingDirectory=/data/minio
# 服务运行用户
User=root
# 服务运行用户组
Group=root
Restart=on-failure
RestartSec=15s
ExecStart=/data/minio/run/start.sh
ExecStop=/data/minio/run/stop.sh[Install]
WantedBy=multi-user.target
  • start.sh 启动脚本（注意其中的CURRENT_IP，代表的是当前节点的IP ）
[root@master01 run]# vi /data/minio/run/start.sh
#!/bin/bash
## MinIO启动脚本# 设置环境变量
# 设置HOME
export MINIO_HOME=data/minio
# 默认配置文件目录${HOME}/.minio,默认会将配置信息生成到config.json文件
export MINIO_COFNIG_DIR=/${MINIO_HOME}/config
# TLS证书目录:
#    私钥private.key
#    证书public.crt
export MINIO_CERTS_DIR=/${MINIO_HOME}/certs
# 日志目录
export MINIO_LOG_PATH=/${MINIO_HOME}/log
# 访问凭证AK
export MINIO_ROOT_USER=minio_admin
# 访问凭证SK
export MINIO_ROOT_PASSWORD=minio_admin!@#
# 是否开启web访问,默认是开启
export MINIO_BROWSER=on
# 证书密码
export MINIO_CERT_PASSWD=admin123!@#
# 支持path-style访问，默认 http://mydomain.com/bucket/object
export MINIO_DOMAIN=test_minio.com
# MINIO的集群中各节点IP
export MINIO_HOST_1=192.168.206.5
export MINIO_HOST_2=192.168.206.6
export MINIO_HOST_3=192.168.206.7
export CURRENT_IP=$MINIO_HOST_1
# 39000 为API调用接口， 9000为web console接口
# 启动minio
nohup  /${MINIO_HOME}/bin/minio server \--config-dir ${MINIO_COFNIG_DIR} \--certs-dir ${MINIO_CERTS_DIR} \--address 0.0.0.0:39000 --console-address ":9000" \https://${MINIO_HOST_1}/${MINIO_HOME}/data1 https://${MINIO_HOST_1}/${MINIO_HOME}/data2 https://${MINIO_HOST_1}/${MINIO_HOME}/data3 \https://${MINIO_HOST_2}/${MINIO_HOME}/data1 https://${MINIO_HOST_2}/${MINIO_HOME}/data2 https://${MINIO_HOST_2}/${MINIO_HOME}/data3 \https://${MINIO_HOST_3}/${MINIO_HOME}/data1 https://${MINIO_HOST_3}/${MINIO_HOME}/data2 https://${MINIO_HOST_3}/${MINIO_HOME}/data3 \>> ${MINIO_LOG_PATH}/minio.log 2>&1 &[root@master01 run]#

  • stop.sh 停止脚本
[root@master01 run]# vi /data/minio/run/stop.sh
#!/bin/bash
## MinIO停止脚本
ps -ef | grep  minio | grep -v 'grep' | awk '{print $2}'| xargs kill -9if [ $? -ne 0 ];thenecho "minio service stop failed."exit 1
fi
  • 生成https证书文件（随机一台机器操作，比如在192.168.206.5），参考英文官网 3.2.2 Generate a private key with RSA
[root@master01 certs]# cat /data/minio/certs/create_cert.sh
#!/bin/bash
# 用来生成pem证书文件
# sh create_cert.sh
set -e# 从外界读取输入参数到指定变量
function read_input() {read -p "please input $1 parms:" $2
}
# 初始化输入参数
function init_input_param() {read_input "cert domain" "DOMAIN"read_input "cert path" "CERT_PATH"read_input "cert password" "PASSWORD"read_input "peer ip 1" "PEER_IP_1"read_input "peer ip 2" "PEER_IP_2"readonly IP=$(ip addr | grep 'state UP' -A2 | tail -n1 | awk '{print $2}' | awk -F"/" '{print $1}')readonly DNS=$(ip addr | grep 'state UP' -A2 | tail -n1 | awk '{print $4}' | awk -F"/" '{print $1}')
}# 生成openssl.conf文件
function generate_openssl_config() {
cat > ${CERT_PATH}/openssl.conf <<-EOF[req]distinguished_name = req_distinguished_namex509_extensions = v3_reqprompt = no[req_distinguished_name]C = CNST = VAL = SomewhereO = MyOrgOU = MyOUCN = ${DOMAIN}[v3_req]subjectAltName = @alt_names[alt_names]IP.1 = 127.0.0.1IP.2 = ${IP}IP.3 = ${PEER_IP_1}IP.4 = ${PEER_IP_2}DNS.1 = ${DNS}DNS.2 = ${DOMAIN}
EOF
}# openssl 生成私钥
function generate_private_key() {# 生成长度为2048的私钥openssl genrsa -aes256 -passout pass:${PASSWORD} -out ${CERT_PATH}/private-pkcs8.key 2048# 转换为PCKS-1openssl rsa -passin pass:${PASSWORD} -in ${CERT_PATH}/private-pkcs8.key -aes256 -passout pass:${PASSWORD} -out ${CERT_PATH}/private.key
}# 生成自签名文件
function generate_self_sign_cert() {openssl req -new -x509 -nodes -days 730 -keyout ${CERT_PATH}/private.key -passout pass:${PASSWORD} -out ${CERT_PATH}/public.crt -config ${CERT_PATH}/openssl.conf
}# 执行流程
function main() {init_input_paramgenerate_openssl_configgenerate_private_keygenerate_self_sign_cert
}main

这里注意，因为我是3个节点，所以证书中需要有三个节点，此脚本中，默认会将自己的IP加入证书中，所以需要在添加2个IP，故需要定义如下

所以如果是4节点，那就是增加对应的 read_input "peer ip 2" "PEER_IP_2"  和 IP.4 = ${PEER_IP_2}

[root@master certs]# chmod +x create_cert.sh

执行命令： sh create_cert.sh，输入以下参数，如图所示

制作完成后，查看正式申请文件

 

  • 将公钥私钥，发送给其他两台节点的/data/minio/certs/下
[root@master01 certs]# scp private.key public.crt 192.168.206.6:/data/minio/certs/
[root@master01 certs]# scp private.key public.crt 192.168.206.7:/data/minio/certs/

2.4、注册系统服务，并启动服务

启动minio

[root@master minio]# chmod 755 /data/minio/run/* 
[root@master minio]# chmod +x /data/minio/bin/minio
# 开机自启minio.service
systemctl enable minio.service
# 刷新服务
systemctl daemon-reload
# 启动服务
systemctl start minio_https.service

查看如下代表无问题

二、minio 数据迁移

1、使用rclone进行数据的迁移

1.1、准备工作

将集群（192.168.206.5/6/7）数据迁移到单节点（192.168.206.10）。

由于 minio 开启纠删码、和设置 set ，每一个节点，每一个data 可能都不一样，故不能直接scp，否则会存在有些文件下载损坏

由于 rclone 要与 minio 的api接口通信才能获取数据，但https的minio rclone在没有证书的前提下，无法获取，网上也没有搜索到如何向rclone添加证书，故此次实验只能通过（minio的http协议）集群， 迁移到（minio的http协议）单节点

1.2、下载安装rclone

[root@master src]# wget https://downloads.rclone.org/rclone-current-linux-amd64.zip
[root@master src]# unzip rclone-current-linux-amd64.zip
[root@master src]# chmod 0755 ./rclone-v1.62.2-linux-amd64/rclone
[root@master src]# cp -r ./rclone-v1.62.2-linux-amd64/rclone /usr/bin/

生成配置文件，运行配置命令，生成的文件位置：/root/.config/rclone/rclone.conf

[root@master rclone]# rclone config
2023/04/07 14:11:24 NOTICE: Config file "/root/.config/rclone/rclone.conf" not found - using defaults
No remotes found, make a new one?
n) New remote
s) Set configuration password
q) Quit config
n/s/q> n                                   # n 创建Enter name for new remote.
name> minio-old                            # 不是配置文件名字，配置文件中定义的[name]
Storage> s3                                # 存储类型s3
provider> Minio                            # 类型Minio
env_auth> false                            # 从运行时获取AWS凭据，填写false
access_key_id> minio_admin
secret_access_key> minio_admin!@# 
region>                                   # 要连接到的区域，如果您使用的是S3克隆，并且您没有区域，请留空
endpoint> http://192.168.206.5:39000      # Endpoint for S3 API.
location_constraint>                      # 选项位置约束，位置约束-必须设置为与区域匹配，如果不确定，请留空。仅在创建存储桶时使用。
acl>                                      # 创建存储桶和存储或复制对象时使用的屏蔽ACL，如果acl是一个空字符串，则不添加X-Amz-acl:标头，并且将使用默认（私有）
server_side_encryption>                   # 在S3中存储此对象时使用的服务器端加密算法。按Enter键保留为空
sse_kms_key_id>                           # 如果使用KMS ID，您必须提供密钥的ARN。按Enter键保留为空。# 高级配置（结束）
Edit advanced config?
y) Yes
n) No (default)
y/n> n                                    # n 默认结束Configuration complete.
Options:
- type: s3
- provider: Minio
- access_key_id: minio_admin
- secret_access_key: minio_admin!@#
- region: cn-east-1
- endpoint: http://192.168.206.10:39000
Keep this "minio" remote?
y) Yes this is OK (default)
e) Edit this remote
d) Delete this remote
y/e/d> y                                  # 写入一个新的文件e) Edit existing remote
n) New remote
d) Delete remote
r) Rename remote
c) Copy remote
s) Set configuration password
q) Quit config
e/n/d/r/c/s/q> q 
[root@master rclone]# ll /root/.config/rclone/rclone.conf
-rw------- 1 root root 157 4月   7 14:16 /root/.config/rclone/rclone.conf
[root@master rclone]# cat /root/.config/rclone/rclone.conf
[minio-old]
type = s3
provider = Minio
env_auth=false
access_key_id = minio_admin
secret_access_key = minio_admin!@#
region = 
endpoint = http://192.168.206.5:39000
location_constraint=
server_side_encryption=

1.3、rclone迁移数据方式一（rclone集群备份到本地，本地到单minio）

将源数据minio集群通过rclone拷贝到目标机器（注意，此处由于 minio 开启纠删码不能使用 scp，只能用rclone拷贝） ，随后在目标机器使用 rclone 迁移到单minio

  • 查看源数据集群数据结构，查看有多少个桶

  • 在192.168.168.5 或者 192.168.168.6 或者 192.168.168.7 或者 192.168.168.10 或者任意一台机器，安装rclone，并编写rclone.conf
[root@master run]# cat /root/.config/rclone/rclone.conf
[minio-old]
type = s3
provider = Minio
env_auth = false
access_key_id = minio_admin
secret_access_key = minio_admin!@#
region =
endpoint = http://192.168.206.5:39000    # 此处写源 minio 集群中的随机一台节点IP，端口是api端口
location_constraint =
server_side_encryption =

        使用 rclone ，将源 minio 集群数据的 test1 test2 test3 桶，导入到本地 

[root@master01 ~]# ifconfig |grep 192inet 192.168.206.10  netmask 255.255.255.0  broadcast 192.168.206.255[root@master data]# mkdir -p /data/minio_backup/{test1 test2 test3}[root@master minio_backup]# rclone sync -P minio-old:test1 /data/minio_backup/test1
Transferred:       21.825M / 21.825 MBytes, 100%, 59.059 MBytes/s, ETA 0s
Transferred:           15 / 15, 100%
Elapsed time:         0.4s[root@master minio_backup]# rclone sync -P minio-old:test2 /data/minio_backup/test2[root@master minio_backup]# rclone sync -P minio-old:test3 /data/minio_backup/test3或者可以使用
rclone copy minio-old:test1 /data/minio_backup/test1
rclone copy minio-old:test2 /data/minio_backup/test2
rclone copy minio-old:test3 /data/minio_backup/test3

  • 使用 rclone 命令将本地的/data/minio_backup/test1导入到单节点minio

        修改rclone.conf，写的是单节点minio的信息

[root@master ~]# cat /root/.config/rclone/rclone.conf
[minio-new]
type = s3
provider = Minio
env_auth = false
access_key_id = minio_admin
secret_access_key = minio_admin!@#
region =
endpoint = http://192.168.206.10:39000
location_constraint =
server_side_encryption =
# 导入节点不用事先创建test1 test2 test3 桶，会自动创建
[root@master minio_backup]# rclone sync -P minio-old:test1 /data/minio_backup/test1
Transferred:       21.825M / 21.825 MBytes, 100%, 59.059 MBytes/s, ETA 0s
Transferred:           15 / 15, 100%
Elapsed time:         0.4s[root@master minio_backup]# rclone sync -P minio-old:test2 /data/minio_backup/test2
Transferred:        1.282M / 1.282 MBytes, 100%, 15.141 MBytes/s, ETA 0s
Transferred:            8 / 8, 100%
Elapsed time:         0.1s[root@master minio_backup]# rclone sync -P minio-old:test3 /data/minio_backup/test3
Transferred:      296.772M / 296.772 MBytes, 100%, 73.345 MBytes/s, ETA 0s
Transferred:           38 / 38, 100%
Elapsed time:         4.1s

1.4、rclone迁移数据方式二（rclone集群直接迁移到单minio，不用导入本地） 

在目标机器或者源数据机器，安装rclone， 在 rclone 中定义，源跟目录，执行后自动迁移。注意不管是源还是目的，https都会提示没有证书，所以只能同步http

[minio-old]
type = s3
provider = Minio
env_auth = false
access_key_id = minio_admin
secret_access_key = minio_admin!@#
region =
endpoint = http://192.168.206.5:39000
location_constraint =
server_side_encryption =[minio-new]
type = s3
provider = Minio
env_auth = false
access_key_id = minio_admin
secret_access_key = minio_admin!@#
region =
endpoint = http://192.168.206.10:39000
location_constraint =
server_side_encryption =


rclone sync minio-old:test7 minio-new:test7   # 将 minio-old 的 test7 桶 导入到 minio-new 的 test7桶

1.2、迁移注意事项

1、可以使用rclone迁移项目，迁移对象可以是

单节点 迁移到 集群  （rclone 目的IP写集群中随机一台节点即可）
集群   迁移到 单节点（rclone 源IP写集群中随机一台节点即可）
单节点 迁移到 单节点
集群   迁移到 集群  （rclone 源、目的IP写集群中随机一台节点即可）

2、可以使用rclone导出到本地，在scp到目的地址机器后，进行本地导入新 minio

3、rclone 迁移两端不能是https协议，因为没有证书导致不能获取数据，在网上查找并没有找到关于rclone 添加证书的内容，故只能将 https 的 minio 使用 http 启动，但https 启动的 minio 改用 http 后，可能存在登录 minio 后，页面变成空白，f12 提示 session 是 access denied，故猜测是有session的缓存，但具体怎么清楚minio的session，也没有找到，一定不是在 /data/minio中存放的，只能多一天左右时间，session自动过期。

4、可以使用minio管理工具mc进行迁移

5、可以使用 cp 或者 scp 直接拷贝到新的 minio（仅限于两端数据节点都是对等的，例如源minio为单节点，并有data1 data2 data2 ,目的 minio 也必须一模一样，scp 也要一摸一样的拷贝数据到对端相对应的目录 ），只要触碰不对等，则一定不能使用 cp 或者 scp 直接拷贝，因为 minio 是由纠删码，也就是意味者每条数据 data1 data2 data3 下存放的东西不一样，可能是数据，可能是纠删码对应申城的校验码（默认数据和校验码1:1，比如data1 data2 data3 data4,则2个数据2个校验）

6、minio在<0.7M时，才不会生成校验码（part1）, 只有数据 xl.meta


http://www.ppmy.cn/news/44893.html

相关文章

Netty通信技术进阶二

Netty通信技术进阶二

Netty核心组件 1. Bootstrap2 Channel3. EventLoopGroup 和 EventLoop3.1 eventLoopThreads 是多少&#xff1f; 4. ChannelHandler & ChannelHandlerContext & ChannelPipeline4.1 复用Handler4.2 ChannelInboundHandlerAdapter or SimpleChannelInboundHandler 5. By…
阅读更多...
7nm+跨域计算+极致性价比，这家芯片厂商助攻车企「降本增效」

7nm+跨域计算+极致性价比，这家芯片厂商助攻车企「降本增效」

汽车芯片赛道的「卷」&#xff0c;或许超出了所有人的预期。对于单纯TOPS算力的比拼&#xff0c;已经翻篇&#xff0c;如何让车企有的用&#xff0c;用得上&#xff0c;还要用得好&#xff0c;已经是新风向。 实际上&#xff0c;在汽车智能化刚刚开始的2018年&#xff0c;彼时类…
阅读更多...
【开懂C++】引用与关键字auto

【开懂C++】引用与关键字auto

目录 一.引用1.引用的概念2.引用的使用和问题3.引用与指针的比较二.关键字auto 一.引用 1.引用的概念 引用就是给一个已经存在的变量取一个别名&#xff0c;与变量共用一段内存空间。注意引用的类型必须和变量类型相同&#xff0c;来演示下引用如何使用。 #include <iost…
阅读更多...
xshell是什么软件

xshell是什么软件

xshell是什么软件? Xshell 是一个强大的远程管理软件&#xff0c;它支持SSH&#xff0c;TELNET 协议。Xshell可以在Windows下访问远端服务器、路由器、网络机顶盒等&#xff0c;类似的常用软件还有putty&#xff0c;以及Windows下的Telnet。 下面简单介绍一下xshell软件。 X…
阅读更多...
面试题React

面试题React

1.React Fiber是什么&#xff1f; 在 React V16 将调度算法进行了重构&#xff0c; 将之前的 stack reconciler 重构成新版的 fiber reconciler&#xff0c;变成了具有链表和指针的 单链表树遍历算法。通过指针映射&#xff0c;每个单元都记录着遍历当下的上一步与下一步&…
阅读更多...
银行数字化转型导师坚鹏：金融数据治理、数据安全政策解读

银行数字化转型导师坚鹏：金融数据治理、数据安全政策解读

金融数据治理、数据安全政策解读及大数据应用 课程背景&#xff1a; 很多银行存在以下问题&#xff1a; 不知道如何准确理解金融数据治理及数据安全相关政策 不清楚金融数据治理及数据安全相关政策对银行有什么影响&#xff1f; 不清楚如何有效应用金融数据治理及数据安…
阅读更多...
LeetCode：376. 摆动序列——说什么贪心和动规~

LeetCode：376. 摆动序列——说什么贪心和动规~

&#x1f34e;道阻且长&#xff0c;行则将至。&#x1f353; &#x1f33b;算法&#xff0c;不如说它是一种思考方式&#x1f340; 算法专栏&#xff1a; &#x1f449;&#x1f3fb;123 一、&#x1f331;376. 摆动序列 题目描述&#xff1a;如果连续数字之间的差严格地在正数…
阅读更多...
[golang gin框架] 23.Gin 商城项目-前台templates模板分离,首页,顶部导航,轮播图 左侧分类数据渲染

[golang gin框架] 23.Gin 商城项目-前台templates模板分离,首页,顶部导航,轮播图 左侧分类数据渲染

一.首页界面展示以及项目结构分析 首页界面展示 项目结构分析 二.代码展示 首页相关模型 首页相关模型如下: [golang gin框架] 21.Gin 商城项目-导航模块功能 [golang gin框架] 17.Gin 商城项目-商品分类模块, 商品类型模块,商品类型属性模块功能操作 [golang gin框架] 16.Gin …
阅读更多...
科创人·中建三局一公司尹奎：数字化变革能创造全新行业，其意义超越形式、范式创新

科创人·中建三局一公司尹奎：数字化变革能创造全新行业，其意义超越形式、范式创新

尹奎 中建三局一公司技术中心主任 教授级高级工程师&#xff0c;BIM领域资深专家&#xff0c;完成10余个基于BIM的相关研究课题&#xff0c;获省部级以上科技进步奖 13 项&#xff1b;公开出版专著3部&#xff0c;参与编写“十二五”国家重点图书出版规划项目《BIM应用施工》&a…
阅读更多...
实现一个登录功能方案设计2

实现一个登录功能方案设计2

需求MySQL表实现方案 index页面home页面 需求 实现一个登录功能 实现的功能 注册(邮箱注册) 登录(邮箱密码) 重置密码 查看操作记录(登录, 注册, 重置密码, 登出. 都算操作) 登出 在第一版的基础上进行优化:\ 优化点: 存操作信息 请求的post使用中间件进行储存操作信息.避免重复…
阅读更多...
门面设计模式

门面设计模式

目录 前言&#xff1a; 门面模式的原理与实现 门面模式的应用场景 1. 解决易用性问题 2. 解决性能问题 3.解决分布式事务问题 总结&#xff1a; 参考资料 前言&#xff1a; 相信我们平时的工作多多少少都涉及过接口设计&#xff0c;为了保证接口的可复用性&#xff0c;我…
阅读更多...
【论文阅读】ViT阅读笔记

【论文阅读】ViT阅读笔记

标题 一张图片可以等价于16*16的单词 transformer可以做大规模的图像识别 摘要 虽然现在transformer在nlp上得到广泛运用&#xff0c;但在cv上还没有运用 一般都是cnnattention 现在用transformer用cv的效果特别好 引言 nlp的主流方式&#xff1a;先做预训练&#xff0…
阅读更多...
Linux -- 进阶 Web 服务器 基础前瞻 （ 一 ）

Linux -- 进阶 Web 服务器 基础前瞻 （ 一 ）

目录 WWW 简介 &#xff1a; 组件一个网站得需要哪些东西呢 &#xff1f;&#xff1f; 1 得有 响应用户申请网页服务 的软件 2 服务器主机 3 那就需要数据了 4. 浏览器 预备知识 &#xff1a; 网址及HTTP 简介 &#xff1a; URL : http 请求方法 &#xff1a;…
阅读更多...
SpringCloud微服务技术栈.黑马跟学(十二)

SpringCloud微服务技术栈.黑马跟学(十二)

SpringCloud微服务技术栈.黑马跟学 十二 今日目标服务异步通信-高级篇1.消息可靠性1.1.生产者消息确认1.1.1.修改配置1.1.2.定义Return回调1.1.3.定义ConfirmCallback 1.2.消息持久化1.2.1.交换机持久化1.2.2.队列持久化1.2.3.消息持久化 1.3.消费者消息确认1.3.1.演示none模式…
阅读更多...
Go 构建基础的事件调度器

Go 构建基础的事件调度器

&#x1f447;我在这儿 当我们需要在一段时间后的特定时间或间隔运行任务时&#xff0c;我们需要使用任务调度系统来运行任务&#xff1a;例如发送电子邮件、推送通知、午夜关闭账户、清空表格等。 在本文中&#xff0c;我们将构建一个基本的事件调度程序&#xff0c;使用数据…
阅读更多...
LiangGaRy的学习分享

LiangGaRy的学习分享

LiangGaRy的学习分享 从小白开始&#xff0c;学习计算机技术&#xff1b;也算是一个比较大的跨越了&#xff0c;专业不对口&#xff1b;本来就没有基础&#xff1b;然后一直摸爬滚打来学习&#xff1b;有好多的心得与体会&#xff1b; 回顾当年上大学的时候&#xff0c;天天玩…
阅读更多...
LC-1041 困于环中的机器人（模拟，快慢指针找环）

LC-1041 困于环中的机器人（模拟，快慢指针找环）

1041. 困于环中的机器人 难度中等148 在无限的平面上&#xff0c;机器人最初位于 (0, 0) 处&#xff0c;面朝北方。注意: 北方向 是y轴的正方向。南方向 是y轴的负方向。东方向 是x轴的正方向。西方向 是x轴的负方向。 机器人可以接受下列三条指令之一&#xff1a; "…
阅读更多...
Codepipeline 跨账号访问 Codecommit

Codepipeline 跨账号访问 Codecommit

背景 大型企业中代码仓库通常存放在各部门开发账户中&#xff0c;而流水线则位于独立 DevOps 账户中。 本文我们将介绍如何创建跨账号访问 Codecommit 代码仓库的 Codepipeline 流水线&#xff0c;即 CodePipeline 调用另一个账号中的 Codecommit 代码仓库。 亚马逊云科技开发…
阅读更多...
【嵌入式烧录/刷写文件】-5.1-详解map格式文件

【嵌入式烧录/刷写文件】-5.1-详解map格式文件

目录 1 Map文件格式 1.1 TARGET SECTION字段 1.2 FILE SECTION字段 1.3 STARTUP SECTION字段 1.4 SECTION-ALLOCATION SECTION字段 1.5 VECTOR-ALLOCATION SECTION字段 1.6 OBJECT-ALLOCATION SECTION字段 1.7 MODULE STATISTIC字段 1.8 SECTION USE IN OBJECT-ALLOCA…
阅读更多...
Nginx配置ssl证书实现https安全访问

Nginx配置ssl证书实现https安全访问

目录 一、Nginx的安装与配置 安装步骤 二、SSL证书获取 三、Nginx配置 前题条件&#xff0c;拥有服务器与可以解析到该服务器的自己的域名。 一、Nginx的安装与配置 若已安装好了Nginx&#xff0c;则需查看自己的Nginx是否开启了SSL的模块功能&#xff1a; ./nginx -V 显…
阅读更多...
最新文章

Copyright @ 2022~2023

友情链接： 我的编程经验分享 一条长河网 尧图网站开发 尧图建网站