使用MinIO文件存储系统【完成视频断点续传】业务逻辑

news/2024/10/17 3:14:00/

目录

视频上传

接口一:检查该视频/媒资文件是否已经上传完成

接口二:检查视频分块是否已经在minio中已经存在

接口三:上传分块文件到minio中(已经上传的分块会在接口二进行校验)

接口四:合并上传的分块文件保存文件合并后的文件信息


视频上传

视频上传流程图

 

接口一:检查该视频/媒资文件是否已经上传完成

首先:前端计算上传视频的MD5传递给后端,后端接收到MD5值之后,通过MD5到媒资管理表中查询是否存在该文件信息,如果存在并且从媒资管理表中获取这个文件存放在minio的位置,通过位置到minio分布式文件系统中查询文件是否存在,如果mysql媒资信息表和minio中的媒资文件都存在返回true,无需进行后续上传,如果不存在返回前端false用来。

controller层

    @ApiOperation(value = "文件上传前检查文件")@PostMapping("/upload/checkfile")public RestResponse<Boolean> checkfile(@RequestParam("fileMd5") String fileMd5) throws Exception {RestResponse<Boolean> booleanRestResponse = mediaFilesService.checkFile(fileMd5);return booleanRestResponse;}

 service层

接口:

    public RestResponse<Boolean> checkFile(String fileMd5);

实现类:

    /*** 通过md5值在数据库判断该文件是否存在* @param fileMd5 文件的md5* @return*/@Overridepublic RestResponse<Boolean> checkFile(String fileMd5) {MediaFiles mediaFiles = baseMapper.selectById(fileMd5);//说明在数据库中已经存在if (mediaFiles!=null){//检查在minio中是否存在//桶String bucket = mediaFiles.getBucket();//存储目录String filePath = mediaFiles.getFilePath();//文件流InputStream stream = null;try {stream = minioClient.getObject(GetObjectArgs.builder().bucket(bucket).object(filePath).build());if (stream!=null){//return 文件已经存在return RestResponse.success(true);}} catch (Exception e) {e.printStackTrace();}}return RestResponse.success(false);}

 

接口二:检查视频分块是否已经在minio中已经存在

首先接收前端上传媒资文件所生成的md5和分块序号,通过文件的md5值和文件每一块的序号组成在minio中存储分块文件的位置,获取该位置的分块文件是否存在,如果存在返回true(说明该分块文件已经在此前完成过上传,无需再次上传),如果不存在返回false,说明该分块文件还未上传,重新上传这一块文件。

controller层(控制层)

    @ApiOperation(value = "分块文件上传前的检测")@PostMapping("/upload/checkchunk")public RestResponse<Boolean> checkchunk(@RequestParam("fileMd5") String fileMd5, @RequestParam("chunk") int chunk) throws Exception {RestResponse<Boolean> booleanRestResponse = mediaFilesService.checkChunk(fileMd5,chunk);return booleanRestResponse;}

 service层(业务逻辑层)

接口:

    public RestResponse<Boolean> checkChunk(String fileMd5, int chunkIndex);

接口实现类:

 /*** 检查分块是否已经存在* @param fileMd5  文件的md5* @param chunkIndex  分块序号* @return*/@Overridepublic RestResponse<Boolean> checkChunk(String fileMd5, int chunkIndex) {//获取所在的桶String bucket = BUCKET_VIDEO;//分块文件的路径String chunkFileFolderPath = getChunkFileFolderPath(fileMd5) + chunkIndex;//文件流InputStream inputStream = null;try {inputStream = minioClient.getObject(GetObjectArgs.builder().bucket(bucket).object(chunkFileFolderPath).build());} catch (Exception e) {e.printStackTrace();log.debug("分块不存在");}if (inputStream !=null){return RestResponse.success(true);}return RestResponse.success(false);}

 

接口三:上传分块文件到minio中(已经上传的分块会在接口二进行校验)

接收前端传来的分割好的5M文件和这个文件的分割序号以及完整文件的md5值,将文件在本地转储一下,进行上传,如果是用户原先上传一半停止了上传或者由于网络波动导致上传中断,下一次上传原先文件时会在接口二中判断原先文件的哪几块已经存在minio中,存在的分块无需再次上传,不存在的分块走上传分块文件接口进行上传分块文件。

controller层(控制层)

    @ApiOperation(value = "上传分块文件")@PostMapping("/upload/uploadchunk")public RestResponse uploadchunk(@RequestParam("file") MultipartFile file, @RequestParam("fileMd5") String fileMd5, @RequestParam("chunk") int chunk) throws Exception {System.out.println(fileMd5);System.out.println("分块文件序号:"+chunk);//创建临时文件File tempFile = File.createTempFile("minio", "temp");//上传的文件拷贝到临时文件file.transferTo(tempFile);//文件路径String absolutePath = tempFile.getAbsolutePath();RestResponse restResponse = mediaFilesService.uploadChunk(fileMd5, chunk, absolutePath);return restResponse;}

service(业务逻辑层)

接口:

    /*** @description 上传分块* @param fileMd5  文件md5* @param chunk  分块序号* @param  localfChunkFilePath 本地文件路径*/public RestResponse uploadChunk(String fileMd5,int chunk,String localfChunkFilePath);

实现类:

@Overridepublic RestResponse uploadChunk(String fileMd5, int chunk, String localfChunkFilePath) {//得到分块文件的路径String chunkFileFolderPath = getChunkFileFolderPath(fileMd5);//String chunkFilePath = chunkFileFolderPath + chunk;//得到文件类型String mimeType = getMimeType(null);//上传分块文件到minioboolean flag = false;try {flag = addMediaFilesToMinIO(localfChunkFilePath, mimeType, BUCKET_VIDEO, chunkFilePath);} catch (Exception e) {log.debug("上传分块文件:{},失败:{}",chunkFilePath,e.getMessage());}if (!flag){return RestResponse.validfail(false,"上传分块文件失败");}return RestResponse.success(true);}

上传文件的方法

    /*** @description 将文件写入minIO* @param localFilePath  文件地址* @param bucket  桶* @param objectName 对象名称*/public boolean addMediaFilesToMinIO(String localFilePath,String mimeType,String bucket, String objectName) {try {UploadObjectArgs testbucket = UploadObjectArgs.builder().bucket(bucket).object(objectName).filename(localFilePath).contentType(mimeType).build();minioClient.uploadObject(testbucket);log.info("上传文件到minio成功,bucket:{},objectName:{}",bucket,objectName);System.out.println("上传成功");return true;} catch (Exception e) {e.printStackTrace();log.error("上传文件到minio出错,bucket:{},objectName:{},错误原因:{}",bucket,objectName,e.getMessage(),e);XueChengPlusException.cast("上传文件到文件系统失败");}return false;}

 

接口四:合并上传的分块文件保存文件合并后的文件信息

当前端按照5M将文件切分好依次上传所有之后,会请求接口四(合并文件),后端接收原文件的md5值和上传文件的名称和分块总数,在业务层进行处理,

1:首先会通过md5值获取在minio中存储该文件的分块位置目录

2:通过接收到分块总数和存储分块的位置得到所有分块文件的存储的具体位置存放到集合中

3:通过位置路径调用minio的合并api,将文件合并。

4:将合并好的文件临时下载到本地获得合并文件的md5值和前端上传文件的md5进行比较

5:删除临时本地的临时文件,如果校验通过存储该文件的相关信息到mysql媒资表中

6:就是将minio中存储的分块文件给删除。

controller层

    @ApiOperation(value = "合并文件")@PostMapping("/upload/mergechunks")public RestResponse mergechunks(@RequestParam("fileMd5") String fileMd5, @RequestParam("fileName") String fileName, @RequestParam("chunkTotal") int chunkTotal) throws Exception {System.out.println(fileMd5);System.out.println(chunkTotal);Long companyId = 1232141425L;UploadFileParamsDto uploadFileParamsDto = new UploadFileParamsDto();uploadFileParamsDto.setFileType("001002");uploadFileParamsDto.setTags("课程视频");uploadFileParamsDto.setRemark("");uploadFileParamsDto.setFilename(fileName);return mediaFilesService.mergechunks(companyId,fileMd5,chunkTotal,uploadFileParamsDto);}

业务层

接口

    /*** @description 合并分块* @param companyId  机构id* @param fileMd5  文件md5* @param chunkTotal 分块总和* @param uploadFileParamsDto 文件信息*/public RestResponse mergechunks(Long companyId,String fileMd5,int chunkTotal,UploadFileParamsDto uploadFileParamsDto);

实现类:

    @Overridepublic RestResponse mergechunks(Long companyId, String fileMd5, int chunkTotal, UploadFileParamsDto uploadFileParamsDto) {//=====获取分块文件路径=====String chunkFileFolderPath = getChunkFileFolderPath(fileMd5);//组成将分块文件路径组成 List<ComposeSource>List<ComposeSource> sourceObjectList = Stream.iterate(0, i -> ++i).limit(chunkTotal).map(i -> ComposeSource.builder().bucket(BUCKET_VIDEO).object(chunkFileFolderPath.concat(Integer.toString(i))).build()).collect(Collectors.toList());//=====合并=====//文件名称String fileName = uploadFileParamsDto.getFilename();//文件扩展名String extName = fileName.substring(fileName.lastIndexOf("."));//合并文件路径String mergeFilePath = getFilePathByMd5(fileMd5, extName);try {//合并文件ObjectWriteResponse response = minioClient.composeObject(ComposeObjectArgs.builder().bucket(BUCKET_VIDEO).object(mergeFilePath).sources(sourceObjectList).build());log.info("合并文件成功:{}",mergeFilePath);} catch (Exception e) {log.info("合并文件失败,fileMd5:{},异常:{}",fileMd5,e.getMessage(),e);return RestResponse.validfail(false, "合并文件失败。");}// ====验证md5====File minioFile = downloadFileFromMinIO(BUCKET_VIDEO,mergeFilePath);if(minioFile == null){log.debug("下载合并后文件失败,mergeFilePath:{}",mergeFilePath);return RestResponse.validfail(false, "下载合并后文件失败。");}try (InputStream newFileInputStream = new FileInputStream(minioFile)) {//minio上文件的md5值String md5Hex = DigestUtils.md5Hex(newFileInputStream);//比较md5值,不一致则说明文件不完整if(!fileMd5.equals(md5Hex)){return RestResponse.validfail(false, "文件合并校验失败,最终上传失败。");}//文件大小uploadFileParamsDto.setFileSize(minioFile.length());}catch (Exception e){log.debug("校验文件失败,fileMd5:{},异常:{}",fileMd5,e.getMessage(),e);return RestResponse.validfail(false, "文件合并校验失败,最终上传失败。");}finally {if(minioFile!=null){minioFile.delete();}}//文件入库currentProxy.addMediaFilesToDb(companyId,fileMd5,uploadFileParamsDto,BUCKET_VIDEO,mergeFilePath);//=====清除分块文件=====clearChunkFiles(chunkFileFolderPath,chunkTotal);return RestResponse.success(true);}

下载合并文件的方法

    /*** 从minio下载文件* @param bucket 桶* @param objectName 对象名称* @return 下载后的文件*/public File downloadFileFromMinIO(String bucket,String objectName){//临时文件File minioFile = null;FileOutputStream outputStream = null;try{InputStream stream = minioClient.getObject(GetObjectArgs.builder().bucket(bucket).object(objectName).build());//创建临时文件minioFile=File.createTempFile("minio", ".merge");outputStream = new FileOutputStream(minioFile);IOUtils.copy(stream,outputStream);return minioFile;} catch (Exception e) {e.printStackTrace();}finally {if(outputStream!=null){try {outputStream.close();} catch (IOException e) {e.printStackTrace();}}}return null;}

清楚分块文件的方法

 /*** 清除分块文件* @param chunkFileFolderPath 分块文件路径* @param chunkTotal 分块文件总数*//*** 清除分块文件* @param chunkFileFolderPath 分块文件路径* @param chunkTotal 分块文件总数*/private void clearChunkFiles(String chunkFileFolderPath,int chunkTotal){try {List<DeleteObject> deleteObjects = Stream.iterate(0, i -> ++i).limit(chunkTotal).map(i -> new DeleteObject(chunkFileFolderPath.concat(Integer.toString(i)))).collect(Collectors.toList());RemoveObjectsArgs removeObjectsArgs = RemoveObjectsArgs.builder().bucket(BUCKET_VIDEO).objects(deleteObjects).build();Iterable<Result<DeleteError>> results = minioClient.removeObjects(removeObjectsArgs);results.forEach(r->{DeleteError deleteError = null;try {deleteError = r.get();} catch (Exception e) {e.printStackTrace();log.error("清楚分块文件失败,objectname:{}",deleteError.objectName(),e);}});} catch (Exception e) {e.printStackTrace();log.error("清楚分块文件失败,chunkFileFolderPath:{}",chunkFileFolderPath,e);}}

 


http://www.ppmy.cn/news/80336.html

相关文章

天猫订单之数据分析与挖掘——分类分析

天猫订单之数据分析与挖掘——分类分析 文章目录 天猫订单之数据分析与挖掘——分类分析0. 写在前面1. 分类分析1.1 决策树预测1.2 随机森林1.3 朴素贝叶斯算法0. 写在前面 Windows:Windows10Python:Python3.9本次案例项目主要是采用Pandas和Numpy对天猫订单数据集进行处理、…

linux共享内存总结

共享内存函数由shmget、shmat、shmdt、shmctl四个函数组成 头文件&#xff1a; #include <sys/ipc..h> #include<sys/shm.h> // 创建或获取一个共享内存: 成功返回共享内存ID&#xff0c;失败返回-1 int shmget (key_t key, size_t_size, int flag); // 连接共享内…

图片翻译怎么弄?如何把图片翻译成中文?

在使用社交媒体时&#xff0c;可能会遇到来自世界各地的异文化信息&#xff0c;这时我们可以借助图片翻译的方法帮助我们更好地了解这些信息&#xff0c;促进跨文化交流。那么图片翻译怎么弄呢&#xff1f;图片翻译的方法有哪些呢&#xff1f;这篇文章给你推荐三个非常好用的图…

ROS学习(5)——话题消息与服务

节点之间的消息通信分为几种形式&#xff1a; 话题(topic):单向消息发送/接收方式服务(service):双向消息请求/响应方式动作(action):双向消息目标(goal)/结果(result)/反馈(feedback)方式参数服务器(参数共享模式) 种类区别话题异步单向连续单向的发送/接收数据的情况服务同步…

安装编译PostgreSql15.3.0

一、下载源码 方式一 官网手动下载 https://www.postgresql.org/download/. 解压 tar -zxvf postgresql-14.2.tar.gz方式二 git clone git clone https://github.com/postgres/postgres.git解压或下载后计入postgres目录 cd postgres-15.3二、创建目录 用root账户创建 创建…

Vue电商项目--平台售卖属性和的排序操作制作

平台售卖属性的操作 就是点击平台的售卖属性&#xff0c;下面显示对应的内容 这里我们要借助这个props属性 这里块是平台的售卖属性&#xff0c;我们在这里绑定回调&#xff0c;一点击就把id传给父组件 我们需要把这俩个参数传进入 商品属性的数组: ["属性ID:属性值:…

js中setinterval怎么用?怎么才能让setinterval停下来?

setinterval()是定时调用的函数&#xff0c;可按照指定的周期&#xff08;以毫秒计&#xff09;来调用函数或计算表达式。 setinterval()的作用是在播放动画的时&#xff0c;每隔一定时间就调用函数&#xff0c;方法或对象。 setInterval() 方法会不停地调用函数&#xff0c;…