RAGFlow:安装与体验

news/2024/10/18 16:07:38/

服务器需要有docker,或者直接访问官方提供的demo: https://demo.ragflow.io/

docker-compose安装

  • 需要确保 vm.max_map_count 不小于 262144 【更多】:
sysctl -w vm.max_map_count=262144  
  •  克隆仓库:
   $ git clone https://github.com/infiniflow/ragflow.git   
  • 进入 docker 文件夹,利用提前编译好的 Docker 镜像启动服务器:

   $ cd ragflow/docker   $ docker compose -f docker-compose-CN.yml up -d  

核心镜像文件大约 15 GB,可能需要一定时间拉取。请耐心等待。

体验

启动成功后,浏览器输入 http://服务器ip 或者直接访问官方demo https://demo.ragflow.io/

注册登录,进入后可以创建知识库,然后上传文档。

上传成功后,可以通过解析状态查看解析进度,也可以配置文档的parser解析方法,以更好的解析内容。

点击文档名称,可以进入文档详情,查看拆分的chunk,可以看到普通的文本是按照token拆分,还未实现按照段落语义拆分,差评。表格是单独抽取出来,独立存储的,将文档里的表格比较好的还原为了html表格,准确率尚可,这里好评。每个chunk有原文截图,点击后,右边的pdf预览,可以高亮当前的chunk所在区域,翻了下代码,使用的react-pdf-highlighter,体验挺好的一个组件。

DeepDoc CV模型

DeepDoc的模型应该是基于paddleOCR的模型去微调训练的,开源出来的模型是onnx格式的。

OCR识别

主要代码在ocr.py里,代码定义TextRecognizer 做文字识别,TextDetector 做文本框检测,OCR整合检测和识别功能,对外提供调用。

OCR的核心流程:

  • 创建 OCR 实例,load模型
  • 调用 __call__ 方法,传入图像数据。
    • 使用 TextDetector 进行文本检测,获取文本框坐标
    • 对每个文本框,使用 get_rotate_crop_image 方法进行旋转和裁剪
    • 使用 TextRecognizer 对裁剪后的图像进行文本识别
    • 过滤掉置信度低于阈值(0.5)的识别结果。
  • 返回最终的文本框坐标和识别结果。

版面分析

版面分析主要在recognizer.pylayout_recognizer.py里,定义了一个名为LayoutRecognizer 继承Recognizer的类,用于对文档图像进行板式分析,识别不同类型的区域,例如表格、标题、段落等。这里用的模型应该还是基于paddleocr里的版面分析模型去优化的。

先看Recognizer__call__ 方法,传入图像列表和置信度阈值:

def __call__(self, image_list, thr=0.7, batch_size=16):  res = []  imgs = []  for i in range(len(image_list)):  if not isinstance(image_list[i], np.ndarray):  imgs.append(np.array(image_list[i]))  else: imgs.append(image_list[i])  batch_loop_cnt = math.ceil(float(len(imgs)) / batch_size)  for i in range(batch_loop_cnt):  start_index = i * batch_size  end_index = min((i + 1) * batch_size, len(imgs))  batch_image_list = imgs[start_index:end_index]  inputs = self.preprocess(batch_image_list)  print("preprocess")  for ins in inputs:  bb = self.postprocess(self.ort_sess.run(None, {k:v for k,v in ins.items() if k in self.input_names})[0], ins, thr)  res.append(bb)  #seeit.save_results(image_list, res, self.label_list, threshold=thr)  return res

  • 先预处理,将图像列表转换为模型输入格式
  • 然后调用ort_sess执行onnx推理,最后postprocess,提取模型返回的布局信息,包括区域类型、坐标和置信度。

再看LayoutRecognizer__call__ 方法,这里是模型应用的工程代码部分,很多细节的小技巧,先上代码,里面加了一些注释:

def __call__(self, image_list, ocr_res, scale_factor=3,  thr=0.2, batch_size=16, drop=True):  # 可以过滤的垃圾数据  def __is_garbage(b):  patt = [r"^•+$", r"(版权归©|免责条款|地址[::])", r"\.{3,}", "^[0-9]{1,2} / ?[0-9]{1,2}$",  r"^[0-9]{1,2} of [0-9]{1,2}$", "^http://[^ ]{12,}",  "(资料|数据)来源[::]", "[0-9a-z._-]+@[a-z0-9-]+\\.[a-z]{2,3}",  "\\(cid *: *[0-9]+ *\\)"  ]  return any([re.search(p, b["text"]) for p in patt])  # 调用父类的模型识别  layouts = super().__call__(image_list, thr, batch_size)  # save_results(image_list, layouts, self.labels, output_dir='output/', threshold=0.7)  assert len(image_list) == len(ocr_res)  # Tag layout type  boxes = []  assert len(image_list) == len(layouts)  garbages = {}  page_layout = []  for pn, 

http://www.ppmy.cn/news/1443344.html

相关文章

【智能优化算法】蛇优化算法(Snake Optimizer,SO)

蛇优化算法(Aquila Optimizer,SO)是期刊“Knowledge-Based Systems”(中科院一区:IF 8.8 )的2022年智能优化算法 01.引言 蛇优化算法(Aquila Optimizer,SO)以解决模仿蛇特殊交配行为的各种优化任务。如果存在的食物量足够且温度低&#xff0…

秋招后端开发面试题 - Java多线程(下)

目录 Java多线程前言面试题synchronized?作用?synchronized 怎么使用?构造方法可以用 synchronized 修饰吗?synchronized 底层原理了解吗?除了原子性,synchronized 可见性,有序性,可…

Java代码审计-flink-streaming-platform-web

前言 项目地址:GitHub - zhp8341/flink-streaming-platform-web: 基于flink的实时流计算web平台 flink-streaming-platform-web是一个将flink封装的一个可视化的、轻量级的flink web客户端系统,用户只需在web 界面进行sql配置就能完成流计算任务。 项目…

安卓常用组件(启停活动页面、活动之间传递信息、收发应用广播、操作后台服务)

启停活动页面 Activity的启动和结束 页面跳转可以使用startActivity接口,具体格式为startActivity(new Intent(this, 目标页面.class));。 关闭一个页面可以直接调用finish();方法即可退出页面。 Activity的生命周期 页面在安卓有个新的名字叫活动,因…

《Fundamentals of Power Electronics》——三端电池的旋转、负载差分连接

以下是关于三端电池的旋转的相关知识点: Buck电路、Boost电路和Buck-Boost电路均包含一个与单刀单掷开关相连的电感。如下图所示。 将上图中的电感和开关网络视为一个标有a,b,c三端的基础电池。该电池在电源和负载之间有三种不同的连接方式。a-A b-B c-C连接方式组…

要从一个项目中去掉现有的Git信息,并重新建立新的Git仓库

要从一个项目中去掉现有的Git信息,并重新建立一个新的Git仓库,你可以按照以下步骤操作: 备份项目: 首先,确保备份你的项目文件,以防在操作过程中发生意外丢失。 删除原有的Git信息: 打开命令行…

echarts 双堆叠柱状图(数据整理)

1.后台返回的数据格式 {"code": "0000","message": "","messageCode": "操作成功","sign": null,"detail": null,"data": {"pieChart": [{"key": "产品…

解决:could not load library libcudnn_cnn_train.so.8

训练模型时报下面错误: could not load library libcudnn_cnn_train.so.8 出现错误的可能原因: PyTorch 有自己的 CUDA 依赖项(包括 cuDNN),所以需要从库路径中移除本地安装的 cuDNN,让 PyTorch 加载它自…