Gerapy 分布式爬虫管理框架

news/2024/12/23 6:29:18/

什么是 Gerapy 

Gerapy 是一个基于 Scrapy 的分布式爬虫管理框架。它提供了一个图形化的用户界面,使得用户可以更方便地进行 Scrapy 项目的管理和调度。Gerapy 支持项目的创建、编辑、部署以及调度任务的管理。

功能作用

  • 项目管理:Gerapy 允许用户通过 Web 界面创建、编辑和管理 Scrapy 项目。
  • 部署功能:用户可以直接通过 Gerapy 部署 Scrapy 项目到多台服务器,实现分布式爬取。
  • 任务调度:Gerapy 提供了任务调度功能,可以定时运行爬虫任务,并支持任务的监控和管理。
  • Web UI 界面:Gerapy 提供了一个简单易用的 Web 用户界面,使得管理和运行爬虫变得更加直观和方便。

安装 Gerapy 

pip install gerapy

使用 gerapy -v 查看是否安装成功

初始化 Gerapy 项目

gerapy init

会在命令执行目录生成一个 gerapy 文件

启动 Gerapy 服务

在 gerapy 项目目录下执行以下命令:

gerapy migrate       # 初始化数据库sqlite3数据库
gerapy runserver     # 启动 gerapy 服务    

访问 gerapy 的web页面地址:http://127.0.0.1:8000/

创建登录账号密码

gerapy createsuperuser

主机管理

添加 Scarpyd 主机节点

运行 Scrapyd 爬虫(Scrapyd 中要有 Scrapy项目)

Scrapyd 中的 Scrapy 项目列表(只能添加,不能删除)

项目管理

把自己原本的Scrapy项目压缩成zip包 。或者把scarpy项目copy到gerapy/projects目录下即可。

然后编辑 scrapy.cfg文件

然后部署项目到主机

任务管理

创建任务

效果

 


http://www.ppmy.cn/news/1517390.html

相关文章

vue设置水印

水印图例 1.新建Watermark.js 文件 const watermark {}const setWatermark (text, sourceBody) > {const id Math.random() * 10000 - Math.random() * 10000 / Math.random() * 10000if (document.getElementById(id) ! null) {document.body.removeChild(document.getE…

Datawhale X 李宏毅苹果书 AI夏令营(深度学习进阶)task3

批量归一化 其实归一化简单一点理解就类似于我们学过的数学中的每个数值减去平均值除以标准差。 神经网络中的批量归一化(Batch Normalization,BN)就是其中一个“把山铲平”的想法。不要小看优化这个问题,有时候就算误差表面是凸…

[mysql]mysql的演示使用

1:show databases 这里第一个information_schema代表的是数据库的基本系统信息,数据库名称,表的名称,存储权限 第二个是mysql,保存的是我们数据库运行的时候需要的系统信息,比如数据库文件夹 当前的字库集…

es的简易dsl语句

数据模式为文档,_doc格式数据,也就是json 数据 es根据_id查询数据 GET /index_name/_doc/document_id es根据_id删除数据 DELETE /index_name/_doc/document_id es查询mapping结构 GET /index_name/_mappings es查询index下所有数据(突破100…

APO 新发版支持Skywalking Agent接入

自APO开源以来,社区成员询问APO是否支持Skywalking Agent,以避免已使用Skywalking的应用在测试发版过程中需要重新部署探针。APO利用OpenTelemetry生态,通过skywalkingreceiver实现Skywalking Trace到OTEL Trace的转换,为已经使用…

java后端开发流程

使用springboot和vue3框架完成开发,并进行配置 1.数据库建立 使用navicat数据库管理工具,数据可视化工具,首先建立连接,然后开始建立字段,根据数据需求的类型,加入字段,之后通过字段添加数据在…

Xor Sigma Problem

Xor Sigma Problem 首先可以转化成前缀异或和去考虑&#xff0c;那么也就是求任意两个前缀异或和相加的值&#xff0c;可以一位位的来求&#xff0c;每位最后的答案即是0和1出现次数的乘积。 代码&#xff1a; #include <bits/stdc.h> #define int long long #defin…

100128-批量获取视频音频时长添加到文件名中支持子孙文件夹下操作-UI

程序功使用环境▶适用的系统环境说明&#xff1a;win7以上64位win系统注意&#xff1a;win32位系统/mac系统需要额外定制▶使用期限&#xff1a;无需注册、不绑电脑、无时间限制▶如何安装&#xff1a;不需要安装程序功能说明▶子文件夹穿透&#xff1a;支持▶支持的文件格式&a…