使用 scrapyd 部署 scrapy

server/2024/10/20 5:42:04/

1.scrapyd 是什么?
Scrapyd 是一个用于部署和运行 Scrapy 爬虫项目的服务器应用程序。它使得你可以通过 HTTP 命令来部署、管理和执行多个 Scrapy 爬虫,非常适合持续集成和生产环境中的爬虫部署。
2.安装scrapyd 并使用
2.1 安装 scrapyd

F:\scrapydTest>pip install scrapyd

在这里插入图片描述
2.2 启动scrapyd

F:\scrapydTest>scrapyd

在这里插入图片描述
2.3修改配置文件,并添加 bat 文件
在这里插入图片描述
在这里插入图片描述
添加bat 文件:D:\Python\Python310\ 是python安装路径
在这里插入图片描述

@echo off
"D:\Python\Python310\python.exe" 
"D:\Python\Python310\Scripts\scrapyd-deploy" %*

执行 scrapyd 效果
在这里插入图片描述
2.4 安装客户端并运行客服端

F:\scrapydTest>pip install scrapyd-client

运行客服端

F:\scrapydTest>scrapyd-deploy
Error: no Scrapy project found in this location

2.5 部署项目到 scrapyd ,进入 scrapy 项目,修改配置.cfg
命令:scrapyd-deploy 部署名(配置文件中设置的名称) -p 项目名称

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
可用浏览器直接访问:

http://localhost:6800/listjobs.json?project=itcastScrapy

在这里插入图片描述

运行 scrapyd 命令:scrapyd
把项目部署到scrapyd: scrapyd-deploy itcast -p itcastScrapy

scrapydWeb

安装
pip install scrapydweb
pip install logparser
pip install pywin32 (针对windows)
参考:https://blog.csdn.net/chang995196962/article/details/116196854
参考文档:https://blog.csdn.net/weixin_44799217/article/details/122211609

以上是scrapyd 部署scrapy 项目的简单应用,目前正在学习scrapyd 相关知识,大家有相关内容的学习资料可以评论共享哦


http://www.ppmy.cn/server/42122.html

相关文章

常规的排序算法汇总

前言 排序算法,在职业生涯中,时常有用到,不论是在项目中,还是在面试中。 在这里记录一下常用的排序算法,也给自己插个眼。 排序算法分为:冒泡排序、插入排序、选择排序、快速排序、希尔排序、堆排序、基数…

如何解决 NPM依赖下载超时问题 :npm ERR! network timeout at: https://registry.npmjs.org/猫头虎

如何解决 NPM依赖下载超时问题 :npm ERR! network timeout at: https://registry.npmjs.org/猫头虎 博主猫头虎的技术世界 🌟 欢迎来到猫头虎的博客 — 探索技术的无限可能! 专栏链接: 🔗 精选专栏: 《面试…

数据可视化训练第7天(json文件读取国家人口数据,找出前10和后10)

数据 https://restcountries.com/v3.1/all;建议下载下来,并不是很大 import numpy as np import matplotlib.pyplot as plt import requests import json #由于访问url过于慢;将数据下载到本地是json数据 #urlhttps://restcountries.com/v3…

PTA--《面线对象程序设计》作业3-继承与多态

目录 一:函数题 6-2 长方形长方体类: 6-1 从抽象类shape类扩展出一个圆形类Circle 二:编程题 7-1:周长计算器 一:函数题 6-2 长方形长方体类: 定义一个长方形类Rectangle,拥有长、宽属性…

umi项目配置之项目构建时配置umirc.ts

对于 umi 中能使用的自定义配置,你可以使用项目根目录的 .umirc.ts 文件或者 config/config.ts,值得注意的是这两个文件功能一致,仅仅是存在目录不同,2 选 1 ,.umirc.ts 文件优先级较高 umi 的配置文件是一个正常的 n…

Unity TileMap入门

概述 相信很多同学学习制作游戏都是从2D游戏开始制作的吧,瓦片地图相信大家都有接触,那接下来让我们学习一下这部分的内容吧! unity组件入门篇总目录----------点击导航 Tilemap AnimationFrameRate:设置每帧动画的播放速率。Color:瓦片地图…

AlmaLinux 文件重命名 mv命令用法示例

AlmaLinux 文件重命名 在AlmaLinux中,您可以使用mv命令来重命名文件。这是一个简单的命令行实例,展示如何将文件oldname.txt重命名为newname.txt: mv oldname.txt newname.txt 如果您想批量重命名文件,可以使用脚本循环。例如&am…

【Qt C++实现蓝牙互联】

在 Qt C++ 中实现蓝牙互联可以通过 Qt 的蓝牙模块来实现。下面是一个简单的示例,演示如何在 Qt C++ 中使用蓝牙模块进行蓝牙互联,实现搜索设备、连接设备等功能。 // main.cpp #include <QCoreApplication> #include <QBluetoothDeviceDiscoveryAgent> #include…