深入探讨 Puppeteer 如何使用 X 和 Y 坐标实现鼠标移动

news/2024/11/22 8:45:19/

<a class=爬虫代理" />

背景介绍

现代爬虫技术中,模拟人类行为已成为绕过反爬虫系统的关键策略之一。无论是模拟用户点击、滚动,还是鼠标的轨迹移动,都可以为爬虫脚本带来更高的“伪装性”。在众多的自动化工具中,Puppeteer作为一个无头浏览器控制库,以其强大的功能和灵活的 API 赢得了开发者的青睐。

本文将深入探讨 Puppeteer 如何通过X 和 Y 坐标精准实现鼠标移动,并结合实际案例展示如何采集小红书网站的内容。在此过程中,我们还将运用代理 IP 技术、设置 cookie 和 user-agent,模拟一个更加“真实”的用户环境。


问题陈述

在爬取小红书等具备强大反爬能力的网站时,仅简单发送 HTTP 请求已不足以满足需求。网站可能会通过以下方式检测爬虫:

  • 缺乏真实用户行为鼠标移动、点击、键盘输入等)。
  • 请求 IP 地址异常频繁,导致触发封禁机制。
  • 浏览器指纹(如 User-Agent 或 Cookie)不符合常规。

这就要求我们在代码中实现:

  1. 模拟人类鼠标移动:基于 X 和 Y 坐标的动态轨迹。
  2. 代理 IP 技术:隐藏爬虫的真实 IP。
  3. 自定义请求头:包括 User-Agent 和 Cookie。
  4. 完整采集流程:以小红书为例,成功抓取页面内容。

解决方案

Puppeteer__API_25">Puppeteer鼠标移动 API

Puppeteer 提供了 page.mouse.move(x, y, options) 方法来实现鼠标移动。结合一定的随机性,我们可以模拟真实用户的鼠标行为,避免直线轨迹暴露爬虫的本质。

实现代理 IP

使用代理 IP 技术能够有效地绕过 IP 限制。本文将参考爬虫代理的服务,通过配置代理服务器的地址、端口、用户名和密码,让 Puppeteer 的请求看起来更真实。


案例分析:采集小红书

以下是完整的代码实现,包含代理 IP、Cookie、User-Agent 的设置,以及鼠标移动的模拟。

const puppeteer = require('puppeteer');// 配置代理IP信息 亿牛云爬虫代理 www.16yun.cn
const proxy = {host: '代理服务器域名', // 替换为16yun爬虫代理提供的域名port: '代理服务器端口', // 替换为16yun爬虫代理提供的端口username: '用户名',      // 替换为16yun爬虫代理提供的用户名password: '密码',        // 替换为16yun爬虫代理提供的密码
};// 自定义 Cookie 和 User-Agent
const cookies = [{name: 'test_cookie',value: 'test_value',domain: 'xiaohongshu.com',path: '/',},
];
const userAgent = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/113.0.0.0 Safari/537.36';(async () => {// 启动 Puppeteer,并设置代理const browser = await puppeteer.launch({headless: false, // 可设置为 true 来启用无头模式args: [`--proxy-server=http://${proxy.host}:${proxy.port}`, // 配置代理],});const page = await browser.newPage();// 设置认证代理await page.authenticate({username: proxy.username,password: proxy.password,});// 设置 User-Agentawait page.setUserAgent(userAgent);// 设置 Cookieawait page.setCookie(...cookies);// 打开小红书主页await page.goto('https://www.xiaohongshu.com', {waitUntil: 'networkidle2',});// 模拟鼠标移动console.log('模拟鼠标移动...');await page.mouse.move(100, 100); // 从点 (100, 100) 开始await page.waitForTimeout(500); // 等待 500 毫秒await page.mouse.move(200, 200, { steps: 20 }); // 平滑移动到点 (200, 200)// 获取页面内容const content = await page.evaluate(() => document.body.innerText);console.log('页面内容:', content);// 关闭浏览器await browser.close();
})();

代码解析

  1. 代理 IP 配置:通过 Puppeteer--proxy-server 参数以及 page.authenticate 方法,完成代理 IP 的配置。
  2. Cookie 和 User-Agent:模拟浏览器的指纹数据,避免爬虫身份暴露。
  3. 鼠标移动模拟:采用 mouse.move 方法,通过动态坐标和步数实现平滑移动,模仿人类操作。
  4. 页面内容抓取:成功获取小红书页面的文本内容。

结论

通过结合 Puppeteer 的强大功能,我们不仅实现了对 X 和 Y 坐标的鼠标轨迹模拟,还在代码中整合了代理 IP 技术、Cookie 和 User-Agent 的设置。这些手段有效提升了爬虫的伪装性,使其能够成功应对小红书等具有强大反爬机制的网站。

下一步是什么? 你可以尝试进一步优化鼠标轨迹,使其更加随机,或结合键盘输入模拟,实现更加全面的行为伪装。技术无止境,挑战才刚刚开始!


http://www.ppmy.cn/news/1548987.html

相关文章

Kotlin 编译失败问题及解决方案:从守护进程到 Gradle 配置

Kotlin 编译失败问题及解决方案&#xff1a;从守护进程到 Gradle 配置 在使用 Kotlin 编译项目时&#xff0c;有时可能会遇到类似以下错误&#xff1a; Unable to clear jar cache after compilation, maybe daemon is already down: java.rmi.ConnectException: Connection …

WebGIS地图框架有哪些?

地理信息系统&#xff08;GIS&#xff09;已经成为现代应用开发中不可或缺的一部分&#xff0c;尤其在前端开发中。随着Web技术的快速发展&#xff0c;许多强大而灵活的GIS框架涌现出来&#xff0c;为开发人员提供了丰富的工具和功能&#xff0c;使他们能够创建交互式、高性能的…

探索 FFI - Rust 与 C# 互调实战

所谓幸福&#xff0c;就是把灵魂安放在适当的位置。 —— 亚里士多德 Aristotle 一、Rust C# &#xff1f; 1、C# 的优势 丰富的生态系统&#xff1a;C# 是由微软开发和维护的&#xff0c;拥有强大的 .NET 框架支持&#xff0c;提供了大量的库和工具&#xff0c;可以极大地…

免费的视频混剪综合处理工具介绍与下载

免费的视频混剪综合处理工具 软件截图 功能 支持&#xff1a; 这个软件主要用于视频的批量处理&#xff0c;包括添加水印、裁剪、画中画、去水印、去头尾、变速、文本和背景音乐等功能。以下是界面中一些主要功能的介绍&#xff1a; 视频队列&#xff1a;显示当前待处理的视…

Kubernetes集群Pod内存泄露问题分析和解决

在Kubernetes集群中,有时会遇到Pod无法正常创建或被杀掉的情况,describe Pod时显示"no allocated memory"。这种情况很可能是由于节点内存泄露导致的。本文将分析内存泄露的原因,并给出解决方案。 问题现象 Pod状态异常,describe pod显示原因为:no allocated memory…

代码随想录1016-Day16

目录 530.二叉搜索树的最小绝对差501.二叉搜索树中的众数105.从中序与前序遍历序列构造二叉树总结 收获 530.二叉搜索树的最小绝对差 文章链接:代码随想录 题目链接&#xff1a;题目 思路&#xff1a;用中序遍历遍历一遍 BST 的所有节点得到有序结果&#xff0c;然后在遍历过程…

持续集成与持续部署:CI/CD实现教程

以下是一个基于常见工具实现 CI/CD 的基本教程示例&#xff0c;这里以 Git、Jenkins、Maven&#xff08;用于 Java 项目构建和管理依赖&#xff0c;其他语言项目可替换为对应构建工具&#xff09;以及 Docker&#xff08;用于容器化部署&#xff0c;非必需但很常用&#xff09;…

如何提取视频里的音乐?视频音频提取指南

在如今的数字时代&#xff0c;视频与音乐的结合为我们带来了丰富多彩的视听体验。有时候&#xff0c;我们会被视频中的某段背景音乐深深吸引&#xff0c;想要将其提取出来单独欣赏或用于其他创作。 那么&#xff0c;如何提取视频里的音乐呢&#xff1f;本文将为大家介绍几种简…