深入探讨 Flask、Gunicorn、Gevent 与 RecursionError:事件循环与 Monkey Patching 的正确使用

devtools/2024/9/25 21:09:25/

在现代高并发应用中,使用异步 I/O 操作处理密集的网络任务(例如短信发送)是提升系统性能的常见策略。为了在 Python 中实现这样的并发处理,我们可以使用 Gunicorn 和 Gevent 搭配 Flask 应用。然而,在实现过程中,开发者可能会遇到 递归错误(RecursionError),这主要源于 monkey patching 的时机问题。本文将详细分析这一现象的根源以及解决方案。

背景与应用场景

我们需要构建一个异步的 Flask 应用,它可以通过阿里云短信服务发送验证码,并将验证码存储到 Redis 进行校验。为了提升性能并发能力,我们选择了以下技术栈:

  • Flask:轻量级的 Python Web 框架。
  • Gunicorn:WSGI 服务器,用于在生产环境中运行 Flask。
  • Gevent:用于异步协程的库,能够让 Python 应用在 I/O 密集型任务中表现更优异。

Gevent 与 Gunicorn 的工作原理

1. Gevent 与 Gunicorn 如何协同工作

Gevent 是基于协程的,并且提供了 monkey patching 功能,通过它可以将 Python 标准库中的阻塞操作(如 socketssltime 等)替换为非阻塞的实现。这样,Gevent 便可以通过轻量级的绿色线程(Greenlet)并发处理任务。

当我们在 Gunicorn 中设置 worker_class = "gevent" 时,Gunicorn 会自动使用 Gevent 来管理并发请求,进而达到提高系统吞吐量的目的。这个配置会在 初始化工作进程时 调用 monkey.patch_all(),将所有可能导致阻塞的操作转换为非阻塞操作。

2. Gunicorn 配置中的 Gevent
 
# gunicorn_conf.py
from gevent import monkey
monkey.patch_all()  # 在启动时将所有阻塞操作替换为非阻塞操作
from flask import Flask# Gunicorn的工作进程数,通常设置为CPU核心数的2倍
workers = 4# 使用 gevent 的异步 worker 类
worker_class = "gevent"# 超时时间
timeout = 120# 绑定端口
bind = "0.0.0.0:5100"

在这里,monkey.patch_all() 会在 Gunicorn worker 初始化时被调用,从而确保整个应用能够处理异步 I/O 请求。

3. Monkey Patching 的概念

Monkey Patching 是在运行时修改或替换模块或类的行为。在 Gevent 中,monkey.patch_all() 会将标准库中的阻塞操作(例如 socketssl)替换为非阻塞操作。这使得 Gevent 可以通过轻量级线程来异步执行这些 I/O 操作,而不需要阻塞主线程。

from gevent import monkey
monkey.patch_all()  # 在启动时替换所有可能导致阻塞的操作

递归错误(RecursionError)的根源

在我们的应用中,当 Gunicorn 使用 Gevent 时,我们可能遇到了一个经典问题——递归错误
 

RecursionError: maximum recursion depth exceeded while calling a Python object

这个问题的原因:递归错误发生的原因通常是因为在导入了 ssl 或其他 I/O 模块之后,才调用了 monkey.patch_all()。由于 Gevent 尝试将已经导入的阻塞操作(如 ssl)进行替换,导致递归调用,从而引发递归深度超限。

Gunicorn 的 worker_class = "gevent" 会在启动时自动调用 monkey.patch_all()。因此,如果你的应用在启动时已经导入了 ssl 或其他模块,Gevent 再次尝试 monkey-patch 这些模块时,就会引发递归错误。

如何避免递归错误

1. 手动控制 Monkey Patching 的时机

要避免递归错误,你需要确保 monkey.patch_all() 在所有 I/O 模块(如 ssl)导入之前执行。可以将 monkey.patch_all() 移到程序的最前面,在导入其他模块之前执行。
 

python">from gevent import monkey
monkey.patch_all()  # 确保最早执行from flask import Flask
app = Flask(__name__)
2. 禁用部分模块的 Monkey Patching

如果你不需要 Gevent 对某些模块(如 ssl)进行 patch,可以使用 monkey.patch_all() 的参数来禁用它。例如:

from gevent import monkey
monkey.patch_all(ssl=False)  # 禁用 ssl 的 monkey-patch

这样,Gevent 不会对 ssl 模块进行替换,从而避免递归错误。

3. 避免重复 Monkey Patching

在某些情况下,你可能已经在 Gunicorn 中配置了 worker_class = "gevent",并且显式调用了 monkey.patch_all()。此时不需要再次调用 monkey.patch_all()。确保只调用一次 patch 操作,避免递归错误。

总结

在使用 Gevent 和 Gunicorn 构建异步 Flask 应用时,递归错误通常是由于 Monkey Patching 的时机不当引发的。为了避免这种错误:

  • 确保在程序启动时 最早 执行 monkey.patch_all()
  • 如果你不需要对某些模块(如 ssl)进行 patch,可以禁用这些模块的 monkey-patch。
  • 如果已经在 Gunicorn 中启用了 Gevent worker,避免在代码中再次手动调用 monkey.patch_all()

通过合理地管理 Gevent 的 monkey-patching,我们可以构建一个高效、可靠的异步 Flask 应用,能够更好地处理高并发请求和 I/O 密集型任务。


http://www.ppmy.cn/devtools/117166.html

相关文章

普元DWS - Linux下安装DWS标准版

1 前言 普元DWS全称是普元数据开发平台。 功能是对不同结构的数据进行转换处理,比如将MySQL的数据转换到达梦数据库中。 本文讲解如何在Linux下安装DWS标准版 2 DWS的版本 普元DWS有两个版本:微服务版和标准版。 微服务版是基于分布式部署的&#x…

c/c++八股文

c基础 一、指针和引用的区别 定义方式: 指针是通过 * 操作符定义的变量,用于存储另一个变量的地址。例如: int* p &x;引用是通过 & 操作符定义的别名,直接引用另一个变量。例如: int& r x; 内存占用: 指针是一个独立的变量,占用一定的内存空间。引用不是独立的…

在虚幻引擎中实时显示帧率

引擎自带了显示帧率的功能 但是只能在编辑器中显示 , 在游戏发布后就没有了 , 所以我们要自己做一个 创建一个控件蓝图 创建画布和文本 , 修改文本 文本绑定函数 , 点击创建绑定 添加一个名为 FPS 的变量 格式化文本 用大括号把变量包起来 {FPS Int} FPS 然后转到事件图表…

算法记录——链表

2.链表 2.1判断是否是回文链表 1.方法一:利用栈反转链表 /*** Definition for singly-linked list.* public class ListNode {* int val;* ListNode next;* ListNode() {}* ListNode(int val) { this.val val; }* ListNode(int val, ListNode…

如何用Shell命令结合 正则表达式 统计文本中的ip地址数量

文章目录 简介问题回答 简介 IP 地址(Internet Protocol Address)是互联网协议地址的简称,是互联网上为联网的设备(如计算机、服务器、路由器、手机等)分配的唯一标识符。IP 地址的主要功能是实现不同网络设备之间的通…

Hive安装教程

前提条件 已经安装好hadoop集群以及mysql CentOS7搭建Hadoop3集群教程 CentOS7安装MySQL教程 下载hive hive3.1.3下载连接:https://archive.apache.org/dist/hive/hive-3.1.3/apache-hive-3.1.3-bin.tar.gz 登录master服务器hadoop,将压缩包上传到…

群晖使用Docker部署WPS Office并实现异地使用浏览器制作办公文档

文章目录 前言1. 本地环境配置2. 制作本地分享链接3. 制作公网访问链接4. 公网ip地址访问您的分享相册5. 制作固定公网访问链接 前言 想象一下这个场景:如果遇到周末紧急需要改方案,但团队成员都在各自家中,这个时候如果大家能够轻松访问这个…

Stable Diffusion绘画 | ControlNet应用-qrcode 二维码控制器:艺术二维码来啦

qrcode 二维码控制器,是一款专用于生成艺术二维码的控制器, 需要单独下载,下载后,将文件放置在:SD安装目录\extensions\sd-webui-controlnet\models 实操 开启第一个 ControlNet,上传一个二维码图片&…