万字长文理解无界队列和有界队列和适用场景

server/2024/10/18 3:28:09/

大家好,我是 V 哥,无界队列(Unbounded Queue)和有界队列(Bounded Queue)是两种常见的数据结构,用于存储和管理数据项。在计算机科学和并发编程中,它们有不同的特性和应用场景。下面详细解释这两者的概念、特点和适用场景。点赞收藏加关注,高效学习不迷路

一、无界队列(Unbounded Queue)

1. 定义

无界队列是指在逻辑上没有限制队列中可以容纳的元素数量的队列。也就是说,无论向队列中添加多少元素,队列都能够处理,而不会因为超出某个限制而抛出异常或阻塞操作。

2. 特点

  • 动态扩展:无界队列可以根据需要动态扩展内存,以容纳更多的元素。
  • 适合高并发:在高并发的环境下,无界队列可以有效地处理大量的请求,而不会因为容量限制导致阻塞。
  • 内存占用:由于没有容量限制,长期使用可能导致内存消耗过大,甚至引发内存溢出。

3. 适用场景

  • 任务调度:在异步任务调度中,使用无界队列可以将任务放入队列中,消费者可以随时处理。
  • 事件处理:在事件驱动的系统中,使用无界队列可以接收大量事件并异步处理。

4. 任务调度案例

下面是一个使用Java实现异步任务调度的示例,使用无界队列BlockingQueue)来存放任务,消费者可以随时从队列中取出任务进行处理。

一、应用场景

在异步任务调度中,生产者不断生成任务并将其放入队列,而消费者则从队列中取出任务并处理。无界队列允许生产者在任何时候放入任务,而不会因为队列已满而阻塞,适合于处理流量波动的场景。

二、Java 实现

我们使用LinkedBlockingQueue来实现无界队列,并创建生产者和消费者线程。

1. Maven依赖(如果使用Maven)

我们使用Maven构建项目,在pom.xml中添加以下依赖:

<dependencies><dependency><groupId>org.slf4j</groupId><artifactId>slf4j-api</artifactId><version>1.7.32</version></dependency>
</dependencies>
2. 代码实现
java">import java.util.concurrent.BlockingQueue;
import java.util.concurrent.LinkedBlockingQueue;class Task {private final String name;public Task(String name) {this.name = name;}public String getName() {return name;}@Overridepublic String toString() {return "Task{" + "name='" + name + '\'' + '}';}
}// 生产者类
class TaskProducer implements Runnable {private final BlockingQueue<Task> taskQueue;public TaskProducer(BlockingQueue<Task> taskQueue) {this.taskQueue = taskQueue;}@Overridepublic void run() {int taskCount = 0;while (true) {try {// 模拟任务生成Task task = new Task("Task-" + taskCount++);System.out.println("Producing " + task);taskQueue.put(task); // 将任务放入队列Thread.sleep(100); // 模拟生产间隔} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}// 消费者类
class TaskConsumer implements Runnable {private final BlockingQueue<Task> taskQueue;public TaskConsumer(BlockingQueue<Task> taskQueue) {this.taskQueue = taskQueue;}@Overridepublic void run() {while (true) {try {Task task = taskQueue.take(); // 从队列中取出任务System.out.println("Consuming " + task);Thread.sleep(200); // 模拟处理时间} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}public class AsyncTaskScheduler {public static void main(String[] args) {BlockingQueue<Task> taskQueue = new LinkedBlockingQueue<>(); // 创建无界队列// 启动生产者线程Thread producerThread = new Thread(new TaskProducer(taskQueue));producerThread.start();// 启动消费者线程Thread consumerThread = new Thread(new TaskConsumer(taskQueue));consumerThread.start();// 让线程运行一段时间后停止try {Thread.sleep(5000); // 运行5秒} catch (InterruptedException e) {Thread.currentThread().interrupt();} finally {producerThread.interrupt(); // 中断生产者线程consumerThread.interrupt(); // 中断消费者线程}}
}
三、来解释一下代码
  1. Task类:表示一个任务对象,包含任务的名称和字符串表示。

  2. TaskProducer类

    • 实现Runnable接口,负责生成任务并将其放入队列
    • 使用BlockingQueue来存放任务,通过taskQueue.put(task)将任务放入队列
    • 通过Thread.sleep(100)模拟任务生成的时间间隔。
  3. TaskConsumer类

    • 也实现Runnable接口,负责从队列中取出任务并处理。
    • 使用taskQueue.take()队列中取出任务,如果队列为空,它将阻塞直到有任务可用。
    • 通过Thread.sleep(200)模拟处理任务的时间。
  4. AsyncTaskScheduler类

    • 主类,创建一个LinkedBlockingQueue实例作为无界队列
    • 启动生产者和消费者线程。
    • 运行一段时间后中断线程,以停止程序。
四、运行效果

运行这个程序时,控制台会显示生产者生成的任务和消费者处理的任务。由于使用的是无界队列,生产者可以不断生成任务而不会被阻塞,消费者则可以从队列中取出任务并处理。

五、注意事项
  • 资源管理:在实际应用中,应注意线程的管理,确保在不需要时可以优雅地关闭线程。
  • 异常处理:示例中的异常处理较简单,实际应用中可以根据需求更细致地处理不同异常情况。
  • 性能考虑:在高并发的环境中,需要关注性能和资源消耗,合理调整任务生成和消费的速度。

5. 事件处理案例

在事件驱动的系统中,无界队列可以用来接收和处理大量的事件。这种设计使得事件的生产者可以快速将事件放入队列,而消费者则可以异步地处理这些事件。以下是一个使用Java实现此应用场景的示例。

一、应用场景

在事件驱动的系统中,事件生产者会不断产生事件(如用户操作、系统通知等),并将其放入无界队列中。事件消费者则从队列中异步读取这些事件并进行处理,例如发送通知、更新数据库或触发其他操作。无界队列确保生产者不会因为事件处理速度慢而被阻塞。

二、Java 实现

我们使用BlockingQueue来实现无界队列,并创建生产者和消费者线程来处理事件。

1. Maven依赖(如果使用Maven)

用Maven构建项目,添加slf4j依赖:

<dependencies><dependency><groupId>org.slf4j</groupId><artifactId>slf4j-api</artifactId><version>1.7.32</version></dependency>
</dependencies>
2. 代码实现
java">import java.util.concurrent.BlockingQueue;
import java.util.concurrent.LinkedBlockingQueue;// 事件类
class Event {private final String message;public Event(String message) {this.message = message;}public String getMessage() {return message;}@Overridepublic String toString() {return "Event{" + "message='" + message + '\'' + '}';}
}// 事件生产者类
class EventProducer implements Runnable {private final BlockingQueue<Event> eventQueue;public EventProducer(BlockingQueue<Event> eventQueue) {this.eventQueue = eventQueue;}@Overridepublic void run() {int eventCount = 0;while (true) {try {// 模拟事件生成Event event = new Event("Event-" + eventCount++);System.out.println("Producing " + event);eventQueue.put(event); // 将事件放入队列Thread.sleep(50); // 模拟生产间隔} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}// 事件消费者类
class EventConsumer implements Runnable {private final BlockingQueue<Event> eventQueue;public EventConsumer(BlockingQueue<Event> eventQueue) {this.eventQueue = eventQueue;}@Overridepublic void run() {while (true) {try {Event event = eventQueue.take(); // 从队列中取出事件System.out.println("Consuming " + event);Thread.sleep(100); // 模拟处理时间} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}public class EventDrivenSystem {public static void main(String[] args) {BlockingQueue<Event> eventQueue = new LinkedBlockingQueue<>(); // 创建无界队列// 启动事件生产者线程Thread producerThread = new Thread(new EventProducer(eventQueue));producerThread.start();// 启动事件消费者线程Thread consumerThread = new Thread(new EventConsumer(eventQueue));consumerThread.start();// 让线程运行一段时间后停止try {Thread.sleep(5000); // 运行5秒} catch (InterruptedException e) {Thread.currentThread().interrupt();} finally {producerThread.interrupt(); // 中断生产者线程consumerThread.interrupt(); // 中断消费者线程}}
}
三、来解释一下代码
  1. Event类:表示事件对象,包含事件的消息内容和字符串表示。

  2. EventProducer类

    • 实现Runnable接口,负责生成事件并将其放入事件队列
    • 使用BlockingQueue<Event>来存放事件,通过eventQueue.put(event)将事件放入队列
    • 使用Thread.sleep(50)模拟事件生成的时间间隔。
  3. EventConsumer类

    • 同样实现Runnable接口,负责从队列中取出事件并进行处理。
    • 使用eventQueue.take()队列中取出事件,如果队列为空,则阻塞等待事件。
    • 使用Thread.sleep(100)模拟处理事件的时间。
  4. EventDrivenSystem类

    • 主类,创建一个LinkedBlockingQueue实例作为无界队列
    • 启动事件生产者和消费者线程。
    • 运行一段时间后中断线程,以停止程序。
四、运行效果

运行此程序时,控制台会显示生产者生成的事件和消费者处理的事件。由于使用的是无界队列,生产者可以快速生成事件而不会被阻塞,而消费者则会异步地从队列中取出事件进行处理。

五、注意事项
  • 资源管理:在实际应用中,应注意线程的管理,确保在不需要时可以优雅地关闭线程。
  • 异常处理:示例中的异常处理较简单,实际应用中可以根据需求更细致地处理不同异常情况。
  • 性能考虑:在高并发的环境中,需要关注性能和资源消耗,合理调整事件生成和消费的速度。
六、小结

通过这个示例,咱们可以看到如何在Java中使用无界队列实现事件驱动系统。生产者不断生成事件并放入队列,消费者则异步处理这些事件,提升了系统的响应速度和处理能力。这种设计模式适用于高并发、高流量的系统,能够有效管理资源并提升系统的整体性能。

二、有界队列(Bounded Queue)

1. 定义

有界队列是指在逻辑上限制了队列中可以容纳的元素数量的队列队列在初始化时设置一个最大容量,当达到该容量时,再尝试添加新元素将会失败或阻塞。

2. 特点

  • 固定容量:有界队列在创建时指定最大容量,超过该容量后,新的入队操作将被拒绝或阻塞。
  • 流量控制:有界队列可以防止系统过载,通过限制请求数量来实现流量控制。
  • 内存管理:通过限制队列大小,可以有效管理内存使用,避免长时间运行导致的内存泄漏。

3. 适用场景

  • 生产者-消费者模型:在生产者-消费者问题中,有界队列可以确保生产者不会生产过多的任务,从而导致内存耗尽。
  • 限流控制:在高流量的API中,可以使用有界队列来控制请求的处理速度,防止系统过载。

4. 生产者-消费者模型案例

在生产者-消费者问题中,有界队列用于限制生产者可以生成的任务数量,从而避免内存耗尽的情况。在这种模式中,生产者线程负责生成任务并将其放入队列,而消费者线程则从队列中取出任务进行处理。有界队列通过设置一个最大容量来限制队列中的任务数量。当队列已满时,生产者会被阻塞,直到消费者取走一些任务,从而释放出空间。

以下是一个使用Java实现生产者-消费者问题的示例,使用有界队列ArrayBlockingQueue)来限制队列的容量。

一、应用场景

在这个应用场景中,生产者线程生成任务并放入有界队列,而消费者线程从队列中取出任务并处理。通过这种方式,可以有效管理内存,防止生产者生成过多任务而导致系统资源耗尽。

二、Java 实现

我们使用ArrayBlockingQueue来实现有界队列,并创建生产者和消费者线程。

1. Maven依赖(如果使用Maven)

用Maven构建项目,在pom.xml中添加以下依赖:

<dependencies><dependency><groupId>org.slf4j</groupId><artifactId>slf4j-api</artifactId><version>1.7.32</version></dependency>
</dependencies>
2. 代码实现
java">import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;// 任务类
class Task {private final String name;public Task(String name) {this.name = name;}public String getName() {return name;}@Overridepublic String toString() {return "Task{" + "name='" + name + '\'' + '}';}
}// 生产者类
class TaskProducer implements Runnable {private final BlockingQueue<Task> taskQueue;public TaskProducer(BlockingQueue<Task> taskQueue) {this.taskQueue = taskQueue;}@Overridepublic void run() {int taskCount = 0;while (true) {try {// 模拟任务生成Task task = new Task("Task-" + taskCount++);System.out.println("Producing " + task);taskQueue.put(task); // 将任务放入队列Thread.sleep(100); // 模拟生产间隔} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}// 消费者类
class TaskConsumer implements Runnable {private final BlockingQueue<Task> taskQueue;public TaskConsumer(BlockingQueue<Task> taskQueue) {this.taskQueue = taskQueue;}@Overridepublic void run() {while (true) {try {Task task = taskQueue.take(); // 从队列中取出任务System.out.println("Consuming " + task);Thread.sleep(200); // 模拟处理时间} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}public class ProducerConsumerProblem {public static void main(String[] args) {BlockingQueue<Task> taskQueue = new ArrayBlockingQueue<>(5); // 创建有界队列,最大容量为5// 启动生产者线程Thread producerThread = new Thread(new TaskProducer(taskQueue));producerThread.start();// 启动消费者线程Thread consumerThread = new Thread(new TaskConsumer(taskQueue));consumerThread.start();// 让线程运行一段时间后停止try {Thread.sleep(10000); // 运行10秒} catch (InterruptedException e) {Thread.currentThread().interrupt();} finally {producerThread.interrupt(); // 中断生产者线程consumerThread.interrupt(); // 中断消费者线程}}
}
三、来解释一下代码
  1. Task类:表示一个任务对象,包含任务的名称和字符串表示。

  2. TaskProducer类

    • 实现Runnable接口,负责生成任务并将其放入任务队列
    • 使用BlockingQueue<Task>来存放任务,通过taskQueue.put(task)将任务放入队列。如果队列已满,生产者会被阻塞,直到有空间可用。
    • 通过Thread.sleep(100)模拟任务生成的时间间隔。
  3. TaskConsumer类

    • 同样实现Runnable接口,负责从队列中取出任务并进行处理。
    • 使用taskQueue.take()队列中取出任务,如果队列为空,消费者会被阻塞,直到有任务可用。
    • 通过Thread.sleep(200)模拟处理任务的时间。
  4. ProducerConsumerProblem类

    • 主类,创建一个ArrayBlockingQueue实例作为有界队列,最大容量为5。
    • 启动生产者和消费者线程。
    • 运行10秒后中断线程,以停止程序。
四、运行效果

运行这个程序时,控制台会显示生产者生成的任务和消费者处理的任务。由于使用的是有界队列,当队列达到最大容量时,生产者会被阻塞,直到消费者取走任务,释放出空间。这种机制有效地防止了生产者过量生产任务导致内存耗尽的情况。

五、注意事项
  • 资源管理:在实际应用中,应注意线程的管理,确保在不需要时可以优雅地关闭线程。
  • 异常处理:示例中的异常处理较简单,实际应用中可以根据需求更细致地处理不同异常情况。
  • 性能考虑:在高并发的环境中,需要关注性能和资源消耗,合理调整任务生成和消费的速度。
六、小结

通过这个示例,咱们可以看到如何在Java中使用有界队列实现生产者-消费者问题。生产者在队列达到最大容量时被阻塞,确保了不会因为生成过多任务而导致内存耗尽。这种设计模式有效地管理了资源,提高了系统的稳定性和可预测性。

5. 限流控制案例

在高流量的API中,使用有界队列可以有效地控制请求的处理速度,从而防止系统过载。通过限制请求的数量,有界队列能够保证系统在高并发情况下仍然能够稳定运行。以下是一个使用Java实现限流控制的示例,使用有界队列ArrayBlockingQueue)来处理请求。

一、应用场景

在这个应用场景中,API接收客户端的请求,将请求放入有界队列中,消费者线程从队列中取出请求进行处理。通过设定队列的容量,可以有效控制请求的处理速度,确保系统不会因为请求过多而崩溃。

二、Java 实现

我们使用ArrayBlockingQueue来实现有界队列,并创建请求生产者和消费者线程。

1. Maven依赖(如果使用Maven)

使用Maven构建项目,在pom.xml中添加以下依赖:

<dependencies><dependency><groupId>org.slf4j</groupId><artifactId>slf4j-api</artifactId><version>1.7.32</version></dependency>
</dependencies>
2. 代码实现
java">import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;// 请求类
class Request {private final String clientId;public Request(String clientId) {this.clientId = clientId;}public String getClientId() {return clientId;}@Overridepublic String toString() {return "Request{" + "clientId='" + clientId + '\'' + '}';}
}// 请求生产者类
class RequestProducer implements Runnable {private final BlockingQueue<Request> requestQueue;public RequestProducer(BlockingQueue<Request> requestQueue) {this.requestQueue = requestQueue;}@Overridepublic void run() {int requestCount = 0;while (true) {try {// 模拟请求生成Request request = new Request("Client-" + requestCount++);System.out.println("Producing " + request);requestQueue.put(request); // 将请求放入队列Thread.sleep(50); // 模拟生产请求的间隔} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}// 请求消费者类
class RequestConsumer implements Runnable {private final BlockingQueue<Request> requestQueue;public RequestConsumer(BlockingQueue<Request> requestQueue) {this.requestQueue = requestQueue;}@Overridepublic void run() {while (true) {try {Request request = requestQueue.take(); // 从队列中取出请求System.out.println("Consuming " + request);Thread.sleep(100); // 模拟处理请求的时间} catch (InterruptedException e) {Thread.currentThread().interrupt(); // 恢复中断状态break;}}}
}public class RateLimitingControl {public static void main(String[] args) {BlockingQueue<Request> requestQueue = new ArrayBlockingQueue<>(5); // 创建有界队列,最大容量为5// 启动请求生产者线程Thread producerThread = new Thread(new RequestProducer(requestQueue));producerThread.start();// 启动请求消费者线程Thread consumerThread = new Thread(new RequestConsumer(requestQueue));consumerThread.start();// 让线程运行一段时间后停止try {Thread.sleep(10000); // 运行10秒} catch (InterruptedException e) {Thread.currentThread().interrupt();} finally {producerThread.interrupt(); // 中断生产者线程consumerThread.interrupt(); // 中断消费者线程}}
}
三、来解释一下代码
  1. Request类:表示请求对象,包含客户端ID和字符串表示。

  2. RequestProducer类

    • 实现Runnable接口,负责生成请求并将其放入请求队列
    • 使用BlockingQueue<Request>来存放请求,通过requestQueue.put(request)将请求放入队列。如果队列已满,生产者会被阻塞,直到有空间可用。
    • 使用Thread.sleep(50)模拟请求生成的时间间隔。
  3. RequestConsumer类

    • 同样实现Runnable接口,负责从队列中取出请求并进行处理。
    • 使用requestQueue.take()队列中取出请求,如果队列为空,消费者会被阻塞,直到有请求可用。
    • 使用Thread.sleep(100)模拟处理请求的时间。
  4. RateLimitingControl类

    • 主类,创建一个ArrayBlockingQueue实例作为有界队列,最大容量为5。
    • 启动请求生产者和消费者线程。
    • 运行10秒后中断线程,以停止程序。
四、运行效果

运行这个程序时,控制台会显示生产者生成的请求和消费者处理的请求。由于使用的是有界队列,当队列达到最大容量时,生产者会被阻塞,直到消费者取走请求,释放出空间。这种机制有效地控制了请求的处理速度,确保了系统不会因为请求过多而过载。

五、注意事项
  • 资源管理:在实际应用中,应注意线程的管理,确保在不需要时可以优雅地关闭线程。
  • 异常处理:示例中的异常处理较简单,实际应用中可以根据需求更细致地处理不同异常情况。
  • 性能考虑:在高并发的环境中,需要关注性能和资源消耗,合理调整请求生成和消费的速度。
六、总结

通过这个示例,咱们可以看到如何在Java中使用有界队列实现API的限流控制。生产者在队列达到最大容量时被阻塞,确保了不会因为生成过多请求而导致系统过载。这种设计模式有效地管理了资源,提高了系统的稳定性和可预测性。在高流量的API场景中,限流控制是确保服务质量的重要手段。

三、总结

  • 无界队列适用于需要处理大量数据且不关心内存占用的场景,能够动态适应任务量,但需要关注内存管理。
  • 有界队列则在资源有限或需要严格控制流量的场景中更加合适,可以有效防止系统过载和内存溢出。

理解这两种队列的特性和应用场景,能够帮助我们在不同的业务需求中选择合适的数据结构,以提高系统的性能和稳定性。原创不易,关注威哥爱编程,一起学习 Java 的点点滴滴。


http://www.ppmy.cn/server/123242.html

相关文章

docker - 镜像操作(拉取、查看、删除)

文章目录 1、docker search --help&#xff08;用于显示 Docker 搜索命令的帮助信息&#xff09;2、docker pull&#xff08;拉取镜像&#xff09;3、docker images (查看镜像)3.1、docker images --help&#xff08;用于显示 Docker 镜像管理相关命令的帮助信息&#xff09;3.…

MMD模型及动作一键完美导入UE5-IVP5U插件方案(二)

1、下载并启用IVP5U插件 1、下载IVP5U插件, IVP5U,点击Latest下载对应引擎版本,将插件放到Plugins目录,同时将.uplugin文件的EnableByDefault改为false 2、然后通过Edit->Plugins启用插件 2、导入pmx模型 1、直接在Content的某个目录拖入pmx模型,选择默认参数 2、…

Elasticsearch、ik分词器、elasticsearch-head、Kibana的认识与安装

文章目录 elasticsearch安装elasticsearchIK中文分词器elasticsearch-headkibana elasticsearch Elasticsearch是一个基于Lucene的搜索服务器&#xff0c;也是属于NoSQL阵营的数据库。它提供了一个分布式多用户能力的全文搜索引擎&#xff0c;基于RESTful web接口提供给我们操…

基于CentOS7上安装MicroK8s(最小生产的 Kubernetes)

简介 MicroK8s是一个轻量级的Kubernetes发行版,其内存和存储要求远低于全尺寸Kubernetes集群。它可以在几分钟内通过一条命令快速创建功能齐全的Kubernetes集群,极大地简化了部署过程。 兼容性:MicroK8s与Kubernetes全面兼容,确保用户可以无缝迁移和扩展他们的应用程序。 …

发掘3D文件格式的无限潜力:打造沉浸式虚拟世界

在当今数字化时代&#xff0c;3D技术的应用范围日益广泛&#xff0c;涵盖电影后期制作、产品原型设计、虚拟现实&#xff08;VR&#xff09;、增强现实&#xff08;AR&#xff09;、游戏等众多领域。而3D文件格式作为3D技术的核心组成部分&#xff0c;对于实现3D数据和模型的存…

基于数据挖掘的航空客户满意度分析预测系统

温馨提示&#xff1a;文末有 CSDN 平台官方提供的学长 QQ 名片 :) 1. 项目简介 航空公司致力于提供多样化的服务以满足乘客需求&#xff0c;包括但不限于提供免费无线网络、免费食物饮品、提供网上预约服务、飞机出口位置、座椅舒适度、卫生状况等&#xff0c;并希望以此提升乘…

Java之多态

文章目录 1. 多态1.1 多态的概念 2. 方法的重写3. 向上转型3.13.2 发生向上转型的时机 4. 动态绑定和静态绑定5. 什么是多态5.15.2 多态的优缺点 6. 避免在构造方法中调用重写的方法7. 向下转型![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/fd1fa83140d94f37ab3b88…

复杂网络(Complex Network)社团数据可视化分析(gephi)实验

Experiment Report of complex network course 复杂网络实验报告 目录 Experiment Report of complex network course 复杂网络实验报告 实验目标&#xff08;The objective of the experiment&#xff09;&#xff1a; 实验流程&#xff08;The flow of the experiment&a…