Flink迷你集群及默认参数简单介绍:

news/2024/11/19 13:25:28/

Flink迷你集群是一个轻量级的本地集群,可用于在本地环境中快速开发和测试Flink应用程序。迷你集群不需要任何复杂的配置和管理,只需要提供一个简单的配置即可使用。在启动迷你集群时,必须指定Flink应用程序所需的资源,如TaskManager的数量、内存大小、并行度等。

迷你集群的默认参数通常由Flink框架的配置文件控制。以下是一些常见的默认值:

  • singleRpcService: SHARED(默认情况下,所有的RPC服务都共享同一个线程池)
  • numTaskManagers: 1(默认情况下使用一个TaskManager节点)
  • commonBindAddress: null(默认情况下使用本地地址)
  • taskmanager.memory.network.min: 64 mb(TaskManager网络内存的最小值)
  • taskmanager.memory.network.max: 64 mb(TaskManager网络内存的最大值)
  • taskmanager.memory.managed.size: 128 mb(TaskManager管理内存的默认大小)
  • taskmanager.numberOfTaskSlots: 12(每个TaskManager节点的默认任务插槽数量)
  • parallelism.default: 1(操作符默认并行度)
  • execution.target: local(默认情况下在本地运行)
  • execution.runtime-mode: AUTOMATIC(默认情况下自适应选择执行模式)
  • taskmanager.cpu.cores: 1.7976931348623157E308(TaskManager可以使用的CPU核心数最大值)
  • taskmanager.memory.task.heap.size: 9223372036854775807 bytes(TaskManager堆内存的最大大小)
  • taskmanager.memory.task.off-heap.size: 9223372036854775807 bytes(TaskManager堆外内存的最大大小)
  • rest.bind-port: 0(默认情况下,REST API将绑定到系统可用端口)
  • rest.address: localhost(REST API的默认地址)。

这些参数可以在Flink框架的配置文件中进行修改。在使用迷你集群时,可以使用命令行选项或Java代码覆盖这些默认设置。其中,最常用的命令行选项是-D-yT-D选项可以在JVM启动参数中设置要覆盖的配置参数,-yT选项可以从外部文件中加载YAML格式的配置文件。

简单demo代码如下:

import org.apache.flink.api.common.RuntimeExecutionMode;
import org.apache.flink.api.common.functions.FlatMapFunction;
import org.apache.flink.api.common.functions.MapFunction;
import org.apache.flink.streaming.api.datastream.DataStream;
import org.apache.flink.streaming.api.datastream.DataStreamSource;
import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.util.Collector;public class FlinkDemo {public static void main(String[] args) throws Exception {// 1.准备环境StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();// 设置运行模式env.setRuntimeMode(RuntimeExecutionMode.AUTOMATIC);// 2.加载数据源DataStreamSource<String> elementsSource = env.fromElements("java,scala,php,c++","java,scala,php", "java,scala", "java,c,c++,python,go");// 3.数据转换DataStream<String> flatMap = elementsSource.flatMap(new FlatMapFunction<String, String>() {@Overridepublic void flatMap(String element, Collector<String> out) throws Exception {String[] wordArr = element.split(",");for (String word : wordArr) {out.collect(word);}}});//DataStream 下边为DataStream子类SingleOutputStreamOperator<String> source = flatMap.map(new MapFunction<String, String>() {@Overridepublic String map(String value) throws Exception {return value.toUpperCase();}}).returns(String.class);// 4.数据输出source.print();// 5.执行程序env.execute("FlinkDemo");}
}

http://www.ppmy.cn/news/225226.html

相关文章

服务器机柜型号大全,标准机柜尺寸表

《标准机柜尺寸表》由会员分享&#xff0c;可在线阅读&#xff0c;更多相关《标准机柜尺寸表(2页珍藏版)》请在人人文库网上搜索。 1、19英寸标准机柜尺寸表U是一种表示服务器外部尺寸的单位&#xff0c;是unit的缩略语&#xff0c;详细的尺寸由作为业界团体的美国电子工业协会…

智能储物柜/快递柜系统解析一

在近几年&#xff0c;网络购物逐渐成为人民购物的一种新方式&#xff0c;从而也推动了物流行业的发展。但是“最后一公里”一直是困扰物流公司的重大问题。随着智能快递柜这种颠覆性新兴产品的出现&#xff0c;成为解决“最后一公里”快递投递的有效解决方案。已经提前布局的速…

生鲜冷链冻品零售企业订货管理系统解决方案

伴随着互联网技术的不断发展&#xff0c;人们的生活水平也在不断提高&#xff0c;很多时候工作和生活不能很好的平衡&#xff0c;尤其是都市白领们忙的都没太多的时间去逛超市&#xff0c;于是生鲜配送业务就有了很大的市场需求&#xff0c;客户如果想要实现线上选购&#xff0…

2022年全球与中国冷冻离心机市场现状及未来发展趋势

2021年全球冷冻离心机市场销售额达到了 亿美元&#xff0c;预计2028年将达到 亿美元&#xff0c;年复合增长率&#xff08;CAGR&#xff09;为 %&#xff08;2022-2028&#xff09;。地区层面来看&#xff0c;中国市场在过去几年变化较快&#xff0c;2021年市场规模为 百万美元…

2021年全球R410A制冷剂收入大约1779.1百万美元,预计2028年达到2174.6百万美元,2022至2028期间,年复合增长率CAGR为 2.9%

本文研究全球市场、主要地区和主要国家R410A制冷剂的销量、销售收入等&#xff0c;同时也重点分析全球范围内主要厂商&#xff08;品牌&#xff09;竞争态势&#xff0c;R410A制冷剂销量、价格、收入和市场份额等。 针对过去五年&#xff08;2017-2021&#xff09;年的历史情况…

冷藏温度范围_食品冷藏冷冻温度要求与管理规范

食品冷链物流中各类商品温度要求 ( 一 )1 、冷却畜禽肉、冰鲜水产品、植脂奶油蛋糕、配餐、果汁、酸 ( 冻结点以上 —— 4 ℃ ) ;鲜鱼最佳冷藏温度为零下 3 度,可以贮存 7-10 天。温度在 -1-0 ℃ 之间,鲜肉可保存 5 ~ 7 天。 鲜虾贮存条件和贮存期: 整条虾 用冰保存 室温 …

海格里斯超高单层节能冷藏库 提高有效容积利用率自动化单层冷库

冷库的设计应用首先需要结合用户企业的实际冷藏需求&#xff0c;单层冷库结构与多层冷库结构设计在目前行业内均有广泛应用&#xff0c;比较直观的对比可以体现在多个方面&#xff0c;诸如储存物品的进出管理和冷库空间的利用上&#xff0c;但在实际应用中究竟采用哪一种结构的…

Docker 容器监控

目录 cAdvisor 安装cAdvisor 使用Prometheus监控cAdvisor cAdvisor暴露的Prometheus指标 容器指标 1. 文档&#xff1a; 2. 指标 硬件指标 1. 文档&#xff1a; 2. 指标&#xff1a; Node Exporter 安装Node Exporter 1. 启动容器&#xff0c;默认端口为9100 2. …