0

0

零基础学Flink:Window & Watermark

雪夜

雪夜

发布时间:2025-09-18 08:22:15

|

664人浏览过

|

来源于php中文网

原创

在上一篇文章中,我们探讨了flink的时间概念。本文将深入研究flink中的窗口(window)和水位线(watermark)。

窗口(Window)

窗口是处理无界流数据的关键,Flink将无界流分割成多个窗口,并对其生命周期进行了定义:

一个窗口在其第一个元素进入时被创建,当时间(事件时间或处理时间)超过其结束时间加上用户允许的延迟时间后,该窗口被移除。

Flink官方将窗口分为滚动窗口(Tumbling Windows)、滑动窗口(Sliding Windows)、会话窗口(Session Windows)和全局窗口(Global Windows)。全局窗口是一种特殊类型的窗口,不在本文讨论范围内。

滚动窗口:滚动窗口分派器将数据元素分配给指定大小的窗口,滚动窗口尺寸固定且不会重叠。

滑动窗口:滑动窗口分派器将元素分配给固定长度的窗口。与滚动窗口分派器类似,窗口大小可通过参数配置。还有另一个参数控制滑动窗口的启动频率。因此,如果滑动窗口小于窗口大小,滑动窗口可以重叠。在这种情况下,元素会被分配到多个窗口。如果滑动窗口大于窗口大小,则窗口变成抽样数据。

会话窗口:会话窗口分派器按活动会话对元素进行分组。与滚动窗口和滑动窗口相比,会话窗口不重叠,也没有固定的开始和结束时间。当会话窗口在一段时间内不接收元素时(即,当出现不活动间隙时),它将关闭。

下图是我认为描述窗口最为清晰的一张图。

零基础学Flink:Window & Watermark这张图需要从下往上看,最下面定义了原始数据的输入流,即第一分钟进入2个数据96,第二分钟进入848,以此类推。

倒数第二行是一个固定时间的滚动窗口,其窗口大小为1分钟。

倒数第三行是一个滑动窗口,需要数据滑动窗口的窗口尺寸和滑动尺寸。

倒数第四行是一个固定元素个数的滚动窗口,即每3个元素一滚。

最上面则是一个会话窗口,只要会话有间隙,就会重新构建窗口。

水位线(Watermark)

通过上面的内容,我们可以看出每个窗口都有开始时间和结束时间(一般window的时间窗口为左闭右开的区间范围),在这段时间内,我们是否能拿到所有需要处理的数据,我们就需要水位线来配合了。在之前的文章中,由于理解的原因,我推荐过大家使用翻译水印,但现在,我觉得还是叫水位线更合适一些。

这里引用一段描述:

零基础学Flink:Window & Watermark从上文中,我们可以得出两个触发水位线的必要条件:

水位线时间 >= 窗口的结束时间 在窗口的时间范围(左闭右开)内有数据那么,Flink是如何避免数据乱流的呢?我们来看下面一张图:

零基础学Flink:Window & Watermark这是一个典型的单通道的场景,首先我们有一个时间事件队列{2,3,1,7,3,5,9,6,12},两个水位线(W4,W9)事件通过时间戳被指派给了窗口(T1-T4)。

数据流入2,3,1进入窗口,7不属于当前事件窗口,所以被指派给了新窗口(T4-T8)。

数据继续流入,此时水位线到达W4,触发窗口(T1-T4)计算。

数据继续流入,9被指派给了新窗口(T9-T12)(笔者注,这个图的事件窗口不对,个人认为是T8-T12

关于多通道的场景,我也推荐云栖的这张图,比官方文档里的要好理解一些,配合上面的案例,相信大家也能读懂。

零基础学Flink:Window & Watermark现在我们已经了解水位线是如何工作的,那么它是如何产生的呢?在Flink里主要有两种方式产生水位线,即周期性的(Periodic)和标记性的(Punctuated)。

Punctuated:数据流中每一个递增的EventTime都会产生一个Watermark。在实际的生产中,Punctuated方式在TPS很高的场景下会产生大量的Watermark,在一定程度上对下游算子造成压力,所以只有在实时性要求非常高的场景才会选择Punctuated的方式进行Watermark的生成。

Periodic:周期性的(一定时间间隔或者达到一定的记录条数)产生一个Watermark。在实际的生产中,Periodic的方式必须结合时间和积累条数两个维度继续周期性产生Watermark,否则在极端情况下会有很大的延时。

因此,水位线的生成方式需要根据业务场景的不同进行不同的选择。

好了,关于窗口和水位线就暂时说到这了,仅代表个人理解,如有问题,望指正,欢迎转载,著名出处。

后续,会整理一些DEMO与大家分享。

参考资料:

https://www.php.cn/link/e4af65db2a5a17afca8bf5cc475fed0b

https://www.php.cn/link/845ae5f86e478f372a410a0fc2db1d82

https://www.php.cn/link/1700002d4c70cbf14d54658d280cb88e

https://www.php.cn/link/75d52237743d661f8f60a988e9ba5989

相关专题

更多
session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

302

2023.10.17

session失效解决方法
session失效解决方法

session失效通常是由于 session 的生存时间过期或者服务器关闭导致的。其解决办法:1、延长session的生存时间;2、使用持久化存储;3、使用cookie;4、异步更新session;5、使用会话管理中间件。

706

2023.10.18

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

88

2025.08.19

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

521

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1056

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

751

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

420

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2343

2023.08.08

php源码安装教程大全
php源码安装教程大全

本专题整合了php源码安装教程,阅读专题下面的文章了解更多详细内容。

74

2025.12.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Bootstrap 5教程
Bootstrap 5教程

共46课时 | 2.7万人学习

AngularJS教程
AngularJS教程

共24课时 | 2.2万人学习

CSS教程
CSS教程

共754课时 | 17.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号