图解 Flink 滚动窗口、会话窗口和滑动窗口

114 记录 发表评论

1. Flink 窗口是什么?

Flink 作业中的窗口是指一种对无限数据流设置有限数据集,从而实现了处理无线数据流的机制

窗口本身只是个划分数据集的依据,它并不存储数据。

当我们需要在时间窗口维度上对数据进行聚合时,窗口是流处理应用中经常需要解决的问题。Flink的窗口算子为我们提供了方便易用的API,我们可以将数据流切分成一个个窗口,对窗口内的数据进行处理。

窗口主要有两种,一种基于时间的时间窗口(TimeWindow),一种基于数量的计数窗口(CountWindow),计数窗口与时间无关,本文主要讨论时间窗口。

2. 时间窗口

在 Flink 源码中,用 TimeWindow 表示。每个TimeWindow都有一个开始时间和结束时间,表示一个左闭右开的时间段。Flink为我们提供了一些内置的WindowAssigner,如滚动窗口滑动窗口会话窗口

flink window
(具体说明请往下看)

2.1 滚动窗口(Tumbling Window)

滚动窗口模式下窗口之间不重叠,且窗口长度Size是固定的。我们可以用TumblingEventTimeWindowsTumblingProcessingTimeWindows创建一个基于Event TimeProcessing Time的滚动时间窗口。窗口的长度可以用org.apache.flink.streaming.api.windowing.time.Time中的secondsminuteshoursdays来设置。

2.2 滑动窗口(Sliding Window)

滑动窗口以一个步长(Slide)不断向前滑动,窗口的长度固定。使用时,我们要设置SlideSizeSlide的大小决定了 Flink 以多快的速度来创建新的窗口,Slide较小,窗口的个数会很多。Slide小于窗口的Size时,相邻窗口会重叠,一个元素会被分配到多个窗口;Slide大于Size,有些元素可能被丢掉。

2.3 会话窗口(Session Window)

会话窗口模式下,两个窗口之间有一个间隙,被称为Session Gap当一个窗口在大于Session Gap的时间内没有接收到新数据时,窗口将关闭。在这种模式下,窗口的长度是可变的,每个窗口的开始和结束时间并不是确定的。我们可以设置定长的Session Gap,也可以使用SessionWindowTimeGapExtractor动态地确定Session Gap的长度。

参考资料:

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

昵称 *