由于blog各种垃圾评论太多,而且本人审核评论周期较长,所以懒得管理评论了,就把评论功能关闭,有问题可以直接qq骚扰我

2022年12月23日的内容

大数据

Flink 端到端的状态一致性

Flink 端到端的状态一致性
状态一致性的概念 对于Flink流处理器来说,所谓的状态一致性,其实就是我们所说的计算结果要保证准确,一条数据不应该丢失,也不应该重复计算。 在遇到故障时可以恢复状态,恢复以后的重新计算,结果应该也是完全正确的。 状态一致性的级别 最多一次(AT-MOST-ONCE) 当任务故障...

1年前 (2022-12-23) 765℃ 0喜欢

大数据

Flink 状态持久化和检查点

Flink 状态持久化和检查点
状态持久化 在Flink的状态管理机制中,Flink 容错性的保障就是要对状态数据做一个持久化的保存,这样就可以在发生故障后通过持久化数据进行重启恢复。在Flink 中对状态进行持久化的方式,就是将当前所有分布式状态进行“快照”保存,写入一个“检查点”(checkpoint)或者...

1年前 (2022-12-23) 1150℃ 0喜欢

大数据

Flink 状态管理

Flink 状态管理
状态的概念 在流处理中,数据是连续不断到来和处理的。每个任务进行计算处理时,可以基于当前数据直接转换得到输出结果;也可以依赖一些其他数据。这些由一个任务维护,并且用来计算输出结果的所有数据,就叫作这个任务的状态。 什么场景会用到状态,下面列举了三种场景: 去重:比如上游的系统数...

1年前 (2022-12-23) 900℃ 0喜欢