03Flume
||约 1 分钟 · 110 字|评论
请注意,本文编写于 784 天前,最后修改于 145 天前,其中某些信息可能已经过时。
flume的数据一致性问题
- put和take事务(数据可能重复,数据写入channel,但commit提交失败)
- filechannel(数据不丢)
flume选用原因
flume的拦截器
flume的组件
KafkaChannel的使用 - source,kafkachannel,sink
- kafkachannel,sink
- source,kafkachannel(选用原因) 选用kafkasource,filechannel,hdfsink;但不选用kafkachannel,hdfssink的原因
- 需要使用拦截器解决数据采集时的零点漂移问题
- 拦截器是在source端完成的
版权声明