当前位置 博文首页 > Shockang的博客:如何保证 Kafka 的消息不丢失?

    Shockang的博客:如何保证 Kafka 的消息不丢失?

    作者:[db:作者] 时间:2021-08-23 22:09

    前言

    本文隶属于专栏《1000个问题搞定大数据技术体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!

    本专栏目录结构和参考文献请见1000个问题搞定大数据技术体系

    正文

    1. 不要使用 producer.send(msg),而要使用 producer.send(msg, callback)。
    2. 设置 acks = all。acks 是 Producer 的一个参数,代表了你对“已提交”消息的定义。
      如果设置成 all,则表明所有副本 Broker 都要接收到消息,该消息才算是“已提交”。
      这是最高等级的“已提交”定义。
    3. 设置 retries 为一个较大的值。这里的 retries 同样是 Producer 的参数,对应前面提到的 Producer 自动重试。
      当出现网络的瞬时抖动时,消息发送可能会失败,此时配置了 retries > 0 的 Producer 能够自动重试消息发送,避免消息丢失。
    4. 设置 unclean.leader.election.enable = false。这是 Broker 端的参数,它控制的是哪些 Broker 有资格竞选分区的 Leader。
      如果一个 Broker 落后原先的 Leader 太多,那么它一旦成为新的 Leader,必然会造成消息的丢失。
      故一般都要将该参数设置成 false,即不允许这种情况的发生。
    5. 设置 replication.factor >= 3。这也是 Broker 端的参数。
      其实这里想表述的是,最好将消息多保存几份,毕竟目前防止消息丢失的主要机制就是冗余。
    6. 设置 min.insync.replicas > 1。这依然是 Broker 端参数,控制的是消息至少要被写入到多少个副本才算是“已提交”。
      设置成大于 1 可以提升消息持久性。在实际环境中千万不要使用默认值 1。
    7. 确保 replication.factor > min.insync.replicas。
      如果两者相等,那么只要有一个副本挂机,整个分区就无法正常工作了。我们不仅要改善消息的持久性,防止数据丢失,还要在不降低可用性的基础上完成。
      推荐设置成 replication.factor = min.insync.replicas + 1。
    8. 确保消息消费完成再提交。Consumer 端有个参数 enable.auto.commit,最好把它设置成 false,并采用手动提交位移的方式。
    cs
    下一篇:没有了