当前位置 博文首页 > Shockang的博客:为什么要有消息队列/消息引擎系统?

    Shockang的博客:为什么要有消息队列/消息引擎系统?

    作者:[db:作者] 时间:2021-08-23 22:09

    写在前面

    本文隶属于专栏《100个问题搞定大数据理论体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!

    本专栏目录结构和文献引用请见100个问题搞定大数据理论体系

    解答

    解耦

    允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。

    冗余

    消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险。

    许多消息队列所采用的"插入-获取-删除"范式中,在把一个消息从队列中删除之前,需要你的处理系统明确的指出该消息已经被处理完毕,从而确保你的数据被安全的保存直到你使用完毕。

    扩展性

    因为消息队列解耦了你的处理过程,所以增大消息入队和处理的频率是很容易的,只要另外增加处理过程即可。

    削峰填谷

    在访问量剧增的情况下,应用仍然需要继续发挥作用,但是这样的突发流量并不常见。

    如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。

    使用消息队列能够使关键组件顶住突发的访问压力,而不会因为突发的超负荷的请求而完全崩溃。

    可恢复性

    系统的一部分组件失效时,不会影响到整个系统。消息队列降低了进程间的耦合度,所以即使一个处理消息的进程挂掉,加入队列中的消息仍然可以在系统恢复后被处理。

    顺序保证

    在大多使用场景下,数据处理的顺序都很重要。大部分消息队列本来就是排序的,并且能保证数据会按照特定的顺序来处理。
    (Kafka 保证一个 Partition 内的消息的有序性)

    关于 Kafka 的更多内容请见我的专栏——1000个问题搞定大数据技术体系

    缓冲

    有助于控制和优化数据流经过系统的速度,解决生产消息和消费消息的处理速度不一致的情况。

    异步通信

    很多时候,用户不想也不需要立即处理消息。消息队列提供了异步处理机制,允许用户把一个消息放入队列,但并不立即处理它。

    想向队列中放入多少消息就放多少,然后在需要的时候再去处理它们。

    cs
    下一篇:没有了