作家
登录

流计算框架Flink与Storm的性能对比

作者: 来源: 2017-11-20 15:17:01 阅读 我要评论

即使仅存眷 outTime – inTime(即图中实线部分),依然可以发明,当 QPS 逐渐增大年夜的时刻,Flink 在延迟上的优势开端表现出来。

5.9 Windowed Word Count Flink At Least>流计算框架 Flink 与 Storm 的机能比较

图中黄色为 99 线,橙色为中位数,虚线为 At Least>流计算框架 Flink 与 Storm 的机能比较

  • 图中蓝色为 99 线,浅蓝色为中位数,虚线为 At Least>流计算框架 Flink 与 Storm 的机能比较

    • Flink 支撑 Standalone 和>流计算框架 Flink 与 Storm 的机能比较

      • 应用 FileSystem 和 Memory 作为 Backends 时,延迟根本一致且较低。
      • 应用 RocksDB 作为 Backends 时,延迟稍高,且因为吞吐较低,在达到吞吐瓶颈前的延迟陡增。个中>流计算框架 Flink 与 Storm 的机能比较

        Storm 将 ACKer 数量设置为零后,每条消息在发送时就主动 ACK,不再等待 Bolt 的 ACK,也不再重发消息,为 At Most>流计算框架 Flink 与 Storm 的机能比较

        6.5 推荐应用 Flink 的场景

        因为同一算子的多个并行义务处理速度可能不合,在上游算子中不合快照里的内容,经由中心并行算子的处理,达到下流算子时可能被计入同一个快照中。如许一来,这部分数据会被反复处理。是以,Flink 在 Exactly>流计算框架 Flink 与 Storm 的机能比较

        Data Generator 按特定速度生成数据,带上自增的 id 和 eventTime 时光戳写入 Kafka 的一个 Topic(Topic Data)。

        综合上述测试结不雅,以下及时F算场景建议推敲应用 Flink 框架进行计算:

        • 请求消息送达语义为 Exactly Once 的场景;
        • 数据量较大年夜,请求高吞吐低延迟的场景;
        • 须要进行状况治理或窗口统计的场景。

        7. 瞻望

        本次测试中另有一些内容没有进行加倍深刻的测试,有待后续测试弥补。例如:

        • Exactly Once 在并发量增大年夜的时刻是否吞吐会明显降低?
        • 用户耗时到 1ms 时框架的差别已经不再明显(Thread.sleep() 的精度只能到毫秒),用户耗时在什么范围内 Flink 的优势依然能表现出来?

        本次测试仅不雅察了吞吐涟谕延迟两项指标,对于体系的靠得住性、可扩大性等重要的机能指标没有在统计数据层面进行存眷,有待后续弥补。

        • Flink 应用 RocksDBStateBackend 时的吞吐较低,有待进一步摸索和优化。
        • 关于 Flink 的更高等 API,如 Table API & SQL 及 CEP 等,须要进一步懂得和完美。

        Flink 与 Storm 两个框架比较:

        【编辑推荐】

        1. 大年夜数据框架比较:Hadoop、Storm、Samza、Spark和Flink
        2. Flink常见的关键技巧与特点详解
        3. 为什么说Storm比Hadoop 快?
        4. Apache Flink实现的数据流体系构造
        5. 基于Storm构建分布式及时处理应用初探
        【义务编辑:未丽燕 TEL:(010)68476606】

          推荐阅读

          大数据要怎么用,12名创业者这样说

        Tech Neo技巧沙龙 | 11月25号,九州云/ZStack与您一路商量云时代收集界线治理实践 当下,大年夜多半企业都明白大年夜数据的感化。大年夜数据——这个宏大年夜甚至是有时是胜过性>>>详细阅读


        本文标题:流计算框架Flink与Storm的性能对比

        地址:http://www.17bianji.com/lsqh/39040.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)