微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

我们的拓扑在 Storm 2.2.0 中的运行速度明显慢于 1.2.0

如何解决我们的拓扑在 Storm 2.2.0 中的运行速度明显慢于 1.2.0

升级 Storm 平台后,我们的拓扑在相同的内存和线程设置下运行速度降低了大约 100%,即在相同的测试集上花费的时间是原来的两倍。

拓扑正在处理不同长度的文档。文件被分成句子。进一步的处理由在“文档级别”或“句子级别”上操作的螺栓完成。处理句子的 Bolt 设置为更高的并行度。在 Storm 1.2.0 版本中,我们发现在单台服务器上运行 2 个 worker 时的最佳性能,基于文档的 bolts 的并行度设置为 2,句子 bolts 的并行度设置为 8。Worker-xmx 设置为 2048mb。这个配置在 Storm 2.2.0 上的运行速度是原来的两倍。当在 1 个 worker 上运行拓扑并将所有并行度设置为 1 时,速度将恢复到接近 1.2.0 的速度。

还尝试了进一步的性能调优,但无济于事。这不是我们对新平台所期望的行为。任何人都可以对这种情况有所了解,或者让我们知道我们的期望是否有误?

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。