微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

外部随机播放服务的节点管理器堆大小

如何解决外部随机播放服务的节点管理器堆大小

我正在按照this doc在我们的Spark集群中配置External shuffle service。指令下的第5点表示:通过在etc / hadoop / yarn-env.sh中设置YARN_HEAPSIZE(认情况下为1000)来增加NodeManager的堆大小,以避免在随机播放期间出现垃圾收集问题。

要考虑采用新的尺寸有哪些因素?推荐值是什么?

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。