如何解决使用 externalShuffle 服务在 Spark 中进行随机文件清理
我们使用具有动态分配和外部 shuffle 服务的 Spark 3.0.1(独立模式)。
在切换到专用永久性磁盘后,我们开始出现“磁盘空间不足错误”,因此我们查看了 /tmp 文件夹并注意到许多较旧的应用程序 shuffle 文件仍然存在,这在一定程度上可以理解,因为 shuffle 文件应该保持可用状态只要工人还活着。
但是这些文件在什么时候被删除?我认为在作业完成时不再需要随机播放文件并且可以(并且应该)被删除,但是查看 spark 代码库(ExternalShuffleBlockResolver)它显示目录清理器仅在以下时间被触发:
我错过了什么吗?什么服务应该清理已完成/失败作业的 shuffle 文件?
请注意,我们使用多租户架构,这意味着我们的 Spark 应用程序充当多个请求的服务器。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。