微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

AWS Glue Python Shell配置DPU

如何解决AWS Glue Python Shell配置DPU

当我使用胶水python shell而不是胶水火花时,1 dpu设置会更改吗? 我最近看到了一条Maximum number of concurrent tasks in 1 DPU in AWS Glue帖子,我看到他们在谈论胶水火花,但不是来自aws胶水python壳,这就是为什么我对此表示怀疑。

解决方法

根据此doc,可以为Python Shell类型的AWS Glue作业分配1个DPU或0.0625 DPU。默认情况下,AWS Glue为每个Python Shell作业分配0.0625 DPU。

您需要按每DPU小时0.44 USD的费用(以1秒为单位递增),四舍五入至最接近的秒数,每种类型的Python Shell作业的最小持续时间为1分钟。

根据this,单个DPU提供的处理能力包括4个计算vCPU和16 GB内存。

您最多可以提供1个DPU,因为它不需要很多资源,因为不涉及分布式处理。您尝试提供多于1个的DPU,将遇到如下所示的错误:

enter image description here

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。