微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

AWS Glue 可以为数据调用 Step 函数吗?

如何解决AWS Glue 可以为数据调用 Step 函数吗?

我有一个要求,AWS glue 需要为 ETL 过程中所需的数据调用/调用 Step 函数。整个过程如下:

  1. glue 从 S3 读取 csv
  2. glue 为 csv 文件中的每条记录调用 Step 函数
  3. Step 函数有 2 个步骤/状态/任务,并为数据调用 2 个不同的 api(在 .net 核心中开发/在 aws eks 中部署)。 第一步的输出是第二步的输入。
  4. glue 将使用 Step 函数输出进行转换。

所以有 2 个问题要解决,从胶水调用 step 和调用 apis 的 step 函数。 请提出建议。

解决方法

这是一个非常广泛的问题。但简单的答案是,您可以使用胶水环境中的 boto3 库与步骤函数进行交互。您还可以在阶跃函数启动后提取其状态,并且还可以从函数调用中获取输出值。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。