如何解决Timedeltasensor从计划间隔延迟
我有一份工作在13:30进行。其中的第一个任务需要将近1个小时才能完成,之后我们需要等待15分钟。因此,我正在使用如下所示的timedeltasensor。
waitfor15min = timedeltaSensor(
task_id='waitfor15min',delta=timedelta(minutes=15),dag=dag)
但是在日志中,它显示了schedule_interval + 15分钟,如下所示
[2020-11-05 20:36:27,013] {time_delta_sensor.py:45} INFO - Checking if the time (2020-11-05T13:45:00+00:00) has come
[2020-11-05 20:36:27,013] {base_sensor_operator.py:79} INFO - Success criteria met. Exiting.
[2020-11-05 20:36:30,655] {logging_mixin.py:95} INFO - [2020-11-05 20:36:30,655] {jobs.py:2612} INFO - Task exited with return code 0
如何在两次工作之间造成延迟?
解决方法
您可以使用PythonOperator
并编写一个只需等待15分钟的函数。有一个关于等待任务的示例:
def my_sleeping_function(random_base,**kwargs)):
"""This is a function that will run within the DAG execution"""
time.sleep(random_base)
# Generate 5 sleeping tasks,sleeping from 0.0 to 0.4 seconds respectively
for i in range(5):
task = PythonOperator(
task_id='sleep_for_' + str(i),python_callable=my_sleeping_function,op_kwargs={'random_base': float(i) / 10},provide context=true,dag=dag,)
run_this >> task
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。