Skip to main content
 首页 » 编程设计

python之如何监控 celery 中的一组任务

2025年02月15日10qq号

我有这样一种情况,每月定期 big_task 读取一个文件并在该文件中每行排队一个链式任务,其中链式任务是 small_task_1 和 small_task_2:

class BigTask(PeriodicTask): 
 
    run_every = crontab(hour=00, minute=00, day_of_month=1) 
 
    def run(self): 
        task_list = [] 
        with open("the_file.csv" as f: 
            for row in f: 
                t = chain( 
                        small_task_1.s(row), 
                        small_task_2.s(), 
                     ) 
                task_list.append(t) 
            gr = group(*task_list) 
            r = gr.apply_async() 

我想在每个 small_task 完成后立即获得有关排队、失败任务数量的统计信息(以及有关异常的详细信息) (无论状态如何)向项目管理员发送摘要电子邮件。

我首先想到使用chord,但是如果任何headers任务失败,callback不会被执行,这肯定会发生在我的案例。

我也可以在BigTask中使用r.get(),非常方便,但不建议等待一个任务结果进入另一个任务(即使在这里,我猜 worker 死锁的风险很小,因为任务每月只执行一次。

重要说明:输入文件包含约 70 万行。

您建议如何进行?

请您参考如下方法:

我不确定它是否可以帮助你监控,但是关于和弦和回调问题你可以使用link_error回调(用于捕获异常)。例如,在您的情况下,您可以像这样使用它:

small_task_1.s(row).set(link_error=error_task)) 

并实现 celery error_task 向您发送通知或其他内容。

在 celery 4 中,你可以为所有 Canvas 设置一次(但它在 3.1 中对我不起作用):

r = gr.apply_async(link_error=error_task) 

对于监控部分,可以使用flower当然。

希望对你有帮助

编辑:另一种方法(不使用额外的持久性)是捕获异常并向结果和回调添加一些逻辑。例如:

def small_task_1(): 
    try: 
       // do stuff 
       return 'success', result 
    except: 
       return 'fail', result 

然后在您的回调任务中迭代结果元组并检查是否因为执行实际逻辑而失败。