Python:如何在一个脚本中运行多个Joblib多处理任务

我想在一个python脚本中运行多个Parallel作业。但是,似乎需要对此​​进行正确处理,以避免出现内存问题。这是有关我要做什么的一个最小示例。

def func1(arg1):
    some code
    return res1

def func2(arg2):
   some code
   return res2

aa = Parallel(n_jobs=num_cores)(delayed(func1)(arg1) for arg1 in tqdm(arg1List))

bb = Parallel(n_jobs=num_cores)(delayed(func2)(arg2) for arg2 in tqdm(arg2List))

错误:

[WinError 32]该进程无法访问该文件,因为该文件正在被另一个进程使用:

一个工人停下来,同时给执行者一些工作。这可能是由于工作者超时时间太短或内存泄漏引起的。

似乎我们需要以某种方式处理如何运行此操作,以确保之前的任务已完全完成并释放了内存。也许这不是正确的方法。

jiba1023 回答:Python:如何在一个脚本中运行多个Joblib多处理任务

暂时没有好的解决方案,如果你有好的解决方案,请发邮件至:iooj@foxmail.com
本文链接:https://www.f2er.com/3161303.html

大家都在问