我想在一个python脚本中运行多个Parallel作业。但是,似乎需要对此进行正确处理,以避免出现内存问题。这是有关我要做什么的一个最小示例。
def func1(arg1):
some code
return res1
def func2(arg2):
some code
return res2
aa = Parallel(n_jobs=num_cores)(delayed(func1)(arg1) for arg1 in tqdm(arg1List))
bb = Parallel(n_jobs=num_cores)(delayed(func2)(arg2) for arg2 in tqdm(arg2List))
错误:
[WinError 32]该进程无法访问该文件,因为该文件正在被另一个进程使用:
一个工人停下来,同时给执行者一些工作。这可能是由于工作者超时时间太短或内存泄漏引起的。
似乎我们需要以某种方式处理如何运行此操作,以确保之前的任务已完全完成并释放了内存。也许这不是正确的方法。