Python池无法在Windows中工作,但可以在Linux中工作

我正在Windows 10(Intel Core i7-8550U处理器)上尝试使用Python 3.7.4进行python多处理。
我正在用两个函数测试多重处理,一个函数使用基本sleep(),另一个函数使用sklearn的matthews_corrcoef。多重处理可使用睡眠功能,但不能使用sklearn功能。

import numpy as np
from sklearn.metrics import matthews_corrcoef
import time
import concurrent.futures
from multiprocessing import Process,Pool
from functools import partial
import warnings
import sys

class Runner():
  def sleeper(self,pred,man,thr = None):
    return time.sleep(2)

  def mcc_score(self,thr = None):
    warnings.filterwarnings("ignore")
    return matthews_corrcoef(pred,man)

  def pool(self,func):
    t1 = time.perf_counter()
    p = Pool()
    meth = partial(func,man)
    res = p.map(meth,thres)
    p.close()

    t2 = time.perf_counter()
    print(f'Pool {func.__name__} {round((t2-t1),3)} seconds')

  def vanilla(self,func):
    t1 = time.perf_counter()
    for t in thres:
      func(pred,man)
    t2 = time.perf_counter()
    print(f'vanilla {func.__name__} {round((t2-t1),3)} seconds')

if __name__== "__main__":
    print(sys.version)
    r = Runner()
    thres = np.arange(0,1,0.3)
    print(f"Number of thresholds {len(thres)}")
    pred = [1]*200000
    man = [1]*200000
    results = []

    r.pool(r.mcc_score)
    r.vanilla(r.mcc_score)

    r.pool(r.sleeper)
    r.vanilla(r.sleeper)

在Windows中,对于mcc_score函数,使用pool实际上比普通版本慢,而在Linux中,它可以正常工作。

这是示例输出

#windows
3.7.4 (default,Aug  9 2019,18:34:13) [MSC v.1915 64 bit (AMD64)]
Number of thresholds 4
Pool mcc_score 3.247 seconds
vanilla mcc_score 1.591 seconds
Pool sleeper 5.828 seconds
vanilla sleeper 8.001 seconds

#linux
3.7.0 (default,Jun 28 2018,13:15:42) [GCC 7.2.0]
Number of thresholds 34
Pool mcc_score 1.946 seconds
vanilla mcc_score 8.817 seconds

我遍历了stackoverflow中的文档和其他相关问题,其中主要指出使用if __name__== "__main__":。非常感谢您的帮助,因为我已经坚持了很长时间。如果我错过任何重要信息,请提及,我会提供。

singapore1 回答:Python池无法在Windows中工作,但可以在Linux中工作

首先,我将简化您的代码。 由于类中的方法从不使用类变量,因此我将跳过类方法而仅使用方法。

起点是multiprocessing文档中的示例。 为了了解使用Pool的好处,我增加了两秒钟的睡眠并打印了一个时间戳。

import datetime
from multiprocessing import Pool
import time

def fx(x):
    time.sleep(2)
    print(datetime.datetime.utcnow())
    return x*x

if __name__ == '__main__':
    with Pool() as p:
        print(p.map(fx,range(10)))

输出符合预期

2019-11-10 11:10:05.346985
2019-11-10 11:10:05.363975
2019-11-10 11:10:05.418941
2019-11-10 11:10:05.435931
2019-11-10 11:10:07.347753
2019-11-10 11:10:07.364741
2019-11-10 11:10:07.419707
2019-11-10 11:10:07.436697
2019-11-10 11:10:09.348518
2019-11-10 11:10:09.365508
[0,1,4,9,16,25,36,49,64,81]

由于我没有指定内核数量,因此使用了所有可用的内核(在我的机器4上)。 在时间戳中可以看出:4个时间戳彼此接近。 超过暂停时间,直到再次释放内核。

您想使用一种方法matthews_corrcoef,该方法根据documentation带有两个参数y_truey_pred

在使用该方法之前,让我们从上面修改测试方法以采用两个参数:

def fxy(x,y):
    time.sleep(2)
    print(datetime.datetime.utcnow())
    return x*y

multiprocessing.pool.Pool的文档中我们了解到map仅接受一个参数。 因此,我将改用apply_async。 由于apply_async返回结果对象而不是方法的返回值,因此我正在使用一个列表 在一个单独的循环中存储结果并获取返回值,如下所示:

if __name__ == '__main__':
    with Pool() as p:
        res = []
        for i in range(10):
            res.append(p.apply_async(fxy,args = (i,i)))
        for item in res:
            print(item.get())

与第一种方法的输出类似:

2019-11-10 11:41:24.987093
0
2019-11-10 11:41:24.996087
1
2019-11-10 11:41:25.008079
2019-11-10 11:41:25.002083
4
9
2019-11-10 11:41:26.988859
16
2019-11-10 11:41:27.009847
2019-11-10 11:41:27.009847
25
36
2019-11-10 11:41:27.011845
49
2019-11-10 11:41:28.989623
64
2019-11-10 11:41:29.019606
81

现在matthews_corrcoef。 为了更好地验证结果(将predman应用于matthews_corrcoef时引发错误), 我正在使用matthews_corrcoef文档中示例中的术语和值。

import datetime
from multiprocessing import Pool
import numpy as np
from sklearn.metrics import matthews_corrcoef

def mcc_score(y_true,y_pred): 
    print(datetime.datetime.utcnow())
    return matthews_corrcoef(y_true,y_pred)

y_true = [+1,+1,-1]
y_pred = [+1,-1,+1]

if __name__ == '__main__':
    with Pool() as p:
        res = []
        for i in range(10):
            res.append(p.apply_async(mcc_score,args = (y_true,y_pred)))
        for item in res:
            print(item.get())

结果如预期:

2019-11-10 11:49:07.309389
2019-11-10 11:49:07.345366
2019-11-10 11:49:07.375348
2019-11-10 11:49:07.393336
2019-11-10 11:49:07.412325
2019-11-10 11:49:07.412325
2019-11-10 11:49:07.412325
-0.3333333333333333
-0.3333333333333333
-0.3333333333333333
-0.3333333333333333
-0.3333333333333333
-0.3333333333333333
-0.3333333333333333
2019-11-10 11:49:07.420319
2019-11-10 11:49:07.420319
2019-11-10 11:49:07.413325
-0.3333333333333333
-0.3333333333333333
-0.3333333333333333
本文链接:https://www.f2er.com/3164014.html

大家都在问