python进程池的简单实现

Python进程池是Python标准库中multiprocessing模块提供的一种用于管理进程的方式。它可以使Python程序以并行的方式执行任务,提高程序的运行效率。本篇博客将介绍如何使用Python进程池。

创建进程池

在使用Python进程池之前,我们需要先创建一个进程池对象。使用multiprocessing.Pool()方法可以创建一个进程池对象。例如:

from multiprocessing import Pool

pool = Pool(processes=4) # 创建一个包含4个进程的进程池对象

这里创建了一个包含4个进程的进程池对象。这意味着我们可以同时运行4个任务。

向进程池提交任务

创建了进程池对象之后,我们需要向进程池提交任务。使用进程池的apply()方法可以向进程池提交一个任务,并且会阻塞当前进程直到任务执行完成。例如:

def worker(num):
    print(f"执行任务{num}")
    return num * 2

result = pool.apply(worker, args=(1,))
print(f"任务执行结果为:{result}")

这里定义了一个函数worker,它接受一个参数num,执行完任务后会返回num的两倍。然后我们使用pool.apply()方法将这个任务提交给进程池,传递参数1给worker函数。最后打印出任务执行的结果。

注意:apply()方法会阻塞当前进程直到任务执行完成。如果需要并行执行多个任务,可以使用进程池的map()方法。

并行执行多个任务

使用进程池的map()方法可以并行执行多个任务。例如:

def worker(num):
    print(f"执行任务{num}")
    return num * 2

results = pool.map(worker, [1, 2, 3, 4])
print(f"任务执行结果为:{results}")

这里使用map()方法将worker函数提交给进程池,同时传递一个包含四个参数的列表。map()方法会并行执行四个任务,最后将所有任务的执行结果保存在一个列表中,并打印出来。

关闭进程池

当任务执行完毕之后,我们需要关闭进程池。使用进程池的close()方法可以关闭进程池,不再接受新的任务提交。例如:

pool.close()

等待任务执行完毕

关闭进程池之后,我们需要等待进程池中的所有任务执行完毕。使用进程池的join()方法可以等待所有任务执行完毕。例如:

pool.join()

这里调用join()方法会阻塞当前进程直到进程池中的所有任务执行完毕。

示例代码:

下面是一个简单的Python进程池示例代码,它使用进程池并行计算斐波那契数列的值。

import multiprocessing

def fibonacci(n):
    if n <= 1:
        return n
    else:
        return fibonacci(n-1) + fibonacci(n-2)

if __name__ == '__main__':
    # 创建一个包含4个进程的进程池对象
    pool = multiprocessing.Pool(processes=4)

    # 计算斐波那契数列的前20项
    results = pool.map(fibonacci, range(20))
    print("斐波那契数列的前20项为:", results)

    # 关闭进程池
    pool.close()
    # 等待进程池中的任务执行完毕
    pool.join()

该程序首先定义了一个计算斐波那契数列的函数fibonacci。然后创建了一个包含4个进程的进程池对象,使用进程池的map()方法并行计算斐波那契数列的前20项。最后关闭进程池并等待进程池中的任务执行完毕,打印出斐波那契数列的前20项的结果。

原文地址:https://blog.csdn.net/weixin_36058228/article/details/129467030