Python多进程共享变量如何保证原子操作?
python多进程共享可操作变量, 如何保证原子操作?
需求分析
为了确保多进程共享可操作变量的原子操作,需要:
问题场景
立即学习“Python免费学习笔记(深入)”;
在本文给出的演示代码中,使用共享变量作为计数器,当多个进程同时读取和修改它时,会出现竞争条件,导致变量值不正确。
解决方案
解决此问题的关键是确保共享变量的修改操作是原子的。修改后的代码如下:
from concurrent.futures import ProcessPoolExecutorimport ctypesfrom multiprocessing import Manager, Lockimport os# 创建 Manager 和 Lockmanager = Manager()m = manager.Value(ctypes.c_int, 0)lock = manager.Lock()def calc_number(x: int, y: int, _m, total_tasks: int, _lock): # 模拟耗时任务函数 # 模拟耗时计算 res = x ** y # 用锁来保证原子操作 with _lock: _m.value += 1 current_value = _m.value # 当总任务数量和_m.value相等的时候, 通知第三方任务全部做完了 if current_value == total_tasks: print(True) print(f"m_value: {current_value}, p_id: {os.getpid()}, res: {res}")def main(): # 任务参数 t1 = (100, 200, 300, 400, 500, 600, 700, 800) t2 = (80, 70, 60, 50, 40, 30, 20, 10) len_t = len(t1) # 多进程执行任务 with ProcessPoolExecutor(max_workers=len_t) as executor: for x, y in zip(t1, t2): executor.submit(calc_number, x, y, m, len_t, lock)if __name__ == "__main__": main()
说明