Python中通过队列来实现进程间通信

python

Python程序中,在进程和进程之间是不共享全局变量的数据的。

我们来看一个例子:

python">from multiprocessing import Process

import os

import time

nums = [11, 22]

def work1():

"""子进程要执行的代码"""

print("in process1 pid=%d ,nums=%s" % (os.getpid(), nums))

for i in range(3):

nums.append(i)

time.sleep(1)

print("in process1 pid=%d ,nums=%s" % (os.getpid(), nums))

def work2():

"""子进程要执行的代码"""

print("in process2 pid=%d ,nums=%s" % (os.getpid(), nums))

if __name__ == "__main__":

p1 = Process(target=work1)

p1.start()

p1.join()

p2 = Process(target=work2)

p2.start()

进程 p1 里对全局变量 nums 循环进行处理,进程 p2 将 nums 打印出来,发现 nums 的值没有变化。

运行结果:

in process1 pid=5788 ,nums=[11, 22]

in process1 pid=5788 ,nums=[11, 22, 0]

in process1 pid=5788 ,nums=[11, 22, 0, 1]

in process1 pid=5788 ,nums=[11, 22, 0, 1, 2]

in process2 pid=11832 ,nums=[11, 22]

通过队列完成进程间通信

但是进程(Process)之间有时需要通信,操作系统提供了很多机制来实现进程间的通信。

可以使用 multiprocessing 模块的 Queue 实现多进程之间的数据传递。

Queue 本身是一个消息队列程序,首先用一个小实例来演示一下 Queue 的工作原理:

from multiprocessing import Queue

# 初始化一个Queue对象,最多可接收三条put消息

q = Queue(3)

q.put("消息1")

q.put("消息2")

print(q.full()) # False

q.put("消息3")

print(q.full()) # True

# 因为消息队列已满下面的try都会抛出异常

# 第一个try会等待2秒后再抛出异常

try:

q.put("消息4", True, 2)

except:

print("消息队列已满,现有消息数量:%s" % q.qsize())

# 第二个Try会立刻抛出异常

try:

q.put_nowait("消息4")

except:

print("消息列队已满,现有消息数量:%s" % q.qsize())

# 推荐的方式,先判断消息列队是否已满,再写入

if not q.full():

q.put_nowait("消息4")

# 读取消息时,先判断消息列队是否为空,再读取

if not q.empty():

for i in range(q.qsize()):

print(q.get_nowait())

运行结果:

队列 Queue 的使用说明

初始化 Queue()对象时(例如:q=Queue()),若括号中没有指定最大可接收的消息数量,或数量为负值,那么就代表可接受的消息数量没有上限(直到内存的尽头)。

Queue.qsize():返回当前队列包含的消息数量。

Queue.empty():如果队列为空,返回True,反之False。

Queue.full():如果队列满了,返回True,反之False。

Queue.get([block[, timeout]]):获取队列中的一条消息,然后将其从列队中移除,block 默认值为 True。

  1. 如果 block 使用默认值,且没有设置 timeout(单位秒),消息队列如果为空,此时程序将被阻塞,停在读取状态,直到从消息队列读到消息为止;如果设置了 timeout,则会等待 timeout 秒,若还没读取到任何消息,则抛出 "Queue.Empty" 异常。
  2. 如果 block 值为 False,消息列队如果为空,则会立刻抛出 "Queue.Empty" 异常。

Queue.get_nowait():相当 Queue.get(False)。

Queue.put(item,[block[, timeout]]):将 item 消息写入队列,block 默认值为 True。

  1. 如果 block 使用默认值,且没有设置 timeout(单位秒),消息队列如果已经没有空间可写入,此时程序将被阻塞,停在写入状态,直到从消息队列腾出空间为止;如果设置了timeout,则会等待 timeout 秒,若还没空间,则抛出 "Queue.Full" 异常。
  2. 如果 block 值为 False,消息队列如果没有空间可写入,则会立刻抛出 "Queue.Full" 异常。

Queue.put_nowait(item):相当Queue.put(item, False)。

Queue实例

我们以 Queue 为例,在父进程中创建两个子进程,一个往 Queue 里写数据,一个从 Queue 里读数据。

from multiprocessing import Process, Queue

import os

import time

import random

def write(q):

# 写数据进程执行的代码:

for value in ["A", "B", "C"]:

print("Put %s to queue..." % value)

q.put(value)

time.sleep(random.random())

def read(q):

# 读数据进程执行的代码:

while True:

if not q.empty():

value = q.get(True)

print("Get %s from queue." % value)

time.sleep(random.random())

else:

break

if __name__ == "__main__":

# 父进程创建Queue,并传给各个子进程:

q = Queue()

pw = Process(target=write, args=(q,))

pr = Process(target=read, args=(q,))

# 启动子进程pw,写入:

pw.start()

# 等待pw结束:

pw.join()

# 启动子进程pr,读取:

pr.start()

pr.join()

print("")

print("所有数据都写入并且读完")

运行结果:

以上是 Python中通过队列来实现进程间通信 的全部内容, 来源链接: utcz.com/z/530829.html

回到顶部