----------基础篇

引子

Queue是多进程安全的队列,可以使用Queue实现多进程之间的数据传递。

常用方法:

  • get( [ block [ ,timeout ] ] ) :从队列读取并且删除一个元素。如果q为空,此方法将阻塞,直到队列中有项目可用为止。block用于控制阻塞行为,默认为True。timeout是可选超时时间,用在阻塞模式中。如果blocked为True(默认值),并且timeout为正值,那么在等待时间内没有取到任何元素,会抛出Queue.Empty异常。如果blocked为False,有两种情况存在,如果Queue有一个值可用,则立即返回该值,否则,如果队列为空,则立即抛出Queue.Empty异常。
  • get_nowait( ) :同get(False)方法。
  • put(item [, block [,timeout ] ] ) :将item放入队列。如果队列已满,此方法将阻塞至有空间可用为止。block控制阻塞行为,默认为True。timeout指定在阻塞模式中等待可用空间的时间长短。如果blocked为True(默认值),并且timeout为正值,该方法会阻塞timeout指定的时间,直到该队列有剩余的空间。如果超时,会抛出Queue.Full异常。如果blocked为False,但该Queue已满,会立即抛出Queue.Full异常。
  • qsize() :返回队列中目前项目的正确数量。此函数的结果并不可靠,因为在返回结果和在稍后程序中使用结果之间,队列中可能添加或删除了项目。在某些系统上,此方法可能引发NotImplementedError异常。
  • empty() :如果调用此方法时队列为空,返回True。如果其他进程或线程正在往队列中添加项目,结果是不可靠的。也就是说,在返回和使用结果之间,队列中可能已经加入新的项目。
  • full() :如果q已满,返回为True. 由于线程的存在,结果也可能是不可靠的。
  • close() :关闭队列,防止队列中加入更多数据。调用此方法时,后台线程将继续写入那些已入队列但尚未写入的数据,但将在此方法完成时马上关闭。如果队列被垃圾收集,将自动调用此方法。关闭队列不会在队列使用者中生成任何类型的数据结束信号或异常。例如,如果某个使用者正被阻塞在get()操作上,关闭生产者中的队列不会导致get()方法返回错误。
  • cancel_join_thread():不会再进程退出时自动连接后台线程。这可以防止join_thread()方法阻塞。
  • join_thread():连接队列的后台线程。此方法用于在调用close()方法后,等待所有队列项被消耗。默认情况下,此方法由不是队列的原始创建者的所有进程调用。调用cancel_join_thread()方法可以禁止这种行为。

Queue的一段示例代码:

import multiprocessing

def writer_proc(q):      
    try:         
        q.put(1, block = False) 
    except:         
        pass   

def reader_proc(q):      
    try:         
        print(q.get(block = False) )
    except:         
        pass

if __name__ == "__main__":
    q = multiprocessing.Queue()
    writer = multiprocessing.Process(target=writer_proc, args=(q,))  
    writer.start()   

    reader = multiprocessing.Process(target=reader_proc, args=(q,))  
    reader.start()  

    reader.join()  
    writer.join()

结果

python 进程间消息订阅 python进程queue_多线程

from multiprocessing import Process
from multiprocessing import Queue
import random
import os
# 向queue中输入数据的函数
def inputQ(queue):
    info = random.randint(1,100)
    queue.put(info)
    print('进程{}往队列中存了一个数据:{}'.format(os.getpid() , info))

# 向queue中输出数据的函数
def outputQ(queue):
    info = queue.get()
    print ('进程{}从队列中取出一个数据:{}'.format(os.getpid() , info))

if __name__ == '__main__':
    queue = Queue(5)
    lst_1  = []
    lst_2  = []
    for i in range(3):
        process = Process(target=inputQ,args=(queue,))
        process.start()
        lst_1.append(process)

    # 输出进程
    for i in range(2):
        process = Process(target=outputQ ,args=(queue,))
        process.start()
        lst_2.append(process)

结果:

python 进程间消息订阅 python进程queue_队列_02

另外,在使用进程池Pool时,使用Queue会出错,需要使用Manager.Queue。

参考文章:

Python3.x:多进程Pipes与Manager