python之multiprocessing.pool

Pool相關函數

1、apply(func[, args[, kwds]])
apply用於傳遞不定參數,同python中的apply函數一致(不過內置的apply函數從2.3以後就不建議使用了),主進程會阻塞於函數。

主進程的執行流程同單進程一致。

2、apply_async(func[, args[, kwds[, callback]]])
與apply用法一致,但它是非阻塞的且支持結果返回後進行回調。

主進程循環運行過程中不等待apply_async的返回結果,在主進程結束後,即使子進程還未返回整個程序也會退出。雖然 apply_async是非阻塞的,但其返回結果的get方法卻是阻塞的,如使用result.get()會阻塞主進程。
如果我們對返回結果不感興趣, 那麼可以在主進程中使用pool.close與pool.join來防止主進程退出。注意join方法一定要在close或terminate之後調用。

3、map(func, iterable[, chunksize])
map方法與在功能上等價與內置的map(),只不過單個任務會並行運行。它會使進程阻塞直到結果返回。
但需注意的是其第二個參數雖然描述的爲iterable, 但在實際使用中發現只有在整個隊列全部就緒後,程序纔會運行子進程。

4、map_async(func, iterable[, chunksize[, callback]])
與map用法一致,但是它是非阻塞的。其有關事項見apply_async。

5、imap(func, iterable[, chunksize])
與map不同的是, imap的返回結果爲iter,需要在主進程中主動使用next來驅動子進程的調用。即使子進程沒有返回結果,主進程對於gen_list(l)的 iter還是會繼續進行, 另外根據python2.6文檔的描述,對於大數據量的iterable而言,將chunksize設置大一些比默認的1要好。

for x in pool.imap(pool_test, gen_list(l)):
    pass

6、imap_unordered(func, iterable[, chunksize])
同imap一致,只不過其並不保證返回結果與迭代傳入的順序一致。

7、close()
關閉pool,使其不再接受新的任務。

8、terminate()
結束工作進程,不再處理未處理的任務。

9、join()
主進程阻塞等待子進程的退出, join方法要在close或terminate之後使用。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章