記錄py3學習過程中的兩個小坑
環境:
1. Windows7 x64,Python 3.4.3 64/32 bit
2. Linux Mint 17.1 x64,Python 3.4.0
1 進程
環境1中,進程的join方法似乎沒有得到預期的效果:
#!/usr/bin/env python
# -*- coding: utf-8 -*-
from multiprocessing import Process
import os,time
def run_proc(name):
print ('Run child process %s (%s)……'%(name,os.getpid()))
if __name__=='__main__':
print ('Parent process %s.'%(os.getpid()))
p=Process(target=run_proc,args=('test100',))
print ('Process will start (child).')
p.start()
p.join()
print ('Process end (child).')
print ('**********123****************')
print ('456')
輸出:
Q1 爲何中間會多出一個456
的輸出?
同樣的代碼在環境2中輸出符合預期:
2 分佈式進程
按照廖雪峯的py教程寫的代碼,教程用py2,這裏是py3.
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# taskmanager.py
import random, time
import queue
from multiprocessing.managers import BaseManager
# 發送任務的隊列:
task_queue = queue.Queue()
# 接收結果的隊列:
result_queue = queue.Queue()
# 從BaseManager繼承的QueueManager:
class QueueManager(BaseManager):
pass
# 把兩個Queue都註冊到網絡上, callable參數關聯了Queue對象:
QueueManager.register('get_task_queue', callable=lambda: task_queue)
QueueManager.register('get_result_queue', callable=lambda: result_queue)
# 綁定端口5000, 設置驗證碼'1qaz':
manager = QueueManager(address=('', 5000), authkey=('1qaz'.encode('UTF-8')))
# 啓動Queue:
manager.start()
# 獲得通過網絡訪問的Queue對象:
task = manager.get_task_queue()
result = manager.get_result_queue()
# 放幾個任務進去:
for i in range(10):
n = random.randint(0, 10000)
print('Put task %d...' % (n))
task.put(n)
# 從result隊列讀取結果:
print('Try get results...')
for i in range(10):
r = result.get(timeout=12)
print('Result: %s' % r)
# 關閉:
manager.shutdown()
遠程代碼:
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# taskworker.py
import time, sys, queue
from multiprocessing.managers import BaseManager
# 創建類似的QueueManager:
class QueueManager(BaseManager):
pass
# 由於這個QueueManager只從網絡上獲取Queue, 所以註冊時只提供名字:
QueueManager.register('get_task_queue')
QueueManager.register('get_result_queue')
# 連接到服務器, 也就是運行taskmanager.py的機器:
server_addr = '127.0.0.1'
print('Connect to server %s...' % server_addr)
# 端口和驗證碼注意保持與taskmanager.py設置的完全一致:
m = QueueManager(address=(server_addr, 5000), authkey='1qaz'.encode('UTF-8'))
# 從網絡連接:
m.connect()
# 獲取Queue的對象:
task = m.get_task_queue()
result = m.get_result_queue()
# 從task隊列取任務,並把結果寫入result隊列:
for i in range(10):
try:
n = task.get(timeout=1)
print('run task %d * %d...' % (n, n))
r = '%d * %d = %d' % (n, n, n*n)
time.sleep(1)
result.put(r)
except Queue.Empty:
print('task queue is empty.')
# 處理結束:
print('worker exit.')
Q2 在環境1中即使使用管理員用戶, 也會出現OSError: [WinError 87] 參數錯誤。
或者PermissionError: [WinError 5] 拒絕訪問。
。
環境2中,正常:
以上兩個問題,暫時沒有深入研究, 估計是編譯器在處理進程的時候還有待完善。先記錄在此,後來人能看到這,就直接跳過去了。
PS: Py3中import Queue
應爲import queue
;
authkey='abc'
需要編碼, 如authkey='1qaz'.encode('utf-8')
, 同樣在taskworker.py
中也需要編碼。
CSDN終於支持Markdown了。。。。。。。。