編寫高質(zhì)量的python代碼(4): 使用Queue使多線程編程更安全

??????曾經(jīng)有這么一個(gè)說法,程序中存在3種類型的bug:你的bug,我的bug和多線程。這雖然是句調(diào)侃,但從某種程度上道出了一個(gè)事實(shí):多線程編程不是件容易的事情。線程間的同步和互斥,線程間數(shù)據(jù)的共享等這些都是涉及線程安全方面要考慮的問題。縱然python中提供了眾多的同步和互斥機(jī)制,如mutex,condition,event等,但同步和互斥本身就不是一個(gè)容易的話題,稍有不慎就會(huì)陷入死鎖狀態(tài)或者威脅線程安全。我們來看一個(gè)經(jīng)典的多線程同步問題:生產(chǎn)者消費(fèi)者模型。如果用python來實(shí)現(xiàn),你會(huì)怎么寫?大概思路是這樣:分別創(chuàng)建消費(fèi)者和生產(chǎn)者線程,生產(chǎn)者往隊(duì)列里面放產(chǎn)品,消費(fèi)者從隊(duì)列里面取出產(chǎn)品,創(chuàng)建一個(gè)線程鎖以保證線程間操作的互斥性。當(dāng)隊(duì)列滿足的時(shí)候消費(fèi)者進(jìn)入等待狀態(tài),當(dāng)隊(duì)列為空的時(shí)候生產(chǎn)者進(jìn)入等待狀態(tài)。我們來看一個(gè)具體的python實(shí)現(xiàn):

# -*- coding: utf-8 -*-
import Queue
import threading
import random


writelock = threading.Lock()

class Producer(threading.Thread):
    def __init__(self, q, con, name):
        super(Producer, self).__init__()
        self.q = q
        self.name = name
        self.con = con
        print "Producer " + self.name + " Started"
    def run(self):
        while 1:
            global writelock
            self.con.acquire()   # 獲取鎖對(duì)象
            if self.q.full():
                with writelock:
                    print 'Queue is full, producer wait!'
                self.con.wait()  # 等待資源
            else:
                value = random.randint(0, 10)
                with writelock:
                    print self.name + " put value" + self.name + ":" + str(value)+ "into queue"
            self.q.put((self.name + ":" + str(value)))
            self.con.notify()
        self.con.release()


class Consumer(threading.Thread):
    def __init__(self, q, con, name):
        super(Consumer, self).__init__()
        self.q = q
        self.con = con
        self.name = name
        print "Consumer "+self.name+" started\n"

    def run(self):
        while 1:
            global writelock
            self.con.acquire()
            if self.q.empty():
                with writelock:
                    print 'queue is empty, consumer wait!'
                self.con.wait()
            else:
                value = self.q.get()
                with writelock:
                    print self.name + "get value" + value + " from queue"
                self.con.notify()
            self.con.release()

if __name__ == "__main__":
    q = Queue.Queue(10)
    con = threading.Condition()
    p = Producer(q, con, "P1")
    p.start()
    p1 = Producer(q, con, "P2")
    p1.start()
    c1 = Consumer(q, con, "C1")
    c1.start()

??????上面的程序?qū)崿F(xiàn)有什么問題嗎?回答這個(gè)問題之前,我們先來了解一下Queue模塊的基本知識(shí)。Python中的Queue模塊提供了3種隊(duì)列:

  • Queue.Queue(maxsize): 先進(jìn)先出,maxsize為隊(duì)列大小,其值為非正數(shù)非時(shí)候?yàn)闊o限循環(huán)隊(duì)列
  • Queue.LifoQueue(maxsize): 后進(jìn)先出,相當(dāng)于棧
  • Queue.PriorityQueue(maxsize): 優(yōu)先級(jí)隊(duì)列。
    這三種隊(duì)列支持以下方法:
  • Queue.qsize(): 返回近似的隊(duì)列大小。注意,這里之所以加“近似”二字,是因?yàn)樵撝?gt;0的時(shí)候并不保證并發(fā)執(zhí)行的時(shí)候get()方法不被阻塞,同樣,對(duì)于put()方法有效
  • Queue.empty(): 隊(duì)列為空的時(shí)候返回True, 否則返回False
  • Queue.full(): 當(dāng)設(shè)定了隊(duì)列大小的時(shí)候,如果隊(duì)列滿則返回True,否則返回False
  • Queue.put(item[,block[, timeout]]): 往隊(duì)列里添加元素item,block設(shè)置為False的時(shí)候,如果對(duì)列滿則拋出Full異常。如果block設(shè)置為True,timeout為None的時(shí)候則會(huì)一直等待到有空位置,否則會(huì)根據(jù)timeout的設(shè)定超時(shí)后拋出full異常
  • Queue.put_nowait(item): 等價(jià)于put(item, False).block設(shè)置為False的時(shí)候,如果對(duì)列空咋拋出Empty異常。如果block設(shè)置為True,timeout為None的時(shí)候則會(huì)一直等待到有元素可用,否則會(huì)根據(jù)timeout的設(shè)定超時(shí)后拋出empty異常
  • Queue.get([block[,timeout]]): 從隊(duì)列中刪除元素并返回該元素的值
  • Queue.get_nowait(): 等價(jià)于get(False)
  • Queue.task_done(): 發(fā)送信號(hào)表明入隊(duì)任務(wù)已經(jīng)完成,經(jīng)常在消費(fèi)者線程中用到
  • Queue.join(): 阻塞直至對(duì)列中所有元素處理完畢
    ??????Queue模塊實(shí)現(xiàn)了多個(gè)生產(chǎn)者消費(fèi)者的對(duì)列,當(dāng)線程之間需要信息安全的交換的時(shí)候特別的有用,因此這個(gè)模塊實(shí)現(xiàn)了所需要的鎖原語,為Python多線程編程提供了有力的支持,踏實(shí)線程安全的。需要注意的是Queue模塊中的對(duì)列和collections.dequeue所表示對(duì)額對(duì)列并不一樣,前者主要用于不同線程之間的通信,它內(nèi)部實(shí)現(xiàn)了現(xiàn)成的鎖機(jī)制;而后者主要是數(shù)據(jù)結(jié)構(gòu)上的概念,因此支持in方法
    ??????再回過頭來看看前面的例子,程序的實(shí)現(xiàn)有什么問題呢?答案很明顯,作用于queue操作的條件變量完全是不需要的,因?yàn)镼ueue本身能夠保證線程安全,因此不需要額外的同步機(jī)制。下面是一個(gè)多線程下載的例子
# -*- coding: utf-8 -*-
import os
import Queue
import threading
import urllib2
class DownloadThread(threading.Thread):
    def __init__(self, queue):
        threading.Thread.__init__(self)
        self.queue = queue

    def run(self):
        while True:
            url = self.queue.get()
            print self.name + "begin download"+url +"..."
            self.download_file(url)
            self.queue.task_done()
            print self.name + " download completed!!!"
    def download_file(self, url):
        urlhandler = urllib2.urlopen(url)
        fname = os.path.basename(url) + ".html"
        with open(fname, 'wb') as f:
            while True:
                chunk = urlhandler.read(1024)
                if not chunk:
                    break
                f.write(chunk)
if __name__ == "__main__":
    urls = [ "http://www.baidu.com", "http://www.cnblogs.com/chaosimple/p/4153083.html",
"http://shop.dspread.com/weixin/ksher/check_shop?page_no=1&page_count=10"]
    queue = Queue.Queue()
    for i in range(5):
        t = DownloadThread(queue)
        t.setDaemon(True)
        t.start()
    for url in urls:
        queue.put(url)
    queue.join()
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,606評(píng)論 6 533
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,582評(píng)論 3 418
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,540評(píng)論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,028評(píng)論 1 314
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,801評(píng)論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,223評(píng)論 1 324
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,294評(píng)論 3 442
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,442評(píng)論 0 289
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,976評(píng)論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,800評(píng)論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,996評(píng)論 1 369
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,543評(píng)論 5 360
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,233評(píng)論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,662評(píng)論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,926評(píng)論 1 286
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 51,702評(píng)論 3 392
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,991評(píng)論 2 374

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 134,785評(píng)論 18 139
  • 1 隊(duì)列簡(jiǎn)介 The Queue module has been renamed to queue in Pyth...
    rebirth_2017閱讀 242評(píng)論 0 0
  • 1、線程和進(jìn)程 計(jì)算機(jī)的核心是CPU,它承擔(dān)了所有的計(jì)算任務(wù)。它就像一座工廠,時(shí)刻在運(yùn)行。 假定工廠的電力有限,一...
    文哥的學(xué)習(xí)日記閱讀 14,365評(píng)論 0 9
  • 1、線程和進(jìn)程 計(jì)算機(jī)的核心是CPU,它承擔(dān)了所有的計(jì)算任務(wù)。它就像一座工廠,時(shí)刻在運(yùn)行。 假定工廠的電力有限,一...
    Andone1cc閱讀 495評(píng)論 0 1
  • 淡淡的相遇,默默的守候 ——茹心 這個(gè)俗世有些吵雜,紛擾也很多,到處都是喧鬧的聲音。 腳掌不大,走路卻很快,曾以為...
    茹心閱讀 481評(píng)論 0 2