Celery學習筆記(一)

Tips:在學習Celery過程中,使用的系統為Windows 10、Celery版本為3.1.18①、中間人使用RabbitMQ。

C:\Users\foolf>celery --version
3.1.18 (Cipater)

什么是任務隊列

任務隊列是一種在線程或者機器之間分發任務的機制。
消息隊列的輸入是工作的一個單元,稱為任務,獨立的職程(Worker)進程持續監視隊列中是否有需要處理的新任務。

Celery使用消息通信,通信一般使用中間人(Broker)在客戶端和職程之間斡旋。這個過程從客戶端想隊列中添加消息開始,之后中間人將消息派送給職程。

Celery是Python編寫的,但協議可以使用任何語言實現。

需要什么

Celery需要一個發送和接受消息的傳述者。RabbbitMQ和Redis中間人的消息支持所有的特性,我們主要是使用RabbitMQ作中間人(關于中間人RabbitMQ的安裝可以網上搜索,有很多詳細的教程)。

Celery優勢

在程序運行過程中,我們經常會遇到一些耗時耗資源的操作,為了避免阻塞主程序,我們會采用異步或者多線程來處理任務。比如在主程序中調用一個函數,并從該函數中獲取函數返回值。如果這個函數不能很快執行完成并返回,那么主程序就會阻塞,知直到函數返回。
Celery是一個強大的分布式任務隊列,它可以讓人物的執行完全脫離主程序,甚至可以被分配到其他的主機上運行。

Celery架構:

架構

從圖上可以看出Celery包含幾個模塊:

  • 任務模塊
    主要包異步任務和定時任務,異步任務通常在業務邏輯中被觸發并發送到任務隊列中,而定時任務是由Celery Beat進程周期性的將任務發往任務隊列。
  • 消息中間件Broker
    Broker就是任務調度隊列,接受任務生產者發送來的消息,將任務存入隊列,之所以需要中間人的原因是Celrey本身是不提供消息隊列的服務,所以需要第三方組件實現。
  • 任務執行單元Worker
    Worker是執行任務的單元,它實時監控消息隊列,如果有任務就獲取任務并執行它。
  • 任務存儲Backend
    Backend用于存儲任務只想的結果,存儲可以使用RabbitMQ或者Redis或者數據庫等。

安裝Celery

Celery已經提交到Pypi上,所以我們可是使用Python的工具pip來安裝。

pip install celery==3.1.18

上面的安裝命令,如果沒有指定版本,系統會默認安裝最新版本的Celery,但是這里可能在后面的學習中遇到問題。關于問題放到最后解釋,暫且我們先安裝3.1.18版本的Celery。

創建Celery實例

如果你已經安裝好了Celery,那么現在就可以創建Celery實例了:
tasks.py

# coding:utf-8

from celery import Celery

app = Celery('tasks', broker='amqp://guest@localhost//')

@app.task
def add(x, y):
    return x + y

Celery的第一個參數是當前模塊名稱,這個參數是必須的,第二個參數是中間人關鍵字參數,指定我們所使用的的消息中間人的URL,這里我們使用的是RabbitMQ。我們定義了一個單一的任務,稱為add,返回兩個數字的和。

啟動Celery職程服務器(Worker)

 celery -A tasks worker --loglevel=info

參數-A指定了Celery實例的位置,這個實例是在tasks.py文件中,Celery會自動在該文件中查找Celery對象實例。
--loglevel指定日志的級別,默認是warning。
如果啟動正常,就會看到下面的輸出。


running

調用任務

現在我們已經開啟了一個Worker了,這樣我們可以在應用程序中使用 delay()或者 apply_async()方法來調用任務。
在tasks.py文件所在的目錄打開終端。

>>> from tasks import add
>>> add.delay(2, 8)
<AsyncResult: 1b50f449-8fa2-478a-9eea-561a3c29fd43>
>>>

我們先從tasks.py文件中導入add任務對象,然后使用delay()方法將任務發送到消息中間件,我們之前開啟的那個Worker會一直監控任務隊列,知道有任務到來,就會執行。
我們到Worker中可以看到多了幾條日志信息:

[2017-03-09 19:45:35,351: INFO/MainProcess] Received task: tasks.add[1b50f449-8fa2-478a-9eea-561a3c29fd43]
[2017-03-09 19:45:40,920: INFO/MainProcess] Task tasks.add[1b50f449-8fa2-478a-9eea-561a3c29fd43] succeeded in 5.56299996376s: 10

說明我們的任務被調度并執行成功了。

獲得結果

剛我們在命令行中調用任務,很明顯任務執行完成,但是我們并不知道任務執行后得到的結果是什么。如果我們想獲得執行后的結果可以這樣:

>>> result = add.delay(2, 8)
>>> result.ready()  # 查看任務執行的狀態,此刻任務沒有執行完成,顯示False
False
>>> result.ready()
True  # 表示任務已經執行完成
>>> result.get()  # 獲取任務的執行結果
10
>>>

注解:

①:之前我是在windows下學習的Celery,安裝的Celery版本是4.0.2;在運行Worker過程中遇到如下ed錯誤:

I:\Celery\celery-examples>celery -A tasks worker --loglevel=info

 -------------- celery@DESKTOP-N53SFFK v4.0.2 (latentcall)
---- **** -----
--- * ***  * -- Windows-10-10.0.14393 2017-02-28 00:32:22
-- * - **** ---
- ** ---------- [config]
- ** ---------- .> app:         tasks:0x4700908
- ** ---------- .> transport:   amqp://guest:**@localhost:5672//
- ** ---------- .> results:     disabled://
- *** --- * --- .> concurrency: 4 (prefork)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** -----
 -------------- [queues]
                .> celery           exchange=celery(direct) key=celery


[tasks]
  . tasks.add

[2017-02-28 00:32:22,619: CRITICAL/MainProcess] Unrecoverable error: TypeError('argument 1 must be an integer, not _subprocess_handle',)
Traceback (most recent call last):
  File "c:\python27\lib\site-packages\celery\worker\worker.py", line 203, in start
    self.blueprint.start(self)
  File "c:\python27\lib\site-packages\celery\bootsteps.py", line 119, in start
    step.start(parent)
  File "c:\python27\lib\site-packages\celery\bootsteps.py", line 370, in start
    return self.obj.start()
  File "c:\python27\lib\site-packages\celery\concurrency\base.py", line 131, in start
    self.on_start()
  File "c:\python27\lib\site-packages\celery\concurrency\prefork.py", line 112, in on_start
    **self.options)
  File "c:\python27\lib\site-packages\billiard\pool.py", line 1008, in __init__
    self._create_worker_process(i)
  File "c:\python27\lib\site-packages\billiard\pool.py", line 1117, in _create_worker_process
    w.start()
  File "c:\python27\lib\site-packages\billiard\process.py", line 122, in start
    self._popen = self._Popen(self)
  File "c:\python27\lib\site-packages\billiard\context.py", line 383, in _Popen
    return Popen(process_obj)
  File "c:\python27\lib\site-packages\billiard\popen_spawn_win32.py", line 64, in __init__
    _winapi.CloseHandle(ht)
TypeError: argument 1 must be an integer, not _subprocess_handle

I:\Celery\celery-examples>Traceback (most recent call last):
  File "<string>", line 1, in <module>
  File "c:\python27\lib\site-packages\billiard\spawn.py", line 159, in spawn_main
    new_handle = steal_handle(parent_pid, pipe_handle)
  File "c:\python27\lib\site-packages\billiard\reduction.py", line 121, in steal_handle
    _winapi.PROCESS_DUP_HANDLE, False, source_pid)
WindowsError: [Error 87]

經過搜索發現是因為winsows是不支持celery4的。參照的回答在這https://github.com/celery/celery/issues/3551
所以我機制的將版本降低到3,運行正常。記錄下來僅僅是避免其他人在學習中不會再這個小問題上浪費時間。

END

由于學習的還是celery的基礎,所以后面的更復雜的內容等學了再更。

參考文章:

http://docs.jinkan.org/docs/celery/index.html
http://www.guodongkeji.com/newsshow-24-2135-1.html

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,936評論 6 535
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,744評論 3 421
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,879評論 0 381
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,181評論 1 315
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,935評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,325評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,384評論 3 443
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,534評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,084評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,892評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,067評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,623評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,322評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,735評論 0 27
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,990評論 1 289
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,800評論 3 395
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,084評論 2 375

推薦閱讀更多精彩內容