MongoDB SUM 求和兩大方法

0:背景:

最近在做數(shù)據(jù)統(tǒng)計(jì)部分,數(shù)據(jù)是放在MongoDB的,我們一開始的方法是從MongoDB中將數(shù)據(jù)取出,在PHP中做運(yùn)算,后面發(fā)現(xiàn)數(shù)據(jù)量大的時(shí)候,太慢了,120W的數(shù)據(jù)差不多要花30秒,后面實(shí)在受不了,于是打算使用MapReduce重構(gòu)。

1:MapReduce:

$db->command([
    'mapreduce' => 'orders',
    'map' => 'function(){emit("money",this.money)}',
    'reduce' => 'function(key, values){return Array.sum(values)}',
    'query' => $map,
    'out' => 'total_money'
]);
$re = $collection->selectCollection('total_money')->find();

但是用MapReduce后,性能提升不明顯,目測(cè)只有10%左右。可能得益于省去網(wǎng)絡(luò)的傳輸成本。

引用

1.group(先篩選再分組,不支持分片,對(duì)數(shù)據(jù)量有所限制,效率不高)

2.mapreduce(基于js引擎,單線程執(zhí)行,效率較低,適合用做后臺(tái)統(tǒng)計(jì)等)

3.aggregate(推薦) (如果你的PHP的mongodb驅(qū)動(dòng)版本需>=1.3.0,推薦你使用aggregate,性能要高很多,并且使用上要簡(jiǎn)單些,不過(guò)1.3的目前還不支持賬戶認(rèn)證模式,可以通過(guò)http://pecl.php.net/package/mongo查看更新日志和Bug)

后面發(fā)現(xiàn),樓主的mongodb驅(qū)動(dòng)剛好好能用aggregate,所以果斷使用aggregate。

2:aggregate

$collection->aggregate([
    ['$match' => $map],
    ['$group' => [
        '_id' => null,
        'total_money' => ['$sum' => '$money'],
        'total_money_usd' => ['$sum' => '$money_usd']
    ]]
]);

由于樓主的MongoDB比較舊,所以不能再 $project 中調(diào)用 $sum(可以點(diǎn)我看看官方文檔)。可以可賀的是,120w數(shù)據(jù)從原來(lái)的30秒下降到18秒,體驗(yàn)大大提升。領(lǐng)導(dǎo)看數(shù)據(jù)匯總也終于不用等半天了,下一步就是搞清楚分片以及升級(jí)一下MongoDB,看看有沒(méi)有再提升的空間。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,825評(píng)論 6 546
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,814評(píng)論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人,你說(shuō)我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,980評(píng)論 0 384
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 64,064評(píng)論 1 319
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,779評(píng)論 6 414
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 56,109評(píng)論 1 330
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 44,099評(píng)論 3 450
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 43,287評(píng)論 0 291
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,799評(píng)論 1 338
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,515評(píng)論 3 361
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,750評(píng)論 1 375
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,221評(píng)論 5 365
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,933評(píng)論 3 351
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,327評(píng)論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,667評(píng)論 1 296
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,492評(píng)論 3 400
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,703評(píng)論 2 380

推薦閱讀更多精彩內(nèi)容