# -*- coding: utf-8 -*-
# @Time : 2018/7/6 17:10
# @Author :
# @File :
# @Description :
import pandas as pd
import pymongo
pd.set_option('expand_frame', False)
MONGO_URI = 'mongodb://XXX:XXX'
MONGO_DB = 'LogData'
MONGO_TABLE = 'LogData'
client = pymongo.MongoClient(MONGO_URI)
db = client[MONGO_DB]
def get_data_from_queue(queueName):
data = pd.DataFrame(list(db[MONGO_TABLE].find({'queueName': queueName})))
return data
def select_data_from_queue(df, queueName, output_filename):
print('正在處理queue:', queueName)
ser = df['Contact_Alias'].notnull().value_counts()
print('Contact_Alias不為空的數據為:', ser.loc[True])
print('Contact_Alias為空的數據為:', ser.loc[False])
# Contact_Alias 不為空的情況
df_alias_not_null = df[df['Contact_Alias'].notnull()]
# Contact_Alias 為空, Contact_QuanPin 不以wxid開頭的情況
df_alias_is_null = df[df['Contact_Alias'].isnull() & df['Contact_QuanPin'].notnull()]
condition = df_alias_is_null['Contact_QuanPin'].apply(lambda x: not x.startswith('wxid'))
df_auxiliary = df_alias_is_null[condition]
print('通過Contact_QuanPin新增數據:', len(df_auxiliary))
df_output = pd.concat([df_alias_not_null, df_auxiliary], axis=0)
df_output = df_output[['phone', 'Contact_Alias', 'Contact_QuanPin']]
df_output.reset_index(inplace=True, drop=True)
num = len(df_output)
print('最終輸出數據條數;', num)
print()
fill_values = df_output.loc[(df_output['Contact_Alias'].isnull()), 'Contact_QuanPin'].values
df_output.loc[(df_output['Contact_Alias'].isnull()), 'Contact_Alias'] = fill_values
# print(df_output)
df_output.to_csv('./data/' + output_filename + '_wechat_' + str(num) + '.txt', columns=['phone', 'Contact_Alias'],
header=None, index=False, sep='\t')
def run(queueName, output_filename):
df = get_data_from_queue(queueName)
select_data_from_queue(df, queueName, output_filename)
if __name__ == '__main__':
run('qbrq_1000', output_filename='XXXX')
PD操作
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
- 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
- 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
- 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
推薦閱讀更多精彩內容
- 腫瘤免疫療法方案是最新的抗癌治療,也是當前腫瘤治療領域中最具前景的研究方向之一,各大藥企紛紛尋求與其他公司合作研發...
- 正面管教的課程內容都有什么? 正面管教系統課程正是為解決家長對孩子管教的各種挑戰而設。 真實事件的角色演繹,感同身...