基于python 的分類算法模板 -- 數據庫索引、特征提取、分類、分類結果查看

我是用 jupyter notebook寫的,各個功能模塊清楚分明,順便推薦給大家。 以圖片分類為例:

主要依賴于:

  • scikit-learn
  • scikit-image
  • matplotlib
  • jupyter notebook
  • numpy
  • cv2 (傾向于使用 skimage image 代替之, skimage 使用的是 圖像坐標 (通過行列檢索),cv2使用笛卡爾坐標檢索(x,y))

直接開始正文:

導入依賴庫

  • 寫個 lib.ipynb 將依賴庫都放進去
%matplotlib inline
import platform

SYS = platform.system()

if 'Linux' in SYS:
    %run /home/v/WORKSPACE/GIT/LIB/lib.ipynb
else:
    %run d:/WORKSPACE/git/LIB/lib.ipynb
t1 = toc()

注意事項:

  1. lib.ipynb 是依賴庫函數所在文件
  2. 為了方便linux 和 win 都能運行,所以加入最后幾行。
  3. toc()函數是自己寫的函數,為了方便整體計時,存放在lib里面,局部計時有%%timeit命令。

數據庫(圖片)路徑

trainset = ps('image path for training ')
testset = ps('image path for testing')
print ("[INFO] There are %d classes in the trainset" % len(os.listdir(trainset)))

注意事項:

  1. ps函數可有可無,有興趣的朋友可以留言。
  2. 每個文件夾存放一個類別的圖片,文件夾的命名要體現圖片label和category name,這樣做會在分類上省事一些,通過下面的特征提取代碼,大家可以看到。我的數據庫是這樣命名的:
train and test folders
class folders in train set

這樣命名的好處很快可以在特征提取模塊看到。

特征提取 -- HOG 特征

%%time
x_train=[]
y_train=[]

for floder_nmae in tqdm(os.listdir(trainset)):
    label= int( floder_nmae.split("__")[0] )

    class_path=os.path.join(trainset,floder_nmae)
    for img_name in os.listdir(class_path):
        img_path=os.path.join(class_path,img_name)
        
        ##  readin the original image
        ROI = imread(img_path, as_grey=True, resize =True, width =200, height =100)

        x_train.append(HOG(ROI,ori=9, ppc=(20, 20), cpb=(2, 2)))
        y_train.append(label)

     
x_test=[]
y_test=[]
        
for class_folder in tqdm(os.listdir(testset)):
    label= int( class_folder.split("__")[0] )

    class_path=os.path.join(testset,class_folder)
    for j in os.listdir(class_path):
        img_path=os.path.join(class_path,j)
        
        ##  readin the original image
        ROI = imread(img_path, as_grey=True, resize =True, width =200, height =100)
        
        x_test.append(HOG(ROI,ori=9,ppc=(20, 20), cpb=(2, 2)))
        y_test.append(label)
        
print (" number of train samples : %d " % len(x_train)  )
print (" number  of test samples : %d " % len(x_test)   )
print (" feature dim is : %d " % len(x_train[0])   )

注意事項:

  1. 文件夾命名的好處現在知道了吧,直接 .split("__")就可以得到類別label
  2. imread 函數和HOG函數都被我簡單封裝了下,存在lib里面,原因是不同語言各種各樣的 圖片讀取, resize, 灰度化函數搞得我好亂啊,所以索性同一放在imread函數里面,集 圖片讀取,灰度化, resize, rescale于一身。如有朋友需要的話,我可以公布下這個函數。HOG函數也是一樣,skimage不僅在HOG函數bins的方向上弄得不好,而且函數明明也過于冗長和復雜. ori = orientation, ppc = pixel per cell, cpb = cell per block 沒人會質疑我的簡化吧。
  3. 這部分的輸出是這樣的:
module output

wall time 就是jupyter notebook magic函數的功能,給出當前cell的運行時間。有機會寫一系列 jupyter notebook (ipython) magic function的簡文(如果有人提出的話)。

分類器的訓練(linear SVM)

直接上代碼

%%time

clf = svm.LinearSVC()

parameters = {
              'C': np.arange(1, 15, 1), 
              'multi_class': ['crammer_singer']
              }

# run randomized search
n_iter_search = 10
clf = RandomizedSearchCV(clf, 
                                   param_distributions = parameters, 
                                   n_iter = n_iter_search,
                                   n_jobs = 4,
                                   pre_dispatch = '2*n_jobs')

clf.fit(x_train, y_train)
  • crammer singer SVM 是為多類別分類設計的,這個我喜歡,因為效果好。
  • 現在知道 特征列表和label 列表明明的好處了吧。 x, y, train。體會一下。
  • 我特意加入了參數選擇這一塊,調參是個大問題,如果機器允許,就讓他自己去找吧,當然是通過 coss validation的方式, Randomized SearchCV 默認是將訓練數據5-fold還是6-fold, 這個參數也可以修改,需要的話可以百度 scikit learn documentation.
  • 這部分的輸出: 有需要解釋的地方可以提問。。。。。。
module output

測試 --測試集

這部分沒啥說的, scikit learn 搞的函數接口還是簡單易懂的。

y_pred = clf.predict(x_test)

分類結果 accuracy

  • 這里只提供了我寫的 acc函數,scikit learn 沒有提供acc的檢測接口。 當然還有其他的準則去檢驗,如:precision, recall, f1 score. 這些還是不如acc 表達的清楚:分對的個數除以要分類的樣本個數。
  • 依舊,acc被我封裝起來了,存在lib.ipynb里面。
  • 上結果:
Paste_Image.png
  • 不用多解釋了吧。
  • 函數總體運行時間,通過elapsed_time 得到, 現在知道toc()的作用了吧。
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,786評論 6 534
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,656評論 3 419
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,697評論 0 379
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,098評論 1 314
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,855評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,254評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,322評論 3 442
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,473評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,014評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,833評論 3 355
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,016評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,568評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,273評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,680評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,946評論 1 288
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,730評論 3 393
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,006評論 2 374

推薦閱讀更多精彩內容