推斷

通過(guò)訓(xùn)練好的鳶尾花分類模型，我們輸入一個(gè)未經(jīng)過(guò)人工分類的鳶尾花特征數(shù)據(jù)，能得出類似如下的推斷結(jié)果：

⊙ 0.03 for Iris Setosa

⊙ 0.95 for Iris Versicolor

⊙ 0.02 for Iris Virginica

這就是通過(guò)模型識(shí)別為某種鳶尾花的概率，它們的和為1

Estimators的使用

Estimator是TensorFlow的高層訓(xùn)練模型API，它屏蔽了數(shù)據(jù)初始化、日志、模型保存和恢復(fù)等細(xì)節(jié)，令你可以專心訓(xùn)練你的模型，使用默認(rèn)的Estimator步驟如下：

⊙ 創(chuàng)建一個(gè)或多個(gè)輸入函數(shù)（input function）

⊙ 定義模型特征集

⊙ 實(shí)例化Estimator，并傳入特征集和超參數(shù)

⊙ 使用特定的輸入函數(shù)作為參數(shù)調(diào)用Estimator的方法

創(chuàng)建輸入函數(shù)

輸入函數(shù)為模型訓(xùn)練、模型評(píng)估和數(shù)據(jù)預(yù)測(cè)等操作提供數(shù)據(jù)輸入，它的返回值一般是個(gè)二元組：

features元組：一個(gè)map

????⊙ key是特征的名字

? ??⊙ values是包含所有特征值的數(shù)組

labels元組：一個(gè)包含所有標(biāo)簽值的數(shù)組

一個(gè)簡(jiǎn)單的輸入函數(shù)實(shí)現(xiàn)如下：

def input_evaluation_set(): ? ?

????features = {'SepalLength': np.array([6.4, 5.0]), ? ? ? ? ? ? ? ?

? ? ? ? ? ? ? ? ? ? ? ?'SepalWidth': ?np.array([2.8, 2.3]), ? ? ? ? ? ? ? ?

? ? ? ? ? ? ? ? ? ? ? ?'PetalLength': np.array([5.6, 3.3]), ? ? ? ? ? ? ? ?

? ? ? ? ? ? ? ? ? ? ? ?'PetalWidth': ?np.array([2.2, 1.0])}? ?

????labels = np.array([2, 1]) ? ? return features, labels

TensorFlow建議使用Dataset API，它對(duì)解析一些數(shù)據(jù)輸入源非常有幫助，其API層次如下：

Dataset API層次結(jié)構(gòu)

Dataset：數(shù)據(jù)集API的基類，包含創(chuàng)建和傳輸數(shù)據(jù)集的接口

TextLineDataset：從文本文件讀取數(shù)據(jù)集

TFRecordDataset：從TFRecord文件讀取數(shù)據(jù)集

FixedLengthRecordDataset：從二進(jìn)制文件讀取數(shù)據(jù)集

Iterator：數(shù)據(jù)集迭代器，通過(guò)它可以遍歷整個(gè)數(shù)據(jù)集

一個(gè)使用Dataset API的輸入函數(shù)例子：

def train_input_fn(features, labels, batch_size):

????"""An input function for training"""

????# Convert the inputs to a Dataset.

????dataset = tf.data.Dataset.from_tensor_slices((dict(features), labels))

????# Shuffle, repeat, and batch the examples.

????dataset =? dataset.shuffle(1000).repeat().batch(batch_size)

????# Build the Iterator, and return the read end of the pipeline.

????return dataset.make_one_shot_iterator().get_next()

定義特征列

特征列告訴Estimator都輸入哪些特征。

例如鳶尾花的分類，有4種特征，生成特征列代碼如下：

my_feature_columns = []

for key in train_x.keys():

????my_feature_columns.append(tf.feature_column.numeric_column(key=key))

實(shí)例化Estimator

鳶尾花分類是個(gè)典型的分類問(wèn)題，TensorFlow內(nèi)置了幾種分類器Estimator模型：

⊙?tf.estimator.DNNClassifier：面向多類分類的深度學(xué)習(xí)模型

⊙?tf.estimator.DNNLinearCombinedClassifier：面向wide-n-deep模型

⊙?tf.estimator.LinearClassifier：面向線性分類模型

就鳶尾花分類問(wèn)題，最合適的是tf.estimator.DNNClassifier

# Build 2 hidden layer DNN with 10, 10 units respectively.

classifier = tf.estimator.DNNClassifier(

????feature_columns = my_feature_columns,

????# Two hidden layers of 10 nodes each.

????hidden_units = [10, 10],

????# The model must choose between 3 classes.

????n_classes = 3)

訓(xùn)練、評(píng)估和預(yù)測(cè)

我們已經(jīng)擁有了一個(gè)Estimator的實(shí)例，于是我們執(zhí)行以下步驟：

⊙ 訓(xùn)練該模型

⊙ 評(píng)估訓(xùn)練好的模型

⊙ 用訓(xùn)練好的模型做預(yù)測(cè)

訓(xùn)練模型

調(diào)用Estimator的train方法開始訓(xùn)練模型：

# Train the Model.

classifier.train( ? ?

????input_fn=lambda:iris_data.train_input_fn(train_x, train_y, args.batch_size),

????steps=args.train_steps)

這里我們用lambda表達(dá)式對(duì)我們的輸入函數(shù)做一個(gè)封裝，以捕獲輸入函數(shù)的參數(shù)，steps參數(shù)告訴該方法訓(xùn)練多少步后停止。

評(píng)估訓(xùn)練好的模型

模型訓(xùn)練好后，我們需要評(píng)估它的準(zhǔn)確性，以下是評(píng)估訓(xùn)練模型的代碼片段：

# Evaluate the model.

eval_result = classifier.evaluate( ? ?

????input_fn=lambda:iris_data.eval_input_fn(test_x, test_y, args.batch_size))

print('\nTest set accuracy: {accuracy:0.3f}\n'.format(**eval_result))

運(yùn)行代碼輸出如下：

Test set accuracy: 0.967

使用訓(xùn)練好的模型做預(yù)測(cè)

模型訓(xùn)練好后，我們就可以用它來(lái)做預(yù)測(cè)了，我們輸入未經(jīng)過(guò)分類的鳶尾花特征數(shù)據(jù)，然后調(diào)用predict做預(yù)測(cè)：

# Generate predictions from the model

expected = ['Setosa', 'Versicolor', 'Virginica']

predict_x = { ? ?

????'SepalLength': [5.1, 5.9, 6.9], ? ?

????'SepalWidth': [3.3, 3.0, 3.1], ? ?

????'PetalLength': [1.7, 4.2, 5.4], ? ?

????'PetalWidth': [0.5, 1.5, 2.1],

}

predictions = classifier.predict(input_fn = lambda:iris_data.eval_input_fn(predict_x, batch_size = args.batch_size))

使用迭代器獲取predictions集合的數(shù)據(jù)：

for pred_dict, expec in zip(predictions, expected): ? ?

????template = ('\nPrediction is "{}" ({:.1f}%), expected "{}"') ? ?

????class_id = pred_dict['class_ids'][0] ? ?

????probability = pred_dict['probabilities'][class_id] ? ?

????print(template.format(iris_data.SPECIES[class_id], 100 * probability, expec))

運(yùn)行代碼輸出如下：

Prediction is "Setosa" (99.6%), expected "Setosa"

Prediction is "Versicolor" (99.8%), expected "Versicolor"

Prediction is "Virginica" (97.9%), expected "Virginica"