目標(biāo)

對錘子有所了解的應(yīng)該知道3.0系統(tǒng)出了個叫“大爆炸”的功能，會將一段文本炸開成一個個詞，用來快速地“提取”信息，這個功能有個關(guān)鍵技術(shù)就是分詞。

以下將介紹如何使用PullWord和C++ REST SDK來完成分詞功能。

PullWord

一個基于深度學(xué)習(xí)的中文在線抽詞服務(wù)，可以將文本抽取出相應(yīng)的詞匯。

我們可以使用HTTP的GET或者POST方法向PullWord發(fā)出請求，如果一切正常，PullWord會返回對應(yīng)的結(jié)果；

• 查詢請求(request)的構(gòu)造方法為:

source=要抽詞的文本&param1=閾值&param2=調(diào)試

• 如果使用GET方法，HTTP請求的URL為：

http://api.pullword.com/get.php?request

• 如果使用POST方法，則HTTP請求的URL為：

http://api.pullword.com/post.php

并且在HTTP請求體中存放request字符串。

• 在調(diào)試關(guān)閉(為0)的情況下，返回的結(jié)果是以\r\n分隔開的一個個詞匯：

word1\r\n
word2\r\n
...
wordn\r\n

• 在調(diào)試開啟(為1)的情況下，返回的結(jié)果包含了其概率:

word1:probability(word1)\r\n
word2:probability(word2)\r\n
...
word:probability(wordn)n\r\n

• 閾值是用來過濾詞匯結(jié)果的，取值范圍為[0,1]，小于該閾值的在返回結(jié)果中不會出現(xiàn)；
• 輸入輸出編碼必須為UTF8；
• 如果使用IP形式訪問,則對應(yīng)的http://www.pullword.com/要替換成http://43.241.223.121/或者http://120.26.6.172/

C++ REST SDK

微軟開源的云通信庫，該項目旨在幫助C++開發(fā)者與在線服務(wù)進(jìn)行交互；其使用了異步的C++ API設(shè)計，將微軟的PPL庫中task部分抽取出來支持異步。

安裝方式有兩種：

• NuGet
• Vcpkg

支持以下特性：

• 基于Task編程
• JSON
• 異步流
• URI操作
• HTTP客戶端
• HTTP監(jiān)聽器
• WebSocket客戶端
• OAuth驗證

如何實現(xiàn)

1. 構(gòu)造URL
2. [可選]構(gòu)造HTTP請求體
3. 發(fā)起HTTP請求
4. 解析HTTP響應(yīng)

對應(yīng)源代碼如下：

#include <cpprest\http_client.h>
#include <cpprest\filestream.h>
 
utility::string_t RequestPullword(utility::string_t source, double threshold, bool debug)
{
    using namespace utility;
    using namespace web;
    using namespace web::http;
    using namespace web::http::client;
 
    static const wchar_t* base_url = L"http://api.pullword.com/";
    static bool  get_or_post = true;
 
    utility::string_t result;
    try
    {
        [=]()->pplx::task<http_response> {
            uri_builder builder(U("/get.php"));
            //1.構(gòu)造請求
            builder.append_query(U("source"), source);
            builder.append_query(U("param1"), threshold);
            builder.append_query(U("param2"), debug ? 1 : 0);
            //3.發(fā)起HTTP請求
            http_client client(base_url);
            if (get_or_post)
                return client.request(methods::GET, builder.to_string());
            return client.request(methods::POST, U("/post.php"), builder.query());
        }().then([=](http_response response) {
            //4.解析HTTP響應(yīng)
            if (response.status_code() == 200)
                return response.extract_string();
            return pplx::task_from_result(utility::string_t());
        }).then([&](utility::string_t body){
            result = body;
        }).wait();
    }
    catch (const std::exception &e)
    {
        (e);//handle exception
    }
    return result;
}

測試如下：

int main(int argc, char** argv)
{
    auto result = RequestPullword(L"李彥宏是馬云最大威脅嘛？",0,true);
 
    return 0;
}

結(jié)果如下：

分詞測試結(jié)果