文章從知識庫的表示學(xué)習(xí)，問句表示學(xué)習(xí)，基于表示學(xué)習(xí)的知識庫問答三方面以及他們面臨的困難與挑戰(zhàn)進(jìn)行介紹。
知識庫的表示學(xué)習(xí)的方法主要分為兩類: 1) 基于張量分解的方法； 2) 基于映射的方法。
-
張量分解的方法以RESCAL系統(tǒng)為主要代表。
核心思想是將整個知識圖譜編碼為一個三維張量， 由這個張量分解出一個核心張量和一個因子矩陣，核心張量中每個二維矩陣切片代表一種關(guān)系， 因子矩陣中每一行代表一個實體。由核心張量和因子矩陣還原的結(jié)果被看作對應(yīng)三元組成立的概率，如果概率大于某 個閾值，則對應(yīng)三元組正確；否則，不正確.缺點是當(dāng)關(guān)系數(shù)目較多時，張量的維度很高，分解過程計算量較大，不適用于關(guān)系數(shù)目眾多而又非常稀疏的大規(guī)模知識庫。 -
基于映射的方法主要是對于知識庫中的基本語義單元:三元組進(jìn)行獨立建模。
根據(jù)對語義關(guān)系r的表示方式，又可分為映射矩陣和映射向量兩類。
映射矩陣典型代表Structured模型，該模型用兩個分離的矩陣表示關(guān)系，不能很好地捕獲關(guān)系與實體之間的聯(lián)系。為改善這個模型又誕生了SME模型，LF模型，SL模型等。
映射向量方法對于三元組的建模看作從頭部實體到尾部實體的翻譯.
最早提出的模型是TransE是一種計算效率很高、預(yù)測性能非常好的模型. 對于“1-to-1”關(guān)系類型， 這一模型通常能夠很好的建模.但對于“1-to-N”、“N-to-1”和“N-to-N”等關(guān)系類型存在不足。為改善這個問題又提出了TransH、TransR、TransD等。
KG2E模型在TransE的基礎(chǔ)上提出一種基于分布的表示學(xué)習(xí)方法，使用基于高斯嵌入的方法在多維高斯分布空間中學(xué)習(xí)知識庫中實體和關(guān)系的表示.不同于TransE以及其改進(jìn)模型，KG2E將知識庫中的實體、類別、關(guān)系都約定服從高斯分布.通過引入?yún)f(xié)方差矩陣，該模型能夠?qū)τ谥R庫中實體和關(guān)系的不確定性進(jìn)行建模，尤其對于1-to-N和N-to-1的關(guān)系具有很好的學(xué)習(xí)效果。
問句的表示學(xué)習(xí)是通過統(tǒng)計學(xué)習(xí)自動獲取問句(文本)的語義表示.從神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)上看，主要可以分為三種方式:遞歸神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò).由于已經(jīng)有了神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)，這里就不詳細(xì)介紹了。
基于表示學(xué)習(xí)的知識庫問答方法的核心是把自然語言問句和知識庫中的資源都映射到同一個低維向量空間中，這樣就可以將問句和答案都用一個向量來表示，知識庫問答問題就被轉(zhuǎn)化為求解向量相似度的問題。
基于詞向量的學(xué)習(xí)方法法需要獲得大量的問句–答案三元組對來訓(xùn)練，以得到向量詞典V和W.這項工作在Reverb數(shù)據(jù)集上取得了不錯的效果，F(xiàn)1 值達(dá)到73 %.然而，這一方法對于問句和知識庫的語義分析十分粗糙，僅僅是基于詞、實體、關(guān)系的語義表示的簡單求和.
Yih等把知識庫問答轉(zhuǎn)換成兩個問題，一個是找到問句中的實體和知識庫中實體的對應(yīng)；另一個是問句中自然語言描述和知識庫中語義關(guān)系的對應(yīng).找到實體和關(guān)系后， 就可以從知識庫中找到其指向的答案實體.在上述兩種匹配時都 采用 CNN 來處理自然語言問句.
知識庫表示學(xué)習(xí)的難點與挑戰(zhàn)：目前的知識庫表示學(xué)習(xí)方法都集中在單個知識庫上， 對于多知識庫的表示學(xué)習(xí)的研究較少. 在學(xué)習(xí)過程中， 如何建立異構(gòu)知識庫間的實體對齊、關(guān)系對齊是一個尚待研究的問題.
文本表示學(xué)習(xí)的難點與挑戰(zhàn)：文本表示目前處于簡單模型不能很好地捕獲各種語義，而復(fù)雜模型在提升語義捕獲能力的同時，往往使模型變得非常復(fù)雜，難以實用.如何將二者平衡是一個難點。
基于表示學(xué)習(xí)的問答系統(tǒng)構(gòu)建的難點與挑戰(zhàn)：如何利用表示學(xué)習(xí)自動學(xué)習(xí)推理規(guī)則，如何平衡高質(zhì)量人工知識庫和通過自動抽取技術(shù)得到的開放知識庫的關(guān)系是一個難點。
