DataSet導(dǎo)入三個坑

1外鍵

本小節(jié)從數(shù)據(jù)庫實際使用的視角,給出了在各種場景下的解決方案。對工具提供的功能進(jìn)行一個綜合使用。
外鍵是一個常見的保證數(shù)據(jù)庫內(nèi)容完整性的一種方式。當(dāng)然現(xiàn)在出于性能考慮,在互聯(lián)網(wǎng)企業(yè)中比較少甚至禁止使用外鍵。在DBRider中,提供了以下的與外鍵相關(guān)的功能
1)@DataSet注解中的disableConstraints屬性
這個屬性如果為true,則可以暫時去除外鍵約束,以便于數(shù)據(jù)導(dǎo)入操作。

@DataSet(value ="users.yml", strategy = SeedStrategy.UPDATE,
       disableConstraints = true,cleanAfter = true,transactional = true)
public void shouldLoadDataSetConfigFromAnnotation(){

 }

2)@ExportedDataSet導(dǎo)出時一并導(dǎo)出關(guān)聯(lián)表
在導(dǎo)入某個數(shù)據(jù)庫表的數(shù)據(jù)時,如果存在外鍵的話,經(jīng)常會發(fā)生因為外鍵不存在導(dǎo)致的數(shù)據(jù)無法導(dǎo)入的問題。為了預(yù)防此類事件的發(fā)生,一個好的措施是在導(dǎo)出目標(biāo)表時將依賴數(shù)據(jù)表一并導(dǎo)出。DBRider在@ExportDataSet中通過dependentTables提供了該功能。如下例,

@Test
@DataSet("datasets/yml/users.yml")
@ExportDataSet(format = DataSetFormat.YML, includeTables = {"USER"}, dependentTables = true, outputName = "target/exported/yml/dependentTables.yml")
public void shouldExportYMLDataSetUsingIncludesWithDependentTables() {
}

只要簡單地將dependentTables設(shè)置為 true,就可以實現(xiàn)上述需求。雖然只是導(dǎo)出USER表,但是TWEET和FOLLOWER兩個表也被導(dǎo)出了。因為USER表中使用了這兩個表中的主鍵作為外鍵,表達(dá)用戶粉與被粉的關(guān)系。

<?xml version='1.0' encoding='UTF-8'?>
<dataset>
  <TWEET ID="abcdef12345" CONTENT="dbunit rules!" DATE="2020-10-02 17:07:52.0" USER_ID="1"/>
  <USER ID="1" NAME="@realpestano"/>
  <USER ID="2" NAME="@dbunit"/>
  <FOLLOWER ID="1" USER_ID="1" FOLLOWER_ID="2"/>
</dataset>

自增序列與ID主鍵沖突

在往數(shù)據(jù)庫中導(dǎo)入數(shù)據(jù)時,除了因為外鍵約束不滿足導(dǎo)致無法導(dǎo)入的問題之外,另外一種常見的問題是主鍵沖突,或者更確切一點(diǎn)說是某個帶有自增ID序列帶來的沖突。如果在數(shù)據(jù)庫中插入該表的記錄,則新插入的值不能和已有的值重復(fù),而且必須大于其中最大的一個值。一般通過程序?qū)懭霐?shù)據(jù)庫記錄大多是新增記錄的場景,不指定該列的值,只將其他列的值插入,讓ID按照自增規(guī)則由數(shù)據(jù)庫自行填寫的方式進(jìn)行。而在通過數(shù)據(jù)庫導(dǎo)入時,屬于控制數(shù)據(jù)庫上下文的場景。往往就會產(chǎn)生沖突,
1)導(dǎo)入記錄中需指定自增ID的主鍵值,以保證被導(dǎo)入數(shù)據(jù)的完整性。
2)待導(dǎo)入的數(shù)據(jù)源自數(shù)據(jù)庫之前的某一次導(dǎo)出的數(shù)據(jù)集。隨后數(shù)據(jù)庫經(jīng)歷了反復(fù)插入刪除等操作后,自增主鍵值已經(jīng)向后偏移。例如針對某個場景有多個測試用例需要導(dǎo)入數(shù)據(jù)導(dǎo)同一個表。后續(xù)用例的執(zhí)行上下文于是受到了前面執(zhí)行用例的影響。
3)導(dǎo)入時通過默認(rèn)的CLEAN_INSERT策略進(jìn)行導(dǎo)入,雖然刪除了原先存在的數(shù)據(jù),但是數(shù)據(jù)庫的自增主鍵值并沒有回退,這樣就導(dǎo)致導(dǎo)入記錄時報主鍵沖突。
那是否可以通過采用INSERT/UPDATE的策略呢?之前在介紹各種導(dǎo)入策略時有提及,只INSERT而不是先刪除再導(dǎo)入時,會存在數(shù)據(jù)記錄重復(fù)無法導(dǎo)入的問題,而在這個場景下,因為主鍵沖突帶來的問題還是沒有解決。那是否可以使用UPDATE策略來更新各個記錄的主鍵ID呢?考慮到一般采用主鍵ID的是記錄類數(shù)據(jù)的場景,無法保證原記錄的存在,所以也不太適合使用UPDATE的策略。
從上述問題描述中,讀者也理解到了問題產(chǎn)生的原因并不在主鍵ID和記錄自身,而是因為在原數(shù)據(jù)集導(dǎo)出后,在保持?jǐn)?shù)據(jù)不變的情況下,數(shù)據(jù)庫中該表經(jīng)歷了插入和刪除后,自增序列已經(jīng)向后偏移。
于是,只要保證自增序列ID的值小于待插入數(shù)據(jù)的值,該問題就能規(guī)避掉了。利用@DataSet的伴隨操作就可以了
解決辦法1:利用executeStatementsBefore 重置自增序列
@Test
@DataSet(value = "datasets/yml/users.yml",
executeStatementsBefore = "alter table USER auto_increment = 100;")
public void shouldSeedDataSetDisablingContraintsViaStatement() {
//......
}

通過重置該表的Sequence到一個小于待導(dǎo)入數(shù)據(jù)集中最小ID的值,再配合隨后的CLEAN_INSERT操作,就可以規(guī)避該問題了。當(dāng)然這個操作需要在準(zhǔn)備好數(shù)據(jù)集后,根據(jù)具體內(nèi)容進(jìn)行修改上述executeStatementsBefore 。因為很有可能待導(dǎo)入數(shù)據(jù)源自某一份導(dǎo)出數(shù)據(jù),根據(jù)測試用例需求稍加修改而來,因此該部分修改也具備一定的通用性,工作量可控。
另外,上述示例代碼是MYSQL語法,如果目標(biāo)數(shù)據(jù)庫是ORACLE,重置Sequence的寫法略有差別。
解決辦法2: 利用TRUNCATE_INSERT的SeedStrategy
通過源碼分析,可以了解到DBRider還額外提供了TRUNCATE_INSERT的操作,雖然該功能未在其官方文檔中說明,但是也可以直接使用。

public enum SeedStrategy {
    CLEAN_INSERT(DatabaseOperation.CLEAN_INSERT),
    TRUNCATE_INSERT(new CompositeOperation(DatabaseOperation.TRUNCATE_TABLE, DatabaseOperation.INSERT)),
    INSERT(DatabaseOperation.INSERT),
    REFRESH(DatabaseOperation.REFRESH),
    UPDATE(DatabaseOperation.UPDATE);
//......
}

利用TRUNCATE操作提供的重置序列的功能,強(qiáng)制重新初始化,進(jìn)而保證了數(shù)據(jù)導(dǎo)入時不再會發(fā)生自增主鍵沖突的問題。
當(dāng)然也可以參考被測系統(tǒng)向數(shù)據(jù)庫插入數(shù)據(jù)時不指定ID,而是由數(shù)據(jù)庫自行決定的方式,不過這個方案相比前面的來說略顯復(fù)雜,涉及到導(dǎo)出數(shù)據(jù)時剔除該列數(shù)據(jù),工作量較大,不是很推薦。感興趣的讀者可以自行嘗試。

Null處理

數(shù)據(jù)庫中最容易讓程序員踩坑的問題如果進(jìn)行一個排名,估計Nullable會排在最前面。如果一個數(shù)據(jù)列是Nullable,在導(dǎo)入導(dǎo)出時會遇到不少問題。
首先DBRider 在使用JSON格式在導(dǎo)出null時,會在該條記錄的最后位置額外多一個逗號,導(dǎo)致導(dǎo)出內(nèi)容不符合JSON格式,需要手工修改。當(dāng)然,該問題在報告之后很快就被修復(fù)了。詳見fix bug with extra comma in json object #160,但似乎還是未解決,如果遇到,需要手工處理,或嘗試最新的DBRider版本。
其次是在數(shù)據(jù)導(dǎo)入時的問題,DBUnit一個著名的bug是在導(dǎo)入XML、CSV格式的文件時,如果待導(dǎo)入文件的第一條記錄的Nullable列的數(shù)據(jù)正好是Null,那么DBUnit會忽略該列,整列數(shù)據(jù)都會被丟失,即使后續(xù)數(shù)據(jù)記錄中該列不為Null,也會被忽略而不導(dǎo)入進(jìn)數(shù)據(jù)庫。
解決辦法1:調(diào)整數(shù)據(jù)行順序,讓第一條記錄包含不為Null
這樣做是最簡單的處理方式,正所謂將問題解決在發(fā)生前。不過數(shù)據(jù)文件較多時手工調(diào)整也比較麻煩,或者記錄順序調(diào)整會影響測試用例執(zhí)行結(jié)果時,這樣調(diào)整就會帶來麻煩了。
解決辦法2:XML導(dǎo)入時指定DTD
DBUnit給出的一個解決辦法是,在導(dǎo)出XML文件的同時,再導(dǎo)出一份XML_DTD,來指明數(shù)據(jù)庫的列。導(dǎo)入數(shù)據(jù)時,利用DTD來指定數(shù)據(jù)列,如下例:

<!--ELEMENT COMPANY EMPTY-->
<!--ATTLIST COMPANY
    ID CDATA #REQUIRED
    NAME CDATA #REQUIRED
    PARENT CDATA #IMPLIED
  -->
]>
<dataset>
  <company id="1" name="HQ"></company>
  <company id="2" name="spain hq" parent="1"></company>
  <company id="3" name="barcelona" parent="2"></company>
</dataset>

這樣就不會發(fā)生因為Null導(dǎo)致的數(shù)據(jù)列丟失問題了。
解決辦法3:利用DBRider提供的JSON/YAML文件格式進(jìn)行導(dǎo)入
新的數(shù)據(jù)類型規(guī)避了上述DBUnit的缺陷,因此不會再發(fā)生整列數(shù)據(jù)丟失的問題了。這也是筆者喜歡DBRier的原因之一。
還有什么樣的數(shù)據(jù)導(dǎo)入導(dǎo)出的坑呢?歡迎與筆者討論。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,505評論 6 533
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,556評論 3 418
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,463評論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,009評論 1 312
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,778評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,218評論 1 324
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,281評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,436評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,969評論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,795評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,993評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,537評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,229評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,659評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,917評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,687評論 3 392
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,990評論 2 374