Spring ES動態(tài)索引

Spring ES動態(tài)索引

本文主要探討Spring中利用spring-data-elasticsearch(以下簡稱sde)操作es時如何使用動態(tài)索引。

何為動態(tài)索引?

動態(tài)索引一個典型的場景是ES中索引按照時間劃分,比如按天生成索引,那么生成的索引的名稱就形如index_2018_05_11

SDE中的索引

sde中通過Document注解來制定索引名,該注解應(yīng)用于Document的對象類上,其定義如下

@Persistent
@Inherited
@Retention(RetentionPolicy.RUNTIME)
@Target({ElementType.TYPE})
public @interface Document {

    String indexName();

    String type() default "";

    boolean useServerConfiguration() default false;

    short shards() default 5;

    short replicas() default 1;

    String refreshInterval() default "1s";

    String indexStoreType() default "fs";

    boolean createIndex() default true;
}

來看下SDE中生成索引是如何做的

@Override
    public <T> boolean createIndex(Class<T> clazz) {
        return createIndexIfNotCreated(clazz);
    }

private <T> boolean createIndexIfNotCreated(Class<T> clazz) {
        return indexExists(getPersistentEntityFor(clazz).getIndexName()) || createIndexWithSettings(clazz);
    }

    private <T> boolean createIndexWithSettings(Class<T> clazz) {
        if (clazz.isAnnotationPresent(Setting.class)) {
            String settingPath = clazz.getAnnotation(Setting.class).settingPath();
            if (isNotBlank(settingPath)) {
                String settings = readFileFromClasspath(settingPath);
                if (isNotBlank(settings)) {
                    return createIndex(getPersistentEntityFor(clazz).getIndexName(), settings);
                }
            } else {
                logger.info("settingPath in @Setting has to be defined. Using default instead.");
            }
        }
        return createIndex(getPersistentEntityFor(clazz).getIndexName(), getDefaultSettings(getPersistentEntityFor(clazz)));
    }

可以看到上述代碼中有一段出現(xiàn)了兩次

getPersistentEntityFor(clazz).getIndexName()

來看看這段代碼做了什么

@Override
    public ElasticsearchPersistentEntity getPersistentEntityFor(Class clazz) {
        Assert.isTrue(clazz.isAnnotationPresent(Document.class), "Unable to identify index name. " + clazz.getSimpleName()
                + " is not a Document. Make sure the document class is annotated with @Document(indexName=\"foo\")");
        return elasticsearchConverter.getMappingContext().getRequiredPersistentEntity(clazz);
    }

MappingContext#getRequiredPersistentEntity是個接口default方法

@Nullable
    E getPersistentEntity(Class<?> type);

    /**
     * Returns a required {@link PersistentEntity} for the given {@link Class}. Will throw
     * {@link IllegalArgumentException} for types that are considered simple ones.
     *
     * @see org.springframework.data.mapping.model.SimpleTypeHolder#isSimpleType(Class)
     * @param type must not be {@literal null}.
     * @return never {@literal null}.
     * @throws MappingException when no {@link PersistentEntity} can be found for given {@literal type}.
     * @since 2.0
     */
    default E getRequiredPersistentEntity(Class<?> type) throws MappingException {

        E entity = getPersistentEntity(type);

        if (entity != null) {
            return entity;
        }

        throw new MappingException(String.format("Couldn't find PersistentEntity for type %s!", type));
    }

getPersistentEntity則是在抽象類AbstractMappingContext中實現(xiàn)的

@Nullable
    public E getPersistentEntity(Class<?> type) {
        return getPersistentEntity(ClassTypeInformation.from(type));
    }
    
    @Nullable
    @Override
    public E getPersistentEntity(TypeInformation<?> type) {

        Assert.notNull(type, "Type must not be null!");

        try {

            read.lock();

             // 這里是直接從一個map的緩存中獲取
            Optional<E> entity = persistentEntities.get(type);

            if (entity != null) {
                return entity.orElse(null);
            }

        } finally {
            read.unlock();
        }
        
        // 如果是java簡單類則直接返回null
        if (!shouldCreatePersistentEntityFor(type)) {

            try {
                write.lock();
                persistentEntities.put(type, NONE);
            } finally {
                write.unlock();
            }

            return null;
        }

        if (strict) {
            throw new MappingException("Unknown persistent entity " + type);
        }

        return addPersistentEntity(type).orElse(null);
    }

addPersistentEntity代碼太長就不貼了,重點是它調(diào)用了本類的抽象類方法

protected abstract <T> E createPersistentEntity(TypeInformation<T> typeInformation);

簡單來說,addPersistentEntity方法就是為指定的typeInformation生成一個MutablePersistentEntity對象放置在一個自己持有的map中作為緩存。

createPersistentEntity有一個實現(xiàn)類SimpleElasticsearchMappingContext,該類比較簡單就不多說了。

綜上可知:如果我們在Document中寫死了indexName顯然是沒法做到動態(tài)索引的,那我們能不能動態(tài)改被Document注解修飾的類定義呢(比如字節(jié)碼修改類定義)?太費勁了,因為SDE中用到了緩存,即便我們修改了類定義還得自己去刷緩存,況且修改字節(jié)碼還得引入第三方框架。

思考

翻翻源碼可以看到ElasticSearchTemplate類中索引名都是通過ElasticsearchPersistentEntity.getIndexName來獲取的。盡管框架緩存了ElasticsearchPersistentEntity實例,但是getIndexName是每次都要執(zhí)行的,我們看能不能從這個方法著手。這個接口只有一個實現(xiàn)類-SimpleElasticSearchPersistentEntity,來看看它的getIndexName方法

@Override
    public String getIndexName() {
        Expression expression = parser.parseExpression(indexName, ParserContext.TEMPLATE_EXPRESSION);
        return expression.getValue(context, String.class);
    }

我們發(fā)現(xiàn)這個方法并不是簡單的返回了indexName,而是用一個解析器去解析處理,最后才返回。再去看看這個parser是個啥

private final SpelExpressionParser parser;

原來是Spel表達(dá)式解析器,不清楚Spel的請自行搜索。思路很清晰了,那就是利用Spel實現(xiàn)我們想要的動態(tài)索引。

解決方案

Spel中調(diào)用方法

Spel十分強大,可以在表達(dá)式中直接調(diào)用Java方法,那我們就寫個方法生成我們想要的索引名,放在Spel中調(diào)用就行了。

indexName表達(dá)式設(shè)置為 "index_#{ T(com.example.springdemo.SpringDemoApplicationTests).getDateStr() }"

public static String getDateStr() {
        return new DateTime().toString("yyyy-MM-dd");
    }

需要注意的是getDateStr方法必須為public靜態(tài)方法,當(dāng)然也可以扔到一個bean里去作為一個普通方法,Spel也是支持調(diào)用bean方法的。

引用Bean屬性

可以將indexName作為一個bean的屬性,然后在Spel中引用即可

其他

本文只談?wù)撊绾卧赟DE中解決動態(tài)索引的問題,當(dāng)然java原生es jar中可直接指定索引名,而不是作為注解的一部分。SDE和原生es jar孰好孰壞本文不討論。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,702評論 6 534
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,615評論 3 419
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事?!?“怎么了?”我有些...
    開封第一講書人閱讀 176,606評論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,044評論 1 314
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 71,826評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,227評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,307評論 3 442
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,447評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,992評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 40,807評論 3 355
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,001評論 1 370
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,550評論 5 361
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,243評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,667評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,930評論 1 287
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,709評論 3 393
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 47,996評論 2 374

推薦閱讀更多精彩內(nèi)容