Elasticsearch 索引数据多了怎么办,如何调优,部署?

发布于 2020-03-07 11:19:04
关注者
0
被浏览
2089
1 个回答
  • 面试哥
    面试哥 2020-03-07
    为面试而生,有面试问题,就找面试哥。

    面试官:想了解大数据量的运维能力。

    解答:索引数据的规划,应在前期做好规划,正所谓“设计先行,编码在后”,这样才能有效的避免突如其来的数据激增导致集群处理能力不足引发的线上客户检索或者其他业务受到影响。

    如何调优,正如问题1所说,这里细化一下:

    3.1 动态索引层面

    基于模板+时间+rollover api滚动创建索引,举例:设计阶段定义:blog索引的模板格式为:blog_index_时间戳的形式,每天递增数据。

    这样做的好处:不至于数据量激增导致单个索引数据量非常大,接近于上线2的32次幂-1,索引存储达到了TB+甚至更大。

    一旦单个索引很大,存储等各种风险也随之而来,所以要提前考虑+及早避免。

    3.2 存储层面

    冷热数据分离存储,热数据(比如最近3天或者一周的数据),其余为冷数据。

    对于冷数据不会再写入新数据,可以考虑定期force_merge加shrink压缩操作,节省存储空间和检索效率。

    3.3 部署层面

    一旦之前没有规划,这里就属于应急策略。

    结合ES自身的支持动态扩展的特点,动态新增机器的方式可以缓解集群压力,注意:如果之前主节点等规划合理,不需要重启集群也能完成动态新增的。

     

     

     

     

     

面圈网VIP题库

面圈网VIP题库全新上线,海量真题题库资源。 90大类考试,超10万份考试真题开放下载啦

去下载看看