图解：Elasticsearch 8.X 如何求解环比上升比例？

hexiaox810

发布于 2023-2-1 11:08

浏览

0收藏

1、企业级Elasticsearch 8.X 实战问题

问题描述：有个聚合的需求，问下大家，一个索引中有时间字段要求计算本月和上月相比的环比上升比例？——来自GPVIP群

2、问题释义

2.1 啥叫环比？

环比是统计学术语，表示连续2个统计周期内的量的变化比。

2.2 Elasticsearch 怎么做计算问题？

其实这个问题比较大，从大的角度讲：Elasticsearch 更适合做检索，能做脚本计算处理，但会有性能问题。

官方明确强调：

Avoid script——If possible, avoid using script-based sorting, scripts in aggregations, and the script_score query.

通俗点说，避免使用脚本，除非特殊情况必须使用。

Elasticsearch 能支持的计算问题如下几种方式：

图解：Elasticsearch 8.X 如何求解环比上升比例？-开源基础软件社区

脚本检索（script query）脚本检索参见

脚本聚合（script aggregation）参见：

基于儿童积木玩具图解 Elasticsearch 聚合

图解：Elasticsearch 8.X 如何求解环比上升比例？-开源基础软件社区

脚本预处理（ingest pipeline 之 script pipeline）。

预处理参见：

3、问题拆解

回归我们的问题，分两个维度拆解。

维度1：从数据到结果。原始的数据至少包含两个字段：日期字段和数据字段，并没有基于日期的汇总数据。

也就是说，汇总结果数据，需要我们借助聚合实现。

维度2：从结果到数据。

最终结果需要临近的两个月份的汇总结果计算求得，需要借助：bucket_script 子聚合实现。而bucket_script 需要两重聚合，且嵌套到内层实现。

可以通过如下三个步骤实现，如下脑图梳理。

步骤1：创建索引。
步骤2：导入数据（自己构造）。
步骤3：聚合实现（最核心）。

聚合的实现是问题求解的关键。

最外层聚合：时间范围聚合，借助Date Range筛选近两个月的数据。
内层聚合：分别求解出本月和前一个月的数据。其实又需要拆解为两层聚合。

第一层：过滤当月和前一个月的时间范围。借助：filter aggs 实现。
第二层：指标 sum aggs 聚合实现结果求和统计。

与上内层同级实现 bucket_script 结果求解，计算环比！

图解：Elasticsearch 8.X 如何求解环比上升比例？-开源基础软件社区

4、问题求解

按照上面脑图拆解的三个步骤搞定实现。

4.1：step1 创建索引且指定Mapping！

DELETE test-20221109
PUT test-20221109
{
  "mappings": {
    "properties": {
      "insert_date": {
        "type": "date"
      },
      "count": {
        "type": "integer"
      }
    }
  }
}

4.2 step2 ：写入数据

POST test-20221109/_bulk
{"index":{"_id":1}}
{"insert_date":"2022-11-09T12:00:00Z","count":5}
{"index":{"_id":2}}
{"insert_date":"2022-11-08T12:00:00Z","count":150}
{"index":{"_id":3}}
{"insert_date":"2022-12-09T12:00:00Z","count":33}
{"index":{"_id":4}}
{"insert_date":"2022-12-08T12:00:00Z","count":44}
{"index":{"_id":5}}
{"insert_date":"2022-12-09T12:00:00Z","count":55}
{"index":{"_id":6}}
{"insert_date":"2022-12-08T12:00:00Z","count":66}

4.3 step3：聚合求解环比

POST test-20221109/_search
{
  "size": 0,
  "aggs": {
    "range_aggs": {
      "range": {
        "field": "insert_date",
        "format": "yyyy-MM-dd",
        "ranges": [
          {
            "from": "2022-11-01",
            "to": "2022-12-31"
          }
        ]
      },
      "aggs": {
        "11month_count": {
          "filter": {
            "range": {
              "insert_date": {
                "gte": "2022-11-01",
                "lte": "2022-11-30"
              }
            }
          },
          "aggs": {
            "sum_aggs": {
              "sum": {
                "field": "count"
              }
            }
          }
        },
        "12month_count": {
          "filter": {
            "range": {
              "insert_date": {
                "gte": "2022-12-01",
                "lte": "2022-12-31"
              }
            }
          },
          "aggs": {
            "sum_aggs": {
              "sum": {
                "field": "count"
              }
            }
          }
        },
        "bucket_division": {
          "bucket_script": {
            "buckets_path": {
              "pre_month_count": "11month_count > sum_aggs",
              "cur_month_count": "12month_count > sum_aggs"
            },
            "script": "(params.cur_month_count - params.pre_month_count) / params.pre_month_count"
          }
        }
      }
    }
  }
}

求解结果如下：

图解：Elasticsearch 8.X 如何求解环比上升比例？-开源基础软件社区