elasticsearch数据长期保存的方案
admin
2023-06-21 18:02:41
0

Elasticsearch的数据就存储在硬盘中。当我们的访问日志非常大时,kabana绘制图形的时候会非常缓慢。而且硬盘空间有限,不可能保存所有的日志文件。如果我们想获取站点每天的重要数据信息,比如每天的访问量并希望能图像化的形式显示该如何做呢?

一、具体操作方法

获取数据之前你要知道你想要什么样的数据。比如我想获取每小时网站访问的PV,在kibana中肯定能获取到

elasticsearch数据长期保存的方案

这是在kibana中查询的每小时的pv,然后我们把他的查询json复制出来

elasticsearch数据长期保存的方案

把上述json粘贴到test文件中 然后使用如下语句即可查询上图显示的查询结果

curl -POST 'http://192.168.10.49:9200/_search' -d '@test'

{"took":940,"timed_out":false,"_shards":{"total":211,"successful":211,"failed":0},"hits"......

然后把返回的结果中的数据获取存入data数组中,这是你可以存入数据库也可以转换成json直接插入es

这种方法主要是通过elasticsearch的查询语句把数据查询出来在传参给其他地方。你输入固定的查询json它返回的json数据也是固定格式的,这样很方面就能从中挖掘出我们想要的数据!


二、php代码实现上述操作

class.php

vim access_info.php (index_name和type_name自己根据实际情况命名)

 $value){
    $data['@timestamp']=$value['key_as_string'];
    $data['request_PV']=$value['doc_count'];
    $data['request_IP']=$value['3']['value'];
    #Time为导入ES中的ID,具有唯一性。(不同tpye的可以相同)
    $Time=strtotime($data['@timestamp']);
    $urls="http://192.168.2.243:9200/index_name/tpye_name/$Time"
      #调用函数import导入数据 
    import($urls,$data);
}
?>


下面这个文件是存放./lib文件下的,和执行的php文件必须同名。

vim lib/access_info.txt

{
  "size": 0,
  "aggs": {
    "2": {
      "date_histogram": {
        "field": "@timestamp",
        "interval": "1h",  
        "time_zone": "Asia/Shanghai" 
        #保留时区获取的信息会准确但是在kibana或ganafa显示的时候会加8个小时
        "min_doc_count": 1,
        "extended_bounds": {
          "min": start_time, #start_time会被换成具体的时间
          "max": end_time
        }
      },
      "aggs": {
        "3": {
          "cardinality": {
            "field": "geoip.ip"
          }
        }
      }
    }
  },
    
  "highlight": {
    "pre_tags": [
      "@kibana-highlighted-field@"
    ],
    "post_tags": [
      "@/kibana-highlighted-field@"
    ],
    "fields": {
      "*": {}
    },
    "require_field_match": false,
    "fragment_size": 2147483647
  },
    "query": {
    "filtered": {
      "query": {
        "query_string": {
          "query": "*",
          "analyze_wildcard": true
        }
      },
      "filter": {
        "bool": {
          "must": [
            {
              "range": {
                "@timestamp": {
                  "gte": start_time,
                  "lte": end_time,
                  "format": "epoch_second"  #由毫秒换成秒
                }
              }
            }
          ],
          "must_not": []
        }
      }
    }
  }
}

根据上面的代码,我们可以定期获取ES中的重要数据。这样获取的数据只是结果数据,不是很精确,但能反应网站的趋势,而且查询非常快速!如果想要长时间保存重要的数据,可以使用这个方法。而且数据也可以存入数据库。

以上是个人对能长期保存ES结果数据的做法,如果有更好的方法,希望能一起讨论!

elasticsearch数据长期保存的方案

相关内容

热门资讯

荷兰军用直升机在南海遭中国军队... 5月28日下午,国防部举行例行记者会。国防部新闻发言人蒋斌大校就“荷兰直升机侵闯中国西沙群岛领空”等...
一日售罄,首批商业不动产REI... 【大河财立方 记者 孙凯杰】5月25日、27日,首批4只商业不动产公募REITs相继面向公众投资者发...
五位民营企业家亮相国新办,两位... 【大河财立方 记者 程帅星 王宁宁 北京报道】 5月28日,国务院新闻办公室举行“新征程上的奋斗者”...
被司法部点赞的安阳涉企检查,是... 【大河财立方 记者 丁洋涛】涉企行政执法专项行动,旨在持续优化营商环境,纵深推进全国统一大市场建设。...
国防部:“新型军国主义”大有成... 5月28日下午,国防部举行例行记者会,国防部新闻发言人蒋斌大校答记者问。有记者提问,据报道,美日近期...
胡衡华辞去重庆市市长职务 5月28日,据“重庆人大”官网消息,重庆市人民代表大会常务委员会发布关于接受胡衡华辞职的决定:根据《...
汇聚政企民合力 共建有温度的许... 大河网讯 “遇到违法和不良信息,请拨打12377。”近期,不少途经许昌东站、胖东来各大门店的市民,都...
日本意图构建国家级情报统合体系... 澎湃新闻记者 杨文钦 朱郑勇5月28日,外交部发言人毛宁主持例行记者会。有记者提问,据报道,近日日本...
“中国登月计划正稳步推进”,美... 【文/观察者网 陈思佳】近年来,美国政客频频炒作美中“登月竞赛”,不仅寻求抢在中国之前完成本世纪首次...
新亚光取得导线防风偏装置专利,... 国家知识产权局信息显示,广东新亚光电缆股份有限公司取得一项名为“一种导线防风偏装置”的专利,授权公告...