严选 | Elasticsearch史上最全最常用工具清单

2018 年 7 月 18 日 架构文摘

1、题记


工欲善其事必先利其器,ELK Stack的学习和实战更是如此,特将工作中用到的“高效”工具分享给大家。


希望能借助“工具”提高开发、运维效率!


2、工具分类概览


2.1 基础类工具


1. Head插件


1)功能概述:


ES集群状态查看、索引数据查看、ES DSL实现(增、删、改、查操作)


比较实用的地方:json串的格式化



2)地址:http://mobz.github.io/elasticsearch-head/


2. Kibana工具


除了支持各种数据的可视化之外,最重要的是:支持Dev Tool进行RESTFUL API增删改查操作。

——比Postman工具和curl都方便很多。


地址:https://www.elastic.co/products/kibana


3. ElasticHD工具


强势功能——支持sql转DSL,不要完全依赖,可以借鉴用。



地址:https://github.com/360EntSecGroup-Skylar/ElasticHD


2.2 集群监控工具


4. cerebro工具


地址:https://github.com/lmenezes/cerebro


5. Elaticsearch-HQ工具


管理elasticsearch集群以及通过web界面来进行查询操作


地址:https://github.com/royrusso/elasticsearch-HQ


2.3 集群迁移工具


6. Elasticsearch-migration工具


支持多个版本间的数据迁移,使用scroll+bulk


地址:https://github.com/medcl/elasticsearch-migration


7. Elasticsearch-Exporter


将ES中的数据向其他导出的简单脚本实现。


地址:https://github.com/mallocator/Elasticsearch-Exporter


8. Elasticsearch-dump


移动和保存索引的工具。


地址:https://github.com/taskrabbit/elasticsearch-dump


2.4 集群数据处理工具


9. elasticsearch-curator


elasticsearch官方工具,能实现诸如数据只保留前七天的数据的功能。


地址:https://pypi.python.org/pypi/elasticsearch-curator


另外 ES6.3(还未上线)  有一个 Index LifeCycle Management 可以很方便的管理索引的保存期限。


2.5 安全类工具


10. x-pack工具


地址:https://www.elastic.co/downloads/x-pack


11. search-guard 第三方工具


Search Guard  是 Elasticsearch 的安全插件。它为后端系统(如LDAP或Kerberos)提供身份验证和授权,并向Elasticsearch添加审核日志记录和文档/字段级安全性。


Search Guard所有基本安全功能(非全部)都是免费的,并且内置在Search Guard中。Search Guard支持OpenSSL并与Kibana和logstash配合使用。


地址:https://github.com/floragunncom/search-guard


2.6 可视化类工具


12. grafana工具


地址:https://grafana.com/grafana


grafana工具与kibana可视化的区别:


① 如果你的业务线数据较少且单一,可以用kibana做出很棒很直观的数据分析。

② 而如果你的数据源很多并且业务线也多,建议使用grafana,可以减少你的工作量


对比:https://www.zhihu.com/question/54388690


2.7 自动化运维工具


elasticsearch免费的自动化运维工具


13. Ansible


https://github.com/elastic/ansible-elasticsearch


14. Puppet


https://github.com/elastic/puppet-elasticsearch


15. Cookbook


https://github.com/elastic/cookbook-elasticsearch


以上三个工具来自medcl大神社区问题的回复,我没有实践过三个工具。


2.8 类SQl查询工具


16. Elasticsearch-sql 工具


sql 一款国人NLP-china团队写的通过类似sql语法进行查询的工具


地址:https://github.com/NLPchina/elasticsearch-sql


ES6.3+以后的新版本会集成sql。


2.9 增强类工具


17. Conveyor 工具


kibna插件——图形化数据导入工具


地址:http://t.cn/REOhwGT


18. kibana_markdown_doc_view 工具


Kibana文档查看强化插件,以markdown格式展示文档


地址:http://t.cn/REOhKgB


19. indices_view工具


indices_view 是新蛋网开源的一个 kibana APP 插件项目,可以安装在 kibana 中,快速、高效、便捷的查看elasticsearch 中 indices 相关信息


地址:https://gitee.com/newegg/indices_view


20. dremio 工具




支持sql转DSL,


支持elasticsearch、mysql、oracle、mongo、csv等多种格式可视化处理;


支持ES多表的Join操作


地址:https://www.dremio.com/


2.10 报警类


21. elastalert


ElastAlert 是 Yelp 公司开源的一套用 Python2.6 写的报警框架。属于后来 Elastic.co 公司出品的 Watcher 同类产品。


官网地址: http://elastalert.readthedocs.org/


使用举例:当我们把ELK搭建好、病顺利的收集到日志,但是日志里发生了什么事,我们并不能第一时间知道日志里到底发生了什么,运维需要第一时间知道日志发生了什么事,所以就有了ElastAlert的邮件报警。


22. sentinl


SENTINL 6扩展了Siren Investigate和Kibana的警报和报告功能,使用标准查询,可编程验证器和各种可配置操作来监控,通知和报告数据系列更改 - 将其视为一个独立的“Watcher” “报告”功能(支持PNG / PDF快照)。


SENTINL还旨在简化在Siren Investigate / Kibana 6.x中通过其本地应用程序界面创建和管理警报和报告的过程,或通过在Kibana 6.x +中使用本地监视工具来创建和管理警报和报告的过程。


官网地址:https://github.com/sirensolutions/sentinl


3、小结


突然想起鲁迅先生笔下的孔乙己“茴香豆的茴字有几种写法?”


管几种写法,适合自己的工具才是最好的!


http://t.cn/RB4MVZ0


出处:https://mp.weixin.qq.com/s/s2ema4tIXKcqTNUUhjGt1w


版权申明:内容来源网络,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知,我们会立即删除并表示歉意。谢谢。



架构文摘

ID:ArchDigest

互联网应用架构丨架构技术丨大型网站丨大数据丨机器学习

更多精彩文章,请点击下方:阅读原文

登录查看更多
1

相关内容

ElasticSearch是一个基于Lucene的分布式实时搜索引擎解决方案。属于Elastic Stack的一部分,同时另有 logstash, kibana, beats等开源项目。
【干货书】现代数据平台架构,636页pdf
专知会员服务
253+阅读 · 2020年6月15日
【实用书】流数据处理,Streaming Data,219页pdf
专知会员服务
76+阅读 · 2020年4月24日
【资源】100+本免费数据科学书
专知会员服务
107+阅读 · 2020年3月17日
【经典书】Python数据数据分析第二版,541页pdf
专知会员服务
192+阅读 · 2020年3月12日
【干货】大数据入门指南:Hadoop、Hive、Spark、 Storm等
专知会员服务
95+阅读 · 2019年12月4日
【推荐系统/计算广告/机器学习/CTR预估资料汇总】
专知会员服务
87+阅读 · 2019年10月21日
携程用ClickHouse轻松玩转每天十亿级数据更新
DBAplus社群
11+阅读 · 2019年8月6日
Github项目推荐 | gensim - Python中的主题建模
AI研习社
15+阅读 · 2019年3月16日
超级!超级!超级好用的视频标注工具
极市平台
8+阅读 · 2018年12月27日
一份数据科学家必备的技能清单(附资源)
THU数据派
7+阅读 · 2018年5月29日
干货 | Python 爬虫的工具列表大全
机器学习算法与Python学习
10+阅读 · 2018年4月13日
Python3爬虫之入门和正则表达式
全球人工智能
7+阅读 · 2017年10月9日
码农日常工具推荐
架构文摘
4+阅读 · 2017年9月26日
33款可用来抓数据的开源爬虫软件工具 (推荐收藏)
数据科学浅谈
7+阅读 · 2017年7月29日
A survey on deep hashing for image retrieval
Arxiv
14+阅读 · 2020年6月10日
Arxiv
35+阅读 · 2019年11月7日
Arxiv
8+阅读 · 2019年5月20日
Arxiv
5+阅读 · 2018年3月6日
VIP会员
相关VIP内容
【干货书】现代数据平台架构,636页pdf
专知会员服务
253+阅读 · 2020年6月15日
【实用书】流数据处理,Streaming Data,219页pdf
专知会员服务
76+阅读 · 2020年4月24日
【资源】100+本免费数据科学书
专知会员服务
107+阅读 · 2020年3月17日
【经典书】Python数据数据分析第二版,541页pdf
专知会员服务
192+阅读 · 2020年3月12日
【干货】大数据入门指南:Hadoop、Hive、Spark、 Storm等
专知会员服务
95+阅读 · 2019年12月4日
【推荐系统/计算广告/机器学习/CTR预估资料汇总】
专知会员服务
87+阅读 · 2019年10月21日
相关资讯
携程用ClickHouse轻松玩转每天十亿级数据更新
DBAplus社群
11+阅读 · 2019年8月6日
Github项目推荐 | gensim - Python中的主题建模
AI研习社
15+阅读 · 2019年3月16日
超级!超级!超级好用的视频标注工具
极市平台
8+阅读 · 2018年12月27日
一份数据科学家必备的技能清单(附资源)
THU数据派
7+阅读 · 2018年5月29日
干货 | Python 爬虫的工具列表大全
机器学习算法与Python学习
10+阅读 · 2018年4月13日
Python3爬虫之入门和正则表达式
全球人工智能
7+阅读 · 2017年10月9日
码农日常工具推荐
架构文摘
4+阅读 · 2017年9月26日
33款可用来抓数据的开源爬虫软件工具 (推荐收藏)
数据科学浅谈
7+阅读 · 2017年7月29日
相关论文
Top
微信扫码咨询专知VIP会员