Linux运维笔记|自动化运维攻城狮
7 年前

Elasticsearch集群部署文档

elasticsearch   运维技术   大数据  

一、部署节点原理 多机集群中的节点可以分为master nodes和data nodes,在配置文件中使用Zen发现(Zen discovery)机制来管理不同节点。Zen发现是ES自带的默认发现机制，使用多播发现其它节点。只要启动一个新的ES节点并设置和集群相同的名称这个节点就会被加入到集群中。（所以，同集群的集群名称一致，才能便于自动发现） Elasticsearch集群中有的节点一般有三种角…

7 年前

kafka-manager 部署安装

kafka-manager   大数据  

一、功能 1、管理多个kafka集群 2、便捷的检查kafka集群状态(topics,brokers,备份分布情况,分区分布情况) 3、选择你要运行的副本 4、基于当前分区状况进行 5、可以选择topic配置并创建topic(0.8.1.1和0.8.2的配置不同) 6、删除topic(只支持0.8.2以上的版本并且要在broker配置中设置delete.topic.enable…

7 年前

Azkaban 分布式multiple-executor模式部署

azkaban   大数据  

一、简介 Azkaban是LinkedIn开源的任务调度框架，类似于JavaEE中的JBPM和Activiti工作流框架。 如ETL的过程，Sqoop在凌晨1点从RDBMS中抽取数据(E)，在凌晨2点用Hadoop或Spark转换数据(T)，在凌晨3点用Sqoop再把结果数据加载(L)进RDBMS或NOSQL,假设没有Azkaban这样的调度框架，一般用crontab+shell,…

7 年前

docker 下网络不通的解决办法

docker网络不通   docker  

进入容器测试网络和解析是否正常 docker exec -i -t adee2653e44f /bin/bash # ping www.qq.com 测试解析正常的情况下，如果不通就单独ping IP测试一下 # ping 8.8.8.8 PING 8.8.8.8 (8.8.8.8) 56(84) bytes of data. 修改主机sysctl参数 vim /etc/sysctl.c…

7 年前

ansible setup 内置jinjia变量

ansible  

ansible_nodename 节点名字 ansible_form_factor 服务器类型 ansible_virtualization_role 虚拟机角色（宿主机或者虚拟机） ansible_virtualization_type 虚拟机类型（k…