专业能力:熟悉Centos,ubuntu,kali等linux系统。熟悉Mysql,Postgresql,Nginx,Tomcat等组件。熟悉Puppet,Centreon,Netdata,Grafana,运维工具。熟悉Shell编程,目前正自学Python语言。熟悉Hadoop 技术生态圈,可以快速部署并上线包括但不限于Flume,Spark,Kafka,Postgresql集群,Ambari大数据平台,Clickhouse数据库以及ES集群,kibana可视化日志分析工具等常用大数据相关组件。
此前 承担浙江核新同花顺网络信息股份有限公司的大数据平台 CBAS(Consumer Behaviour Analysis System)的管理维护工作,负责机器350台左右,主要从系统收集记录的日志数据,对业务需要的日志数据进行存储、统计、挖掘,集群现Dataode节点机器95台,集群配置容量达到3PB,平台架构包括下游的调度与监控系统,数据采集,分布式存储与计算,离线or实时计算,数据仓库,用户画像到最终的个性化推荐系统,精准营销系统和统计平台,交互式查询平台以及报表可视化工具。 负责iFinD运维小组自动化及监控方向,在现有监控的基础上优化组织架构,利用Netdata,Grafana,Prometheus,等工具,实现了覆盖整个iFind小组所有机器的秒级监控,共覆盖包括,同花顺认证中心,CBAS,iFinD,等业务的在海内外600台机器,监控指标达到118w个,指标详细覆盖到了CPU、MEM、IO、NET四大子系统内核参数,和自定义组件的几乎所有方面,在排查并发请求超时的各种问题上提供了充足的数据支持,也为后续性能优化,资源扩容,成本计算提供数据支持。
任务管理界面,和主页面。 创建hadoop用户 安装JDK 配置hosts 安装SSH 关闭防火墙 修改时区 ZK(安装,启动,验证) HDFS+HA的结构图 角色分配 环境变量配置 核心文件配置 slave 启动命令(hdfs和yarn的相关命令)
主要有以下几个流程 服务规划 安装准备 HTTP 安装 JDK安装 server和agent之间ssh免密码登录 安装amber