岗位职责:
1.负责大数据平台集群建设优化,包括整体架构设计、组件选型、部署维护、参数调优等;
2.负责大数据平台集群整体运维、监控及安全体系建设,包括集群运行、调度任务监控告警等;
3.参与大数据平台数据产品架构设计与优化;
4.为平台上层数据应用提供技术支持;
5.参与大数据领域前沿技术调研和引进。
任职要求:
1.硕士研究生及以上学历,计算机相关专业;
2.5年以上工作经验,3年以上大数据平台开发、运维经验;
3.精通Hadoop生态圈(如:Hive、Hbase、CK、Spark、Flink等等),熟悉各组件运行原理及运维部署调优,至少需要具备HDFS(含Yarn、Hive、Spark)、Hbase、CK集群的实际部署及运维经验,对华为MRS集群有实际部署维护经验优先;
4.熟悉MPP类型数据库运行原理及调优,对华为DWS数据库有实际部署维护经验优先;
5.熟悉各类关系型数据库(如:Mysql、Postgres、Oracle),有良好的sql编写.优化能力;
6.具备Shell、Python 等脚本编程能力,逻辑思维能力强,问题排查思路清晰;
7.有良好的Java语言编程基础,具备至少一个应用类项目开发经验;
8.能够熟练调用大数据生态圈各组件API接口;
9.有良好的代码编写规范。