岗位职责:
1、参与大数据架构的规划设计,参与业务建模及大数据平台的搭建、运维,业务流程与大数据的结合提出建议和解决方案;
2、完成基于大数据平台的业务项目的开发、实施和维护工作;
3、负责解决大数据平台建设过程中的技术难点和性能调优工作;
4、参与数据仓库设计,根据业务需求实现高效率、高灵活性的查询,数据分析,数据挖掘工作;
5、负责开发大数据工具,如报表平台、多维度分析工具、ETL平台、调度平台的研发;
6、负责高吞吐、高可用数据实时和离线采集,高并发的大数据业务架构设计;
7、负责研发技术发展方向,新技术领域的探索,引入并验证数据平台领域新技术,提供系统效能;
8、对大数据技术及开源框架充满热情,具有钻研精神,能自我学习。
任职要求:
1、具有3年Java开发经验,熟悉SpringCloud生态,掌握Hibernate、Mybatis任意一种ORM框架,掌握Oracle、Mysql数据库;
2、具备3年以上的大数据开发经验,熟悉大数据相关技术、数据仓库,分布式架构技术理论,具有大数据整体系统架构设计和实战经验,有从无到有建设大数据平台经验者优先;
3、较强的开发能力,必须熟练使用相关开发语言(Java/Python/Scala/Shell等),熟悉大数据生态、关系数据库和NOSQL数据库、Linux等相关知识,能够独立完成大数据相关的技术实现和调优;
4、具备异构数据源的大数据量的增、全量数据集成的调优经验,技术不限于DataX 、Sqoop、爬虫等技术等;
5、熟悉Hadoop、Hbase、Hdfs、Yarn、Zookeeper、Hive、Spark、Flink、Kafka、Flume、Phoenix等组件或技术,能阅读源码跟踪问题,熟悉复杂数据查询性能调优,包括实时查询和离线批处理查询,服务器和生态组件的参数优化;
6、熟练掌握Spark、Flink任意一种计算框架,掌握MapReduce计算框架原理,并有实际项目开发经验;
7、精通用户行为分析模型,熟悉企业应用画像模型算法;
8、扎实的独立分析问题、解决问题的能力,具备良好的需求理解能力、沟通协调能力和团队合作精神;有很强的数据设计抽象能力,擅于跟业务团队就业务问题进行良好的沟通,推动业务的指标化、量化。