岗位职责:
1、负责云平台大数据系统的开发和维护,包括数据采集、存储、处理和分析;2、使用大数据技术栈(如Hadoop、Spark、Flink等)构建数据处理管道,支持实时和离线数据分析;
3、设计和优化大数据平台的架构,提升系统的性能、可扩展性和可靠性;
4、开发和维护ETL流程,确保数据的准确性、完整性和及时性。
岗位要求:
1、3-5年大数据开发经验,熟悉大数据生态系统(如Hadoop、Spark、Hive、Kafka等);
2、熟悉至少一种编程语言(如Java、Scala、Python等),具备良好的编程能力;
3、熟悉分布式计算和存储原理,了解大数据平台的架构设计;
4、熟悉SQL和NoSQL数据库(如MySQL、PostgreSQL、HBase、Cassandra等);
5、具备数据仓库设计和开发经验,熟悉EIL工具和流程;
6、具备良好的问题分析和解决能力,能够独立完成复杂任务。