职位详情
Airflow工程师
1.5-2万
深圳银兴智能数据有限公司
深圳
5-10年
本科
05-16
工作地址

共享大厦-A座1801室

职位描述

岗位职责:

- 负责公司各项目调度平台的整体规划,设计高可用、可扩展的Airflow集群架构;

- 规划Airflow任务调度策略,优化DAG(有向无环图)的设计与执行效率;

- 主导Airflow集群的部署、升级及日常维护,保障系统稳定性和高可用性;

- 监控Airflow任务执行状态,及时处理调度失败、资源争用等问题;

- 针对大规模任务调度场景,优化Airflow调度性能;

- 优化数据库(如MySQL、PostgreSQL)性能,解决Airflow元数据存储瓶颈。

- 为项目团队提供Airflow技术支持,编写开发规范及最佳实践文档;

- 负责调度平台等技术攻关,解决复杂场景下的调度性能与稳定性问题。


岗位要求:

- 计算机科学、软件工程或相关专业本科及以上学历,5年以上系统开发或系统运维经验;

- 3年以上Airflow实战经验,主导过生产级集群的部署、调优及运维;

- 精通Airflow核心架构(Scheduler、Worker、WebServer、Executor等)及运行原理;

- 精通Python,熟悉Linux系统及Shell脚本;

- 有大规模任务调度(日调度任务10万+)场景下的性能调优经验;

- 熟悉至少一种数据库(MySQL/PostgreSQL等),掌握基本SQL调优;

- 具备Airflow源码级问题排查能力者优先;

- 熟悉大数据生态组件(Hadoop、Spark、Flink等)的调度集成优先;

- 熟悉Docker/Kubernetes,具备容器化部署经验优先。


软性要求:

- 优秀的逻辑思维与问题解决能力,能快速定位并修复复杂调度问题;

- 良好的沟通能力,能协同数据开发、运维及业务团队推动技术落地;

- 对技术有热情,关注开源社区动态,有Airflow源码贡献者优先;

- 有数据中台或大数据平台建设经验者优先;

- 可适应短期出差。

以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕

立即申请