共享大厦-A座1801室
岗位职责:
- 负责公司各项目调度平台的整体规划,设计高可用、可扩展的Airflow集群架构;
- 规划Airflow任务调度策略,优化DAG(有向无环图)的设计与执行效率;
- 主导Airflow集群的部署、升级及日常维护,保障系统稳定性和高可用性;
- 监控Airflow任务执行状态,及时处理调度失败、资源争用等问题;
- 针对大规模任务调度场景,优化Airflow调度性能;
- 优化数据库(如MySQL、PostgreSQL)性能,解决Airflow元数据存储瓶颈。
- 为项目团队提供Airflow技术支持,编写开发规范及最佳实践文档;
- 负责调度平台等技术攻关,解决复杂场景下的调度性能与稳定性问题。
岗位要求:
- 计算机科学、软件工程或相关专业本科及以上学历,5年以上系统开发或系统运维经验;
- 3年以上Airflow实战经验,主导过生产级集群的部署、调优及运维;
- 精通Airflow核心架构(Scheduler、Worker、WebServer、Executor等)及运行原理;
- 精通Python,熟悉Linux系统及Shell脚本;
- 有大规模任务调度(日调度任务10万+)场景下的性能调优经验;
- 熟悉至少一种数据库(MySQL/PostgreSQL等),掌握基本SQL调优;
- 具备Airflow源码级问题排查能力者优先;
- 熟悉大数据生态组件(Hadoop、Spark、Flink等)的调度集成优先;
- 熟悉Docker/Kubernetes,具备容器化部署经验优先。
软性要求:
- 优秀的逻辑思维与问题解决能力,能快速定位并修复复杂调度问题;
- 良好的沟通能力,能协同数据开发、运维及业务团队推动技术落地;
- 对技术有热情,关注开源社区动态,有Airflow源码贡献者优先;
- 有数据中台或大数据平台建设经验者优先;
- 可适应短期出差。
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕