职位详情
高级数据工程师 (Senior Data Engineer)
1.2-1.8万
大连北溟软件有限公司
大连
3-5年
本科
11-11
工作地址

大连市-甘井子区-黄浦路

职位描述
工作职责:
• 数据管理: 开发、测试、监控和维护ETL(抽取、转换、加载)流程,确保数据准确高效地加载到数据仓库或数据集市中。
• 数据建模: 与BI架构师协作,设计逻辑和物理分析数据模型。
• 日常运维: 为商业智能与数据管理解决方案提供日常支持。
• 数据治理: 创建和维护数据字典与数据血缘关系;解决数据质量问题并建立数据完整性检查机制。
• 性能调优: 优化ETL流程性能,确保数据处理和报告的高效运行。
必备技能:
• 学历与专业: 本科及以上学历,计算机、统计学、数学或相关理工科专业。
• 工作经验: 拥有3年以上大数据(TB级别)开发经验。
• 语言能力: 具备良好的英语听说读写能力。
• 编程与数据分析: 熟练掌握Python开发语言及常用框架,并能熟练运用NumPy, Pandas, sklearn, Matplotlib/Plotly等工具包。
• 数据处理与管道: 掌握大数据ETL/ELT基本流程,对数据分层有深入理解,并具备设计ETL/ELT Pipeline的实际经验。
• 大数据技术栈: 熟练掌握Apache Airflow、SparkSQL的开发与部署。
• 云平台与数据工具: 熟悉数据仓库(如AWS Redshift/Snowflake),并具有AWS Glue、Step Functions、Athena,或Databricks、dbt等工具的开发与配置经验。
• 数据库技能: 至少熟练掌握MySQL、PostgreSQL等一种主流关系型数据库,具备扎实的SQL脚本编写能力及SQL性能优化经验。
• 代码管理: 熟练使用Git进行代码管理,编写规范的代码与清晰的注释。
加分技能:
• 有Databricks, dbt等开发、配置经验
• 具备SAP数据集成经验者优先
• 熟悉 Tableau、Microsoft Power BI、AWS QuickSight 等至少一种主流商业智能平台。
• 了解掌握 Redis、ElasticSearch等
• 熟悉 Docker 容器技术,能独立构建docker镜像并容器化部署服务
其他加分项:
• 逻辑思维能力强,学习适应力强,对数据敏感,重视细节
• 具备通过数据分析和阐明业务流程的能力
• 以客户为中心,具备良好的沟通能力

以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕

立即申请