职位描述
任职要求:
1、5年以上工作经验,精通Java及Python技术栈,熟练使用SpringMVC、Python爬虫,常用缓存、队列、存储等中间件技术;
2、3年以上大数据开发相关经验,熟悉大数据技术及相关原理,能够快手开发并优化日常问题;
3、有海外媒体平台的爬虫相关经验优先,熟悉指纹浏览器者优先;
4、积极乐观,认真负责,乐于协作,热爱技术,具备快速学习能力;
岗位职责:
1、负责情报系统的整体架构设计及数据爬取能力建设,保证数据获取能力的稳定性,负责爬虫技术的核心难点攻坚;
2、负责数据抓取的全面性、准确性、及时性建设,解决抓取过程中遇到的技术问题和挑战;
3、建设情报系统的离线、实时监测及预警能力,保障数据实时入仓,并优化查询性能,具备大规模高性能数据检索能力;
4、负责构建代理IP池、指纹浏览器池,设计资源调度管理爬虫资源;
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕