爬虫工程师(电商)
1.1-1.6万
杭州 大专
三新银座1506
岗位职责:
1. 负责设计和开发高效、稳定的网络爬虫系统,针对不同网站结构制定爬取策略,处理反爬机制,确保数据采集的准确性和时效性。
2. 参与爬虫系统的优化与维护,解决爬取过程中的性能瓶颈、数据去重、异常处理等问题,提升系统稳定性和爬取效率。
3. 结合业务需求,对爬取的数据进行清洗、解析和结构化处理,为后续数据分析或应用提供支持。
4.对逆向加密,算法还原,jsvmp补环境等有一定的操作基础
任职要求:
1. 本科及以上学历,计算机、软件工程等相关专业,2年以上爬虫开发经验。
2. 熟练掌握Python编程语言,精通Scrapy、BeautifulSoup、Requests等爬虫框架和工具。
3. 熟悉各类反爬机制(如验证码、IP封锁、JS混淆等),有丰富的反爬解决方案经验。
4. 具备llm部署经验,熟悉模型部署流程、性能优化及故障排查。
5. 有MCP(模型控制平台)相关开发或使用经验者优先,了解模型监控、调度等核心功能。
6. 熟悉数据库(如MySQL、MongoDB)的使用,具备数据处理和分析能力。
7. 具备良好的问题分析与解决能力,较强的沟通能力和团队协作精神。
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕