IT人力外包人才简历库

返回列表

网络爬虫开发工程师

驻场外包人员
工作年限:6年 意向城市:北京 浏览:4次 发布时间:近期

技能标签

Python开发 网络爬虫 分布式爬虫 数据清洗 ETL处理 MySQL Redis API开发 反爬虫技术 数据接口设计 网页解析 数据存储优化

专业技能

精通Python编程语言,擅长网络爬虫框架开发与分布式爬虫系统构建。熟练掌握requests、BeautifulSoup、Scrapy等爬虫工具,具备反爬虫机制破解能力。熟悉数据清洗、ETL处理及数据库存储方案,精通MySQL/Redis等数据库管理。具备API接口开发能力,熟悉RESTful架构设计与数据接口安全策略。

工作履历(脱敏处理)

主导开发电商平台数据采集系统,设计分布式爬虫架构实现千万级商品数据抓取。优化爬虫调度算法提升采集效率30%,采用动态代理与请求头随机化技术突破反爬机制。搭建数据清洗管道实现多维度数据分类,设计MySQL分库分表方案提升数据存储性能。开发API接口供业务系统调用,建立数据校验机制确保数据准确性,支撑多个业务系统数据对接需求。

项目经验(脱敏处理)

构建电商平台商品数据采集系统,实现多源数据整合与分类存储。采用Scrapy-Redis框架搭建分布式爬虫集群,通过动态代理和请求头随机化技术突破反爬机制。开发数据清洗模块处理HTML结构差异,设计ETL流程实现商品信息标准化。搭建MySQL分库分表架构存储百万级商品数据,开发API接口供业务系统调用。优化爬虫调度策略提升采集效率,建立数据校验机制确保数据准确性,支撑多个业务系统数据对接需求。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

6年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接