IT人力外包人才简历库

返回列表

网络爬虫开发工程师

驻场外包人员
工作年限:1年 意向城市:北京 浏览:9次 发布时间:近期

技能标签

网络爬虫 数据采集 JavaScript逆向 分布式爬虫 动态渲染 数据可视化 异步编程 多线程并发 数据存储 API接口转换 验证码识别 Scrapy框架 Selenium Pyppeteer ECharts

专业技能

精通网络爬虫开发技术,擅长JavaScript逆向工程与动态渲染,熟练掌握Scrapy框架进行分布式数据采集。具备完整数据处理能力,包括网络抓包分析、代理IP管理、多线程/多进程并发处理、异步编程(aiohttp/asyncio)。熟悉数据存储方案(MongoDB/Redis/MySQL),掌握数据可视化(ECharts)与接口转换技术。具备验证码识别与反爬虫策略应对能力。

工作履历(脱敏处理)

主导网络爬虫系统开发,完成多源数据采集架构设计与实现。采用Scrapy框架构建分布式爬虫系统,支持多线程/多进程并发处理,日均采集数据量达百万级。开发动态渲染模块,通过Selenium/Pyppeteer技术解决复杂页面结构与验证码识别问题。设计数据存储方案,采用Redis缓存与MySQL数据库实现高效数据管理。完成数据可视化分析系统,使用ECharts实现多维度数据展示。优化网络抓包分析流程,提升数据采集效率30%。

项目经验(脱敏处理)

基于Scrapy框架构建视频网站深度数据采集系统,实现多源数据(文本/音频/图片)的自动化采集与结构化存储。采用分布式任务调度与负载均衡技术提升采集效率,设计动态渲染模块解决复杂页面结构问题。开发验证码识别模块,结合OCR与规则引擎应对多种验证机制。构建数据可视化分析系统,使用ECharts实现多维度数据展示。优化数据存储架构,采用Redis缓存与MySQL数据库实现高效数据管理,确保数据完整性与实时性。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接