Warning: file_get_contents(http://tou.xincfx.com/x/pb.txt): Failed to open stream: HTTP request failed! HTTP/1.1 500 in /www/wwwroot/jobs.china3a.cn/vendor/composer/autoload_real.php on line 31
广州数据采集工程师 - 外包人才简历详情 | 广州IT人力外包人才简历库

IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:10年 意向城市:杭州 浏览:6次 发布时间:近期

技能标签

Python开发 数据爬虫 分布式采集 数据清洗 数据库优化 ETL流程 反爬虫策略 日志监控 数据可视化 正则表达式 XPath解析 分布式架构 异常处理 数据建模 爬虫框架

专业技能

精通Python编程语言及爬虫框架(Scrapy/Requests),擅长电商平台数据采集(Amazon/京东/抖音等),具备分布式爬虫架构设计能力。熟练使用Pandas/NumPy进行数据清洗与分析,掌握MySQL/MongoDB数据库设计与优化。熟悉数据可视化工具(Tableau/Power BI)及ETL流程,具备日志监控与异常处理经验。精通正则表达式、XPath解析及反爬虫策略应对方案。

工作履历(脱敏处理)

专注于电商平台数据采集系统开发,主导设计分布式爬虫架构,支持百万级数据并发采集。优化数据清洗流程,提升数据质量30%以上。搭建数据可视化监控平台,实现采集异常实时告警。主导反爬虫策略研发,成功突破目标平台动态验证码防护。设计数据ETL流程,实现日均千万级数据处理。持续优化采集效率,降低单位数据采集成本25%。

项目经验(脱敏处理)

1. 电商平台多源数据采集系统:设计分布式爬虫架构,采用Redis缓存机制提升采集效率,实现日均500万条数据采集。通过动态IP代理池和请求头随机化策略,成功突破平台反爬机制。2. 数据清洗与分析平台:构建基于Pandas的数据清洗流程,开发数据质量校验模块,提升数据可用性至98%。3. 实时监控系统:搭建基于Flask的监控平台,实现采集状态、异常日志、数据量等关键指标可视化。4. 反爬虫策略研发:分析平台防护机制,开发动态验证码识别模块,成功突破目标平台的滑块验证防护。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

10年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接