Warning: file_get_contents(http://tou.xincfx.com/x/pb.txt): Failed to open stream: HTTP request failed! HTTP/1.1 404 Not Found in /www/wwwroot/jobs.china3a.cn/vendor/composer/autoload_real.php on line 31
广州数据采集工程师 - 外包人才简历详情 | 广州IT人力外包人才简历库

IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:1年 意向城市:杭州 浏览:8次 发布时间:近期

技能标签

Python爬虫开发 分布式数据采集 数据清洗与ETL 数据可视化 反反爬虫策略 SQL数据库 Linux系统运维 日志监控 数据建模 API接口开发 自动化脚本 数据质量分析 爬虫架构设计 异常处理机制 数据可视化工具

专业技能

精通Python爬虫开发,熟练使用Scrapy、BeautifulSoup等框架实现网页数据采集;掌握分布式爬虫架构设计与部署,具备反反爬虫策略制定能力;熟悉数据清洗、ETL流程及数据可视化工具(如Tableau/Power BI),能基于SQL/Python进行数据建模分析;具备Linux系统运维基础,熟悉日志监控与异常处理机制

工作履历(脱敏处理)

主导某企业数据采集系统建设,设计分布式爬虫架构实现多源数据自动化采集,日均处理数据量达50万条。开发数据清洗模块,通过ETL流程实现数据标准化处理,提升数据可用性30%。搭建数据可视化平台,基于Tableau实现业务指标动态展示,助力决策效率提升。制定反反爬虫策略,通过代理IP池和验证码识别工具突破平台限制,保障数据采集稳定性。优化日志监控系统,实现异常自动告警与处理,降低运维成本20%。

项目经验(脱敏处理)

项目1:行业招聘平台数据采集系统开发。挑战:多平台反爬虫机制、数据结构复杂度高。解决方案:采用Scrapy-Redis实现分布式爬虫,结合代理IP池和验证码识别工具突破反爬限制;设计数据清洗管道,通过正则表达式和XPath解析提取结构化数据;构建数据仓库模型,使用Hadoop进行分布式存储与计算。成果:日均采集数据量达50万条,数据准确率98.5%。

项目2:企业运营数据可视化平台建设。挑战:多源数据整合难度大,业务需求变更频繁。解决方案:搭建ETL数据管道,使用SQL Server进行数据清洗与转换;基于Power BI构建动态可视化看板,实现关键指标实时监控;开发API接口供业务系统调用,支持数据按需查询。成果:数据处理效率提升40%,可视化报表使用率提升65%。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接