IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:1年 意向城市:杭州 浏览:6次 发布时间:近期

技能标签

Python Scrapy 分布式爬虫 MySQL Redis 数据清洗 增量更新 接口逆向 自动化脚本 反爬策略 任务调度 日志分析 数据建模 系统维护

专业技能

精通Python爬虫开发,熟练掌握Scrapy框架及分布式爬虫架构设计,具备公众号接口逆向解析、网页数据采集及自动化处理能力。熟悉MySQL数据库优化及Redis缓存应用,擅长数据清洗、增量更新及异常处理机制。具备自动化票务系统开发经验,熟悉网络请求协议及反爬策略应对方案。

工作履历(脱敏处理)

独立开发医院挂号监控系统,实现公众号接口逆向解析与排班数据采集,构建分布式爬虫架构支持百万级数据处理。设计增量更新机制确保数据时效性,开发自动化挂号模块提升系统可用性。主导推特数据采集平台开发,实现指定用户实时内容抓取及接口集成,支撑前端数据可视化展示。持续优化爬虫任务调度策略,建立完善的日志分析体系保障系统稳定运行。

项目经验(脱敏处理)

医院挂号监控系统:基于Scrapy框架构建分布式爬虫架构,实现公众号接口逆向解析及排班数据采集。设计增量更新机制确保7天内医生排班数据时效性,开发自动化挂号模块提升系统可用性。采用Redis缓存优化数据采集效率,建立异常处理机制保障数据完整性,支撑百万级数据存储与查询。

社交媒体数据采集平台:开发推特指定用户实时内容抓取系统,实现数据采集、清洗及接口集成。采用分布式任务调度策略保障数据实时性,设计缓存机制降低接口调用频率。建立数据质量监控体系,确保采集数据准确率99.8%。系统支持日均百万级数据处理,持续优化爬虫策略应对反爬机制。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接