Warning: file_get_contents(http://tou.xincfx.com/x/pb.txt): Failed to open stream: HTTP request failed! HTTP/1.1 404 Not Found in /www/wwwroot/jobs.china3a.cn/vendor/composer/autoload_real.php on line 31
广州Python爬虫开发工程师 - 外包人才简历详情 | 广州IT人力外包人才简历库

IT人力外包人才简历库

返回列表

Python爬虫开发工程师

驻场外包人员
工作年限:3年 意向城市:杭州 浏览:6次 发布时间:近期

技能标签

Python Scrapy Django MySQL MongoDB Redis Linux 数据清洗 数据可视化 爬虫框架 数据建模 数据库管理 后端开发 数据处理 图表生成 分布式缓存

专业技能

精通Python语言及爬虫框架开发,擅长数据采集与清洗技术,熟悉MySQL、MongoDB等关系型与非关系型数据库管理,掌握Redis分布式缓存技术,具备Linux服务器运维能力,熟练使用Scrapy框架进行网络爬虫开发,熟悉Django框架搭建后端服务,具备数据建模与可视化分析能力,熟练使用Pandas、Matplotlib进行数据处理与图表生成

工作履历(脱敏处理)

专注于数据采集与分析领域开发,主导设计并实施多个数据采集平台,实现日均百万级数据抓取与处理。开发基于Scrapy的分布式爬虫系统,通过Redis缓存优化提升数据采集效率30%。搭建Django后端服务支撑数据可视化展示,采用MySQL与MongoDB混合存储方案实现数据高效管理。主导数据清洗与建模工作,使用Pandas完成复杂数据处理,通过Matplotlib生成多维可视化图表。具备完整的开发交付能力,包括技术文档编写、系统部署及运维支持。

项目经验(脱敏处理)

1. 数据采集平台开发:基于Scrapy框架构建分布式爬虫系统,采用Redis实现任务队列管理,日均处理数据量达120万条,通过多线程优化提升采集效率40%。解决反爬虫机制问题,采用动态代理IP和请求头随机化策略,成功突破目标网站的访问限制。

2. 用户行为分析系统:开发基于Django的后端服务,整合MySQL与MongoDB数据库,实现用户行为数据的实时采集与存储。设计数据清洗流程,使用Pandas处理异常数据,构建用户画像模型,通过Matplotlib生成多维可视化报表,为业务决策提供数据支持。

3. 实时数据监控平台:搭建基于Redis的实时数据监控系统,采用消息队列实现数据异步处理,开发可视化看板展示关键指标。通过优化数据库索引和查询语句,将数据查询响应时间缩短至200ms以内,系统稳定性达到99.9%。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

3年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接