Warning: file_get_contents(http://tou.xincfx.com/x/pb.txt): Failed to open stream: HTTP request failed! HTTP/1.1 500 in /www/wwwroot/jobs.china3a.cn/vendor/composer/autoload_real.php on line 31
广州数据采集与运维工程师 - 外包人才简历详情 | 广州IT人力外包人才简历库

IT人力外包人才简历库

返回列表

数据采集与运维工程师

驻场外包人员
工作年限:4年 意向城市:杭州 浏览:5次 发布时间:近期

技能标签

Python Linux系统管理 Docker容器化 Kafka消息队列 MongoDB数据库 Shell脚本 DevOps 自动化运维 数据采集 系统监控

专业技能

精通Python爬虫框架开发,具备多源数据采集能力;熟练掌握Linux系统管理与运维,擅长容器化部署及服务监控;熟悉消息队列(Kafka)与分布式数据库(MongoDB)架构设计;具备全栈开发能力,熟悉前后端协同开发流程;掌握Shell脚本编写及自动化运维工具链;熟悉DevOps流程与CI/CD实践;具备良好的需求分析与跨部门协作能力。

工作履历(脱敏处理)

主导融媒体数据采集平台建设,设计并实现多源数据采集框架,通过pyspider改造采集系统,支持微博、报刊等多平台数据采集,日均处理数据量达百万级。搭建基于Kafka的消息队列系统,实现数据实时传输与存储,保障数据采集链路稳定性。负责全媒体平台容器化部署,使用Docker实现服务快速上线与弹性扩展,系统可用性提升至99.9%。优化Linux系统日志监控体系,通过Shell脚本实现自动化问题排查,故障响应时间缩短60%。

项目经验(脱敏处理)

1. 融媒体数据采集平台:基于pyspider重构数据采集框架,开发模块化采集模板,支持微博、新闻门户等多源数据抓取。构建Kafka+MongoDB数据管道,实现数据实时采集与存储,日均处理数据量达120万条。通过分布式爬虫调度机制,解决高并发采集场景下的资源竞争问题,系统稳定性提升40%。

2. 全媒体平台运维体系:设计并实施Docker容器化部署方案,实现服务快速上线与弹性扩展,系统部署效率提升50%。构建基于ELK的日志监控体系,通过定制化脚本实现异常日志自动预警,故障定位效率提升70%。优化Kafka消息队列配置,通过分区策略调整使消息堆积问题减少80%,保障数据传输时效性。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

4年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接