技能标签
专业技能
精通Java开发及微服务架构设计,熟练掌握SpringBoot框架及MVC开发模式。精通分布式系统设计,熟悉Kafka、Redis、Ehcache等消息队列和缓存技术,具备高并发场景下的系统优化经验。精通MySQL、MongoDB等数据库设计及调优,熟悉Hadoop生态组件。熟练使用Linux系统及Apache/Tomcat服务器配置,具备监控系统设计能力,熟悉Grafana+InfluxDB监控体系。掌握ES全文检索技术,具备分布式爬虫系统开发经验。
工作履历(脱敏处理)
主导分布式爬虫系统架构设计,采用Beanstalkd分布式队列实现种子管理,通过Kafka构建数据传输管道,结合Ehcache+Redis+MongoDB多级去重机制提升系统性能。设计监控体系集成Grafana+InfluxDB实现实时数据可视化,利用ES进行数据统计分析。主导某大型咨询平台改版项目,完成从需求分析到系统上线的全流程开发。设计挂卡类休闲游戏后端架构,实现奖励控制、Slots逻辑处理及用户拉活功能,系统支持百万级并发访问。
项目经验(脱敏处理)
分布式爬虫系统架构设计:基于高可靠性、高并发、高性能原则构建爬虫架构,采用Beanstalkd分布式队列管理种子数据,通过定时更新机制保障数据完整性。爬取模块采用Agent+Proxy组合模式实现反爬策略,通过Kafka进行数据分发。解析模块实现URL正则匹配与CSS选择器提取,结合多级缓存机制提升去重效率。转码系统支持自定义模板解析,实现多源数据结构化处理。监控体系集成Grafana+InfluxDB实现全链路监控,ES用于数据统计分析。系统部署2台Beanstalkd服务器、60台爬虫服务器、6台解析服务器及12台转码服务器,日均处理30万种子数据。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
10年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接