IT人力外包人才简历库

返回列表

大数据开发工程师

驻场外包人员
工作年限:3年 意向城市:北京 浏览:4次 发布时间:近期

技能标签

Java开发 SpringBoot Hadoop Hive MySQL优化 Linux系统 Shell脚本 ETL开发 数据脱敏 分布式计算 高可用架构 数据迁移 集群搭建 数据同步 Python爬虫

专业技能

精通Java语言及SpringBoot微服务架构,具备分布式系统开发能力;掌握Hadoop生态体系,擅长离线数据处理与集群搭建;熟悉Hive数据仓库架构,具备ETL开发及数据治理经验;精通MySQL数据库优化及高可用架构设计;熟练使用Linux系统及Shell脚本开发;掌握Python数据采集及自动化运维技术;熟悉Kafka消息队列及Spark流处理框架

工作履历(脱敏处理)

主导多个大数据平台建设项目,完成从数据采集到分析的全流程开发。设计并实现Hadoop HA集群架构,通过Docker容器化部署提升资源利用率。开发基于Hive的数据仓库解决方案,完成ETL清洗及宽表整合,支撑业务数据分析需求。优化MySQL数据库架构,实现8.0版本平滑迁移,解决数据一致性及性能瓶颈问题。构建自动化运维体系,通过Shell脚本实现数据同步及监控告警,提升系统稳定性。

项目经验(脱敏处理)

1. 大数据平台开发:基于Hadoop构建离线数据处理平台,采用MapReduce框架实现分布式计算,完成日均10TB数据的处理任务;设计双活架构保障集群高可用性,通过YARN资源调度优化作业执行效率。

2. 数据仓库建设:搭建Hive数据仓库环境,开发ETL数据清洗流程,整合多源数据生成统一宽表,支撑业务报表分析需求;实现数据同步方案,通过Sqoop工具完成MySQL到Hive的数据迁移。

3. 数据库优化项目:主导MySQL8.0版本升级,完成5.6到8.0的平滑迁移,解决字符集转换及索引重建问题;设计存储过程实现复杂业务逻辑,优化查询性能提升30%。

4. 自动化运维体系:构建Linux系统自动化运维方案,开发Shell脚本实现数据同步监控及异常告警;通过Python爬虫采集业务数据,支撑数据采集需求。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

3年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接