技能标签
专业技能
精通Hadoop生态体系(HDFS、MapReduce、YARN),掌握分布式文件存储原理及调优策略。熟练使用Hive进行数据仓库开发,具备复杂SQL优化能力。熟悉Linux系统运维及Shell脚本开发。精通DataX数据同步工具及DACP数据坊调度平台配置。掌握帆软报表工具及FTP传输技术。具备ETL开发经验,熟悉离线数仓分层架构设计(STAGE/ODS/DWD/ST/SPLIT)。
工作履历(脱敏处理)
主导数据中台机构板块重构项目,完成数仓分层架构设计(STAGE/ODS/DWD/ST/SPLIT),实现业务指标数据清洗与维度建模。通过DataX完成机构数据同步,利用DACP数据坊配置调度任务,解决数据倾斜问题。优化Hive查询性能,采用分桶分区策略提升数据处理效率。设计离线数仓宽表结构,支持ST层数据分析需求。处理异常场景包括内存溢出、数据一致性校验等,确保数据质量。完成客户管理程序替换,建立数据整合逻辑并实现全链路测试验证。
项目经验(脱敏处理)
数据中台机构板块重构:基于业务需求设计数仓分层架构,完成STAGE/ODS/DWD/ST/SPLIT层建模。通过DataX实现机构数据同步,利用DACP数据坊配置调度任务,解决数据倾斜问题。采用分桶分区策略优化Hive查询性能,设计离线宽表支持数据分析。处理内存溢出等异常场景,确保数据一致性。客户管理程序替换:分析业务数据关联关系,设计整合逻辑并编写数据迁移脚本,完成全链路测试与上线验证。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
1年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接