技能标签
专业技能
精通Java语言,熟悉JVM原理及调优;掌握SQL优化技巧,具备复杂查询性能调优能力;精通Hadoop生态体系,包括HDFS分布式存储、MapReduce计算框架、YARN资源调度;熟练使用Flink进行实时流处理,掌握状态管理与窗口机制;熟悉Hive数据仓库架构,具备分区表、分桶表设计及UDF开发经验;掌握HBase分布式数据库原理,熟悉RowKey设计与数据压缩技术;精通Flume日志采集系统,熟悉多级数据传输架构;熟悉Kafka消息队列,掌握分区策略与消费位移管理;了解Calcite查询引擎架构及优化策略。
工作履历(脱敏处理)
专注于大数据平台开发与优化,主导流式数据库项目架构设计与核心模块开发。实现基于Thrift的SDK通信框架,完成分布式连接与负载均衡方案设计。开发SQL化复杂事件处理引擎,采用Flink状态管理实现实时数据处理。构建Zookeeper分布式锁机制保障任务并发安全,实现Flink任务状态监控与错误日志采集。优化Hive查询性能,设计分区表与分桶表提升数据处理效率。完成HBase数据存储方案设计,优化RowKey结构提升查询性能。主导Flume日志采集系统搭建,实现多级数据传输与扇出处理。熟悉Kafka消息队列的分区策略与消费位移管理,保障数据可靠性。
项目经验(脱敏处理)
流式数据库开发项目:1. 设计并实现基于Thrift的SDK通信模块,完成JDBC接口开发与分布式连接负载均衡方案,提升系统吞吐量30%;2. 开发SQL化复杂事件处理引擎,采用Flink状态管理与窗口机制实现实时数据流处理;3. 构建基于Zookeeper的分布式锁机制,保障任务执行的原子性与一致性;4. 实现Flink三种启动方式的任务状态监控,开发错误日志采集模块提升任务可追溯性;5. 优化Hive查询性能,设计分区表与分桶表方案,降低数据倾斜问题;6. 完成HBase数据存储架构设计,通过RowKey优化提升查询效率;7. 搭建Flume日志采集系统,实现多级数据传输与扇出处理,保障日志完整性。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
3年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接