简小历男23岁2年155****2659976163****@qq.com软件工程师一句话向HR介绍自己 |
教育背景 |
2013-09 - 2016-07 简历本科技学院 大专 |
工作经历 |
简历本信息科技有限公司 大数据软件工程师 1.编写技术设计文档、测试文档 2.使用zookeeper搭建Hadoop HA及Hive集群 3.使用Sqoop将MySQL数据导入HDFS 4.使用Flume将日志数据导入HDFS 5.写MapReduce、HiveSQL、HiveUDF进行大数据分析 6.写MapReduce进行日志分析、业务分析 |
项目经历 |
连锁餐饮大数据项目 CentOS 7,hadoop 2.6.2,hive 1.2.1,zookeeper 3.4.6 项目介绍 系统使用过程中数据积累到TB级别,报表性能下降,所以需要hive。 分析客户的喜好和需求类型,分析客户群的地域区别、时间分布、偏好以及消费倾向,可以对营销人员提供数据支持。进一步进行错误日志分析,访问渠道分析,服务响应分析,并汇总到决策系统中,从而做出对应的业务变更。 连锁餐饮大数据分析平台:采用了,hadoop, zookeeper, hive,sqoop,flume等技术。 主要分析餐饮o2oweb,微信,app等系统产生的log日志,分析各个品牌,各个渠道,各个门店以及各种产品的销售状态,以及骑手送餐效率等。 主要模块有,餐期分析,产品销售分析,会员分析,销售渠道分析,销售渠道分析,门店kpi分析,骑手kpi分析,后厨kpi分析,访问转化率分析,访问路径分析,推广(广告)渠道kpi分析等模块。 我的职责 1.参与搭建Hadoop高可用集群 2.安装mysql,并配置主主互备 3.使用sqoop将数据加载到HDFS中 4.使用flume收集日志,并将日志导入HDFS中 5.编写hiveSQL,分析、处理数据 6.编写mapreduce对日志访问热点等数据进行分析 7.通过更改hive的参数,对hiveSQL查询的速度进行调优 8.编写相应的技术文档 |
个人评价 |
掌握 hadoop,hive,zookeeper,sqoop,flume 和 linux 基本操作; 了解 python,mybatis,hibernate,spring,hadoop 生态(spark,hbase,kafka,storm 等) 开发过大量hivesql 进行数TB数据的数据分分析 开发过mapreduce,进行非结构化日志分析 搭建过hadoop ha,hive ha,zookeeper集群 优化过hive,成功解决过hive数据倾斜的问题 在工作中能独立找出问题点,并分析和解决问题 性格沉稳,责任心强,对工作积极乐观,有较强的逻辑能力,敢于面对困难和挑战,有良好的职业道德 吃苦耐劳,适应性强,工作态度端正,有求知欲 能出色的完成领导交代的工作 |