工作时间:2015-11 - 2017-09
公司名称:简历本信息科技有限公司 | 所在部门: | 所在岗位:大数据工程师
工作描述:
根据需求,负责相关大数据应用模块设计;
参与大数据产品的数据分析、数据模型、功能设计及产品研发工作;
研究各种数据清洗,修复方法;
研究大数据有关的数据分析方法;
负责有关大数据分析产品的设计和开发。
工作时间:2017-02 - 2017-10
公司名称:简历本人才咨询有限公司 | 所在部门: | 所在岗位:大数据工程师
工作描述:
1、使用Spark Streaming和Kafka编写java程序实时接收埋点数据进行实时分析,对用户实时黑名单过滤,统计用户的实时流量等;
2、使用Spark Mlib的关联算法完成智能营销平台的关联分析,分析不同商品间的支持度和置信度指标。
3、使用Spark Streaming和Kafka编写java程序实时接收日志数据并分析会话总数,人均次数,人均访问时长等指标.
4、参与大数据湖方案的讨论,设计华润置地大数据仓库(ods、dw、dm层),帮忙完善数据仓库设计方案的具体实施。
5、使用Hive和MapReduce进行数据清洗,并使用Hive SQL和Spark SQL完成会员系统的ETL重构和离线数据分析。
6、使用Kettle设计ETL及离线数据分析任务,使用Azkaban设计kettle相关job的调度任务,配置依赖关系等。
工作时间:2007-04 - 2010-03
公司名称:简历本人才咨询有限公司 | 所在部门:软件与服务事业集团/管理及中间件软件部 | 所在岗位:软件开发/测试工程师
工作描述:
1)负责产品的每日构建(daily build)和回归测试(regression test),报告并追踪产品问题。
2)对于阶段性的产品发布,负责部分功能模块产品漏洞的调试和修复。
3)进行产品部分功能模块的新功能开发(概要设计,详细设计,编码开发)
4)进行产品部分功能模块的功能及性能测试(制定测试计划,设计开发测试用例,开发相关自动化测试工具)
工作时间:2016-01 - 至今
公司名称:简历本招聘咨询有限公司 | 所在部门: | 所在岗位:大数据工程师
工作描述:
在分支任职大数据工程师,负责大数据产品项目组与咪咕音乐有限公司业务支撑中心部门项目开发及运维工作,主要负责工作内容:1、负责业务支撑中心的一级VGOP、咪咕杭州研发中心对外供数的所有数据维护以及新增接口的开发、增、删、修、调整字段类型等。
2、负责中央音乐平台对外全国分省供数业务,涉及到的业务有咪咕彩铃、铃音盒、客户端使用及发展、振铃、全曲及各大话单的数据业务开发及运维、新增加接口数据各省份需求。
3、一级VGOP对外稽核数据采集并取至基地服务器,由各负责人获取数据进行结算。
4、每月一级VGOP、中央音乐平台对外分省供数月报数据出数运维维护工作保障月报能按时对外供数。
5、wap门户小时数据的供数业务,对外供数给一级VGOP、咪咕杭研中心供数,CP月数据更新,VGOP号段更新业务数据等等。
6、主要用到的系统环境及开发,维护的工具有:Linux\Unix、AIX系统,Oracle 、PL/SQL,ETL运维工具、mysql数据库,shell脚本编程,crontab定点服务、python编程工具,CRT工具、UE编辑器。
7、给wap门户渠道做数据分析,并给出用户消费情况做计量图表,统计出用户的消费偏好数据信息,进行跟进分析然后研发出新产品提供给各类消费偏好者推荐使用。
8、咪咕指数分析,由数据库统计每个月的量收总额来做对比,进行数据分析及调整用户潜在的消费意识数据,如;有些客户端只是开通特级会员,特级会员功能有比较多的免费业务,还有赠送给其它客户端需求数据,拿进行跟进分析,然而可以从特级会员客户中挖掘潜在的客户进行推荐,这样就能咪咕消费指数业务增长。
2017年03月-开始负责搬迁老系统数据Oracle平台的数据资料表调度数据源供数(对外供数模块)到大数据平台供数,其中分省供数模块我用了半个月的时间把全国31个省份的接口全部重新开发完成,主要用到工具为hive、spark、python框架sql。
2017年7月出差到湖北移动做武汉经分spark报表开发,展示在市场部一线应用平台,主要用到的工具为移动的4A平台,DAC平台,多租户模式开发,涉及保密协议范围。
2017年8月做武汉移动业务支撑数据中心,迁移湖北渠道优化模块工作,程序开发数据质量核对,完善老系统无法满足的条件,主要用移动4A平台、DACP平台,Hadoop、HDFS、Map/Reduce、hive、spark工具开发。