项目职责:项目架构:spark、yarn、hbase、redis、sqlserver、zookeeper、az、hue个人职责:【数据迁移】-TB级数据迁移,Hbase新旧集群数据表跨服务器迁移恢复【Hbase优化】-Hbase旧集群版本较低,部分API等服务过时影响效率。由0.99.2升级至2.1.0版本,并对原代码API进行修改-Hbase数据存储优化。预分区、Rowkey合理化规则设计-读取hbase修改rowkey后以Hfile格式写到hdfs,再以Bulkload方式批量写入Hbase新结构表各个分区【离线报表】-ERP系统将各城市日立电梯运行的门机设备及日常使用寿命等数据进行采集,按时写入hbase数据库。-Spark读取Hbase数据进行离线分析,将计算结果先写入Redis做缓冲,最终写入SqlServer-完成ELS、CA、主、副门电梯运行轨迹门机预诊断-电梯运行电流、电压不同负载运行、使用统计-对异常特殊数据进行标记,并关联明细