2.5.hadoop的配置文件 设置-51CTO学堂

2.5.hadoop的配置文件 设置

6111 未经授权,禁止转载了解课程
课程介绍
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
适合人群
IT相关从业人员,大数据工程师,数据库工程师及DBA,数据架构师,数据仓库ETL,IT运维人员
你将会学到
01.掌握电信数据仓库项目建设的流程和实践方法;
  • 01.掌握电信数据仓库项目建设的流程和实践方法;
  • 02.了解电信项目的整理流程和实操方法,为个人求职履历填上浓墨重彩的一笔;
  • 03.通过项目,巩固大数据Hadoop集群 Redis Flume DataX的相关知识;
课程简介

信运营商每时每刻会产生大量的通信数据,例如记录,短信记录,彩信记录,第三方服务资费等等繁多信息。数据量如此巨大,除了要满足用户的实时查询和展示之外,还需要定时定期的对已有数据进行离线的分析处理。 电信客服综合案例就是以此为切入点所开发的大数据实战案例。在本课程中,你将学习到,项目架构搭建,数据生产,数据消费,数据分析,以及数据展示等项目核心业务功能的实现。

网络集群等技术有着丰富的实战经验和深厚的技术功底。


Hadoop+Hbase+Flume+QuickBI实现电信级海量通话日志数据的存储,随机访问与实时读写。通过hash技术对rowkey进行分析处理,解决hbase的热点问题,协同coprocessor,解决系统的高吞吐量和查询负载问题以及如何避免中间结果导致通知风暴或死递归问题,让同学们体验到大数据技术在企业中实战应用。


1.整体架构分析

  Hadoop体系架构与ha配置方案。

  Hbase体系架构与ha配置方案

  Flume实时收集架构方案。

  SSM实现前端web实现以及与后端HBase的交互架构方案。

  Five+Oozie实现的周期任务调度。

  Spark Streaming实现窗口化敏感词实时监控方案


展开更多
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
提问

讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。

记录时间点
记录提问时视频播放的时间点,便于后续查看
公开提问
提交