1. 基础知识Hadoop实现了一个特殊的计算模型，即MapReduceMapReduce可以将计算任务分割成多个处理单元然后分散到一群家用的或服务器级别的硬件机器上，从而降低成本并提供水平可伸缩性MapReduce模型下，是一个成为Hadoop分布式文件系统（HDFS）的分布式文件系统Hive提供一个称为Hive查询语言（HiveQL或HQL）的SQL方言，用来查询Hadoop集群中的数据Hiv
转载
2023-09-04 11:06:11
0阅读
1、合理设置Map数 （1）通常情况下，作业会通过 input 的目录产生一个或者多个 map 任务主要的决定因素有： 1）input 的文件总个数 2）input 的文件大小 3）集群设置的文件块大小（2）是不是 map 数越多越好？ 答案是否定的。如果一个任务有很多小文件（远远小于块大小 128m
一、 控制hive任务中的map数:通常情况下，作业会通过input的目录产生一个或者多个map任务。 主要的决定因素有： input的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过set dfs.block.size;命令查看到，该参数不能自定义修改)；举例： a) 假设input目录下有1个文件a,大小为780M,那么hadoop会将该文件a分隔成
转载
2023-09-29 10:58:08
117阅读
一、 控制hive任务中的map数:
1. 通常情况下，作业会通过input的目录产生一个或者多个map任务。 主要的决定因素有： input的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过setdfs.block.
转载
2023-07-20 22:09:44
476阅读
文章目录一、 Hive入门1.1 什么是Hive1.2 Hive架构原理二、 Hive安装2.1 Hive安装地址2.2 Hive安装部署2.2.1 安装Hive2.2.2 启动并使用Hive2.3 配置Hive元数据存储到MySQL2.3.1 配置元数据到MySQL2.3.2 验证元数据是否配置成功2.3.3 查看MySQL中的元数据2.4 Hive服务部署2.4.1 hiveserver2服
关于hive选项:hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat, cdh4版的hive0.10默认已经设置合并,但文件块大小是256M,需要根据自己的情况设置.hive> set mapred.max.split.size; mapred.max.split.size=256000000 hive&
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档目录 前言一、Hive中Map的个数是如何确定的？二、如何修改Map个数？总结 前言Hive是如何将SQL转换成MapReduce的？又是如何运行在不同的的执行引擎如：Mr,Tez,Spark？我们在工作时哪些地方需要进行优化？带着这些问题我们将开展一期实战的性能优化。 一、Hive中Map的个数是如何确定的？原理：默认情况下Map的
转载
2023-07-14 11:13:28
73阅读
注意，以下操作都是针对非分桶表map数量算法
MapTask的个数=输入文件总大小/分片尺寸，个人理解就是输出的文件数量
原因：系统对输入的源文件依照Block的尺寸分片，并在执行Job时安排一个Map Task处理一个Block的或者由mapred.map.task数量决定，但是如果这个参数不合理的话，会失效小文件不分片压缩文件无法被切分优化建议
优化原因
map
转载
2023-07-13 21:10:46
71阅读
一、控制Hive中Map和reduce的数量Hive中的sql查询会生成执行计划，执行计划以MapReduce的方式执行，那么结合数据和集群的大小，map和reduce的数量就会影响到sql执行的效率。除了要控制Hive生成的Job的数量，也要控制map和reduce的数量。1、map的数量，通常情况下和split的大小有关系，之前写的一篇blog“map和reduce的数量是如何定义的”有描述。
hadoop 基础：hadoop的核心是应该算是map/reduce和hdfs，相当于我们要处理一个大数据的任务（并且前提是我们只采用普通的PC服务器），那么完成这个任务我们至少做两件事情，一件是有一个环境能够存储这个大数据（即hdfs），另外一件就是有一个并发的环境处理这些大数据（即map/reduce）。• map/reduce计算模型：map/reduce理解为一个分布式计算框架，它由Job
转载
2023-09-22 13:26:27
42阅读
map和reduce是hadoop的核心功能，hadoop正是通过多个map和reduce的并行运行来实现任务的分布式并行计算，从这个观点来看，如果将map和reduce的数量设置为1，那么用户的任务就没有并行执行，但是map和reduce的数量也不能过多，数量过多虽然可以提高任务并行度，但是太多的map和reduce也会导致整个hadoop框架因为过度的系统资源开销而使任务失败。所以用户在提交m
转载
2023-09-20 07:14:30
29阅读
map和reduce是hadoop的核心功能，hadoop正是通过多个map和reduce的并行运行来实现任务的分布式并行计算，从这个观点来看，如果将map和reduce的数量设置为1，那么用户的任务就没有并行执行，但是map和reduce的数量也不能过多，数量过多虽然可以提高任务并行度，但是太多的map和reduce也会导致整个hadoop框架因为过度的系统资源开销而使任务失败。所以用户在提交
转载
2023-09-01 08:20:07
74阅读
目录综述：MR支持的压缩方式：压缩格式和对应的编码解码器：压缩性能的比较： 压缩参数的配置：Hive中指定Map输出压缩：Hive中指定Reducer输出压缩：综述：Hadoop的数据压缩主要在三个地方：Map数据的输入；Mapper数据的输出；Reduce数据的输出；MR支持的压缩方式：压缩格式工具算法文件扩展名是否可切分DEFLATE无DEFLATE.deflate否Gzipgzip
Hive 知识重点梳理1. Hive数据倾斜原因 key分布不均匀 业务数据本身的特性 SQL语句造成数据倾斜（示例如下）解决方法1. hive设置如下hive.map.aggr=true 在map中会做部分聚集操作，效率更高但需要更多的内存。hive.groupby.skewindata=true 有数据倾斜的时候进行负载均衡，当选项设定为true,生成的查询计划会有两个MR Job。第一个MR
前言Spark集群中几个角色和driver启动流程。那么本篇将以前面两篇文档中的线索为起点，来分析一下SparkContext中，同时也是driver program甚至整个Spark应用流程中最为重要的组件之一——TaskSchedular，代码啥的我就尽量不贴了，有需要的同学对着源码看吧，以后其他文档也是这个路数，说一下代码在哪就行，自己找着看更全面也更好玩...创建及初始化 private
一、控制hive任务中的map数:通常情况下，作业会通过input的目录产生一个或者多个map任务。 主要的决定因素有： input的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过set dfs.block.size;命令查看到，该参数不能自定义修改)；举例： a) 假设input目录下有1个文件a,大小为780M,那么hado
转载
2023-08-18 22:24:53
168阅读
map 把Job分割成map和reduce 合理地选择Job中 Tasks数的大小能显著的改善Hadoop执行的性能。增加task的个数会增加系统框架的开销，但同时也会增强负载均衡并降低任务失败的开销。一个极 端是1个map、1个reduce的情况，这样没有任务并行。另一个极端是1,000,000个map、1,000,000个reduce的情况，会由于 框架的开销过大而使得系统资源耗
转载
2023-07-25 00:28:50
55阅读
一、 控制hive任务中的map数:1. 通常情况下，作业会通过input的目录产生一个或者多个map任务。 主要的决定因素有： input的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过set dfs.block.size;命令查看到，该参数不能自定义修改)；2.
转载
2023-07-12 18:54:52
128阅读
1. Hive自己如何确定reduce数：reduce个数的设定极大影响任务执行效率，不指定reduce个数的情况下，Hive会猜测确定一个reduce个数，基于以下两个设定：hive.exec.reducers.bytes.per.reducer（每个reduce任务处理的数据量，默认为1000^3=1G） hive.exec.reducers.max（每个任务最大的reduce数，默认为999
转载
2023-07-20 22:08:19
194阅读
记录一次Hive表清理过程背景
时间：2020-07-17
在用spark+hive做数仓的过程中往往会产生很多表，过多历史表会很快消耗掉有限的hdfs资源，并且时间过于久远的表一般不会具有利用价值了，如果不及时清理这部分hive表会造成hdfs资源的严重浪费，因此需要有一个类似于HiveClean的定时任务，执行定期清理旧数据的逻辑。动机在接手这个功能需求的时候，已经有了一个HiveC
