一、完善目录1、在HBinz用户下新建目录software 存放安装软件data 存放测试数据 source 存放源代码 lib 存放相关开发的jarapp 软件安装目录tmp 存放HDFS/Kafka/ZK数据目录maven_repo maven本地仓库shell 存放上课相关的脚本mkdir software data source lib app tmp maven_r
转载
2023-11-22 22:00:26
50阅读
①csd包：http://archive.cloudera.com/spark2/csd/ 下载SPARK2_ON_YARN-2.2.0.cloudera1.jar②parcel包：http://archive.cloudera.com/spark2/parcels/2.2.0.cloudera1/ 下载SPARK2-2.2.0.cloudera1-1.cdh5
转载
2023-10-26 14:26:37
95阅读
CDH安装包下载地址：://archive.cloudera/cdh5/repo-as-tarball/5.3.2/ CDH5.3.2官方安装说明文档地址：://cloudera/content/cloudera/en/documentation/core/latest/topics/cdh_ig_cdh5_cluster_deploy.html :
第一章：CDH添加kafka服务1.1 在集群中add service第二章：Spark2部署第一章：CDH添加Kafka服务添加kafka服务的时候会跳出来一句话：Before adding this service， ensure that either the kafka parcel is activated or the kafka package is installed.那我们去哪儿
环境介绍：在我的CDH5.11.1的集群中，默认已经安装的spark是1.6版本，这里需要将其升级为spark2.1版本。经查阅官方文档，发现spark1.6和2.x是可以并行安装的，也就是说可以不用删除默认的1.6版本，可以直接安装2.x版本，它们各自用的端口也是不一样的。我尝试了安装spark2.0版本和spark2.1版本，均告成功。这里做一下安装spark2.1版本的步骤记录。官网发布Cl
转载
2023-08-31 20:58:17
81阅读
前言：网上也有很多关于CDH部署的相关文档，但由于基础环境的差异和软件安装方式的不同，其部署方式也大同小异，每篇文章都值得借鉴，但都不能完全照搬，只有自己亲自做了才知道所以然。建议在部署的时候遇到问题第一时间不是搜索而是先去看日志，提高自己解决问题的能力。 唯有实践才能出真理！！！一、基础环境规划1.1 软件版本操作系统： Centos7.4 64位
JDK：jdk1.8.0_181
Cloud
转载
2023-07-04 14:20:50
4阅读
for my darling!1、前言CDH安装的是较新版本的CDH-5.13.0，但是CDH-5.13.0默认支持的还是spark1.6版本。这里需要将spark升级到spark2.x版本，以方便使用spark程序读取kafka0.10.x的数据。根据官网上的介绍可知CDH5.13是支持spark2.x的。这里讲spark2的安装做一个记录。首先贴出一些官方的网址，有兴趣的可以去看看：Cloud
转载
2023-07-04 14:13:15
190阅读
注：公司CDH集群版本为5.13.0 我们用的CDH 5.13.0集群几乎算是最新的版本了，但默认安装的Spark依旧是1.6版本，看来1.6的确经典啊。。但鉴于Spark2.0以后变化较大，为了方便新来员工技术发展，我决定把Spark1.6升级为spark2.2版本（2.3版本刚出不久，算是最新了）。经查阅官方文档，发现spark1.6和2.x是可以并行安装的，也就是说可以不用删除默认的1.6版
转载
2023-06-09 21:50:34
1370阅读
【CDH CM版本5.13以下】解决「通过Parcel对spark2版本升级无法发现服务」问题前言现象报错报错原因新升级方案操作留档准备版本升级升级验证版本回退回退验证后记 前言公司对于CDH5.10(注意这个版本)有三个物理集群（非云服务，自有机房），其中两个作为生产，一个作为测试，。生产集群目前都处于满负荷运载的状态，随着业务数据增生，计算方面的瓶颈已较为明显。 对于生产集群的性能提升团队已
# CDH 升级spark
## 整体流程
在CDH集群中升级Spark版本，需要经过以下步骤：
| 步骤 | 描述 |
| --- | --- |
| 1 | 下载新版本的Spark |
| 2 | 停止现有的Spark服务 |
| 3 | 备份现有的Spark配置文件 |
| 4 | 配置新版本的Spark |
| 5 | 启动新版本的Spark服务 |
| 6 | 验证新版本的Spar
安装环境如下：操作系统：CentOs 6.5Hadoop 版本：cdh-5.3.0
Spark 版本：cdh5-1.2.0_5.3.0
1. 安装首先查看 Spark 相关的包有哪些： $ yum list |grep spark
spark-core.noarch 1.2.0+cdh5.3.0+364-1.cdh5.3.0.p0.36.el6 @cdh
spar
转载
2023-08-08 12:27:57
136阅读
windows配置单机spark环境背景介绍：把python代码修改为pyspark，并在CDH集群上运行。 整个工作的流程大致如下：windows单机python代码，包括探索性数据分析、特征提取以及模型训练。在windows上配置PySpark环境，并将python代码改为pyspark配置CDH集群的python环境，提交测试在Spark集群上训练模型，以及模型工程化做预测本文主要介绍第二部
转载
2023-06-30 21:50:13
152阅读
严格来说不是将spark1.6升级到spark2.3，而是安装一个新的spark2.3一、JDK1.7升级到JDK1.8由于之前CDH中安装了spark1.6，为了适配，我安装jdk1.7，但是在spark2.3中jdk1.7的支持已经被移除了，所以我们第一件事需要将jdk版本升级到jdk1.81、停掉所有节点的cloudera manager/opt/cm-5.15.0/etc/init.d/c
升级主要分为两部分1.CM的升级、2.CDH的升级CM的升级###两种升级方法1.使用package
2.使用Tarballs升级方法，参照官方升级指引，Tarball中包含了Cloudera Manager Server和Cloudera Manager Agent
通常情况下升级CM和升级CDH是两个独立的过程，可以在不关闭CDH服务的情况下升级CM，然后再升级CDH，升级CM主要分为以下几
转载
2023-09-16 00:57:59
79阅读
升级需求
1.为支持spark kerberos安全机制
2.为满足impala trunc函数
3.为解决impala import时同时query导致impala hang问题
升级步骤
参考http://www.cloudera.com/content/cloudera/en/documentation/core/latest/topics
转载
2023-09-05 12:47:26
248阅读
• 利用现有的硬件资源，避免通过添加新硬件来进行迁移的的昂贵资源、时间和成本。 • 使用CDP私有云基础版中提供的新的流传输功能，对他们的体系结构进行现代化升级，以实时获取数据，以便快速将数据提供给用户。此外，客户希望使用CDP私有云基础版7.1.2附带的新Hive功能。• 客户还希望利用CDP PvC Base中的新功能，例如用于动态策略的Apache Ranger，用于血缘的Apac
转载
2023-08-18 13:21:27
74阅读
1. 升级概述1、CM（cloudera manager）升级概述： CM的安装是使用rpm包的安装，详情请看上述CM的安装，所以升级的时候也是rpm包的升级即可。2、CDH升级概述： CDH的安装是使用离线的Parcel包安装的，所以也使用Parcel来升级，需要先将Parcel包离线下载下来。2. 升级中需要注意的地方1．在生产环境中升级一定要注意记得备份数据库和HDF
转载
2023-07-04 14:35:03
184阅读
本文简单的介绍了 Spark SQL 3.0 与 Hive 2.1的结合，包括安装配置，spark-sql的使用，spark thriftserver的使用及 spark thriftserver 日志信息的查看。文中通过简单的案例串联起来了 spark thriftserver 和 hive的结合，有较强的参考价值。0.解压spark3.0.1的包将编译好的spark-3.0.1-bin-had
转载
2023-10-10 20:29:41
181阅读
## CDH版本升级Spark的流程
### 流程图
```mermaid
flowchart TD
A[克隆Spark源码] --> B[切换到要升级的版本分支]
B --> C[修改版本号]
C --> D[编译Spark]
D --> E[构建新版本的Spark安装包]
E --> F[停止当前运行的Spark服务]
F --> G[升级S
原创
2023-08-18 04:03:03
173阅读
文章目录一更换spark版本第一种方式第二种方式问题启动spark任务不成功spark集成carbondata从官网下载carbondata构建先决条件构建命令在YARN群集上的Spark上安装和配置CarbonData先决条件部署使用CarbonData Thrift服务器执行查询 一更换spark版本因为要使用的carbondata对spark版本有要求，项目中使用的carbondata版本
