Hadoop 和Spark完全分布式部署1. 配置相关服务器1.1 修改主机名hostname master1.2 修改/etc/hosts文件, 添加如下配置，方便通过主机名访问服务器127.0.0.1 localhost
master_ip master
worker1_ip worker01
worker2_ip worker021.3 配置ssh免密登录cd ~/.ssh
ssh-keyg
转载
2023-08-25 22:34:13
66阅读
Spark数据读取对于存储在本地文件系统或分布式文件系统（HDFS、Amazon S3）中的数据，Spark可以访问很多种不同的文件格式，比如文本文件、JSON、SequenceFileSpark SQL中的结构化数据源，包括JSON和Hive的结构化数据源数据库和键值存储，自带的库，联结HBase或其他JDBC源格式名称结构化备注文本文件否普通的文本文件，每行一条记录JSON半结构化每行一条记录
转载
2023-07-12 10:10:20
89阅读
1、生成票据
1.1、创建认证用户
登陆到kdc服务器，使用root或者可以使用root权限的普通用户操作：
转载
2023-07-12 08:35:31
44阅读
1. HADOOP和spark的关系？如下图所示： Hadoop和 Spark两者都是大数据框架，但是各自存在的目的不尽相同。Hadoop实质上更多是一个分布式数据基础设施: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储, 也有计算处理的功能。Spark，则是一个专门用来对那些分布式存储的大数据进行处理的工具，它并不会进行分布式数据的存储。2.Hadoop主要包括哪些重要组
转载
2023-08-18 22:16:07
64阅读
1.前言E-MapReduce计划从EMR-3.18.1版本开始提供Spark Streaming SQL的预览版功能。Spark Streaming SQL是在Spark Structured Streaming的基础上做了进一步封装，方便用户使用SQL语言进行Spark流式分析开发。Spark Streaming SQL直接地透明地受惠于Spark SQL的优化带来的性能提升，同时也遵循Spa
情况说明：数据以parquet文件形式保存在HDFS上，数据中的某一列包含了日期（例如：2017-12-12）属性，根据日期对数据分区存储，如下图所示： 项目需求： 在项目中想要读取某一个月的数据，肿么办？ 解决方法： spark中读取本地文件的方法如下:sparkSession.read.parquet("hdfs://path") 1 方法一：&n
如何使用HDFS和Spark进行数据处理
作为一名经验丰富的开发者，我将教会你如何使用HDFS和Spark进行数据处理。首先，让我们来了解整个流程，并以表格展示每个步骤。
| 步骤 | 说明 |
| ------ | ------ |
| 步骤一 | 安装和配置Hadoop和Spark |
| 步骤二 | 将数据上传到HDFS |
| 步骤三 | 在Spark中读取和处理数据 |
| 步骤四
原创
2023-12-31 10:25:38
47阅读
在前面的博客中谈到了不使用分布式系统如何做并行计算。其中需要利用scp命令手动拷贝数据的地方有如下三处：(1)手动将待处理的数据从Server1拷贝到各个计算节点；(2)手动将可执行文件topN从Server1拷贝到各个计算节点；(3)手动将各节点的中间计算结果从每个节点拷贝到Node10。如何避免这种频繁的基于手动的数据移动，我们需要这样一个工具，它具有如下特点：集群中每一个节点都能看到相同的目
转载
2023-09-14 22:06:42
143阅读
Spark作为一个基于内存的大数据计算框架，可以和hadoop生态的资源调度器和分布式文件存储系统无缝融合。Spark可以直接操作存储在HDFS上面的数据：通过Hadoop方式操作已经存在的文件目录val path = neworg.apache.hadoop.fs.Path("hdfs://xxx"); val hdfs = org.apache.hadoop.fs.FileSystem.get
转载
2023-06-11 15:24:32
114阅读
- 特点：一次写入，多次读取（write-once-read-many），降低并发要求控制，监护数据聚合性，支持高吞吐量；将处理逻辑放置到数据附近（比将数据移向应用程序空间更好）数据写入严格限制为，一次一个写入程序。字节被附加到流的末尾，字节流总以写入顺序存储- HDFS的应用层序几口：HDFS提供了一个原生的Java应用程序接口（API）和一个针对这个Java API的原生C语言
封装器。另外可
转载
2023-07-14 10:48:43
105阅读
Spark大数据分析与实战：HDFS文件操作一、安装Hadoop和Spark二、启动Hadoop与Spark查看3个节点的进程masterslave1slave2Spark shell命令界面与端口页面三、HDFS 常用操作（1） 启动Hadoop，在HDFS 中创建用户目录“/user/hadoop”；Shell命令：[root@master ~]# hadoop fs -mkdir /user
转载
2023-08-15 19:04:02
200阅读
在分布式计算中，为了提高计算速度，数据本地性是其中重要的一环。 不过有时候它同样也会带来一些问题。一.问题描述在分布式计算中，大多数情况下要做到移动计算而非移动数据，所以数据本地性尤其重要，因此我们往往也是将hdfs和spark部署在相同的节点上，有些人可能会发现即使他已经这么做了，在spark的任务中的locality还是ANY，这说明所有的数据都是走的网络IO。在没有没有shuffle的情况
一、实现功能dataframe保存到指定路径，一般都是一个文件夹，具体保存文件是文件夹内部的 part-00000*文件。对于需要指定最终保存文件的场景，本身api无法实现。本文提供保存到指定文件夹内，并且指定最终文件名称的两种方法。二、方法1：直接使用hdfs的api实现修改文件名称1.实现思路首先，DataFrame先减少分区到1个，再转换为RDD，然后写入hdfs，因为DataFrame直接
转载
2023-08-07 00:42:10
562阅读
1.写在前面在spark streaming+kafka对流式数据处理过程中，往往是spark streaming消费kafka的数据写入hdfs中，再进行hive映射形成数仓，当然也可以利用sparkSQL直接写入hive形成数仓。对于写入hdfs中，如果是普通的rdd则API为saveAsTextFile()，如果是PairRDD则API为saveAsHadoopFile()。当然高版本的sp
转载
2023-07-06 17:21:04
203阅读
本次实验相关信息如下:
操作系统:Ubuntu 14
Hadoop版本:2.4.0
Spark版本:1.4.0
运行前提是Hadoop与Spark均已正确安装配置
2、在Linux中生成一个文件test.txt，保存在/home/testjars/目录下
hadoop fs -put /
下面通过启动Spark-Shell，并且使用Scala语言开发单词计数的Spark程序，现有文本文件words.txt(读者需要在本地创建文件并上传至指定目录)在HDFS中的/spark/test路径下，且文本内容如下。hello hadoophello sparkhellp itcast如果使用Spark Shell来读取HDFS中的/spark/test/ words.txt文件，具体步骤如下
转载
2023-06-13 23:33:46
266阅读
Hadoop
部分参考《hadoop大数据实战手册-精英版》-有很多命令查找语句 详细： hadoop分为几大部分：yarn负责资源和任务管理、hdfs负责分布式存储、map-reduce负责分布式计算 YARN总体上仍然是master/slave（主从）结构Hdfs文件系统
HDFS 部分由NameNode、SecondaryNameNode和DataNode组成。 HDFS 文件的大小可以大
转载
2023-07-27 20:38:22
120阅读
Spark读取HDFS或者AFS等文件系统文件Spark读取文件有很多方法，我这里主要介绍一下读取非结构化的文件的两种方式，针对多文件读取，单文件读取也是一样的。方案一：spark的textFile方法，也是最简单的方案，支持通配符
转载
2023-08-31 09:35:33
186阅读
一、RDD算子
RDD被创建后是只读的，不允许修改。Spark提供了丰富的用于操作RDD的方法，这些方法被称为算子。一个创建完成的RDD只支持两种算子：转化（Transformation）算子和行动（Action）算子。二、准备工作（一）准备文件1、准备本地系统文件在/home目录里创建words.txt
2、把文件上传到HDFS将words.txt上传到HDFS系统的/park目录里
转载
2023-08-18 22:38:22
133阅读
注：SparkSQL+Hbase+HDFS实现SQL完全封装(二) 是在一的基础上做了一些优化。1.描述：通过读取SQL脚本文件内的SQL脚本，实现在大数据平台中的业务处理，对于没有JAVA或是语言基础的同学来说，通过封装完全可以只写SQL就能实现业务的处理。注： 优点：部署后团队其它人员只要会写SQL就行。 缺点：优
