上文讲解了deltalake 的update，delete及merge的基本操作。鉴于merge操作的复杂性，本文主要对其进行展开讲解。1.merge算子操作语法merge操作的sql表达如下：import io.delta.tables._import org.apache.spark.sql.functions._
DeltaTable.forPath(spark, "/data/event
目录一、背景二、环境及测试场景①、环境②、测试场景三、复现历程①、场景探索②、测试用例（写数据）1. rename表（hive引擎）2. 观察rename后表结构3. 记录下rename后的目录状态4. jar包 insertInto写入第二批数据③、测试用例（读数据）1. hive引擎读数据2. spark引擎读数据④、测试用例（删表）1. hive引擎删表2. spark引擎删表？？？此处有
问题描述集群默认计算引擎是 hive ，这两天自己试了一下 hive on spark 发现一个奇怪现象，首先 hive 引擎中文做简单查询或者聚合查询都正常，使用 spark 引擎简单查一个表的中文字段也没事，但是只要对 中文字段进行 group by 操作就乱码了问题解决在开启 spark session 后 加两个设置就好了set spark.executor.extraJavaOption
转载
2023-06-17 20:07:35
213阅读
spark配置参数spark.executor.cores表示每个Executor可利用的CPU核心数。其值不宜设定过大，因为Hive的底层以HDFS存储，而HDFS有时对高并发写入处理不太好，容易造成race condition。设定在3~6之间比较合理。spark.executor.memory/spark.yarn.executor.memoryOverhead这两个参数分别表示每个Exec
转载
2023-09-01 16:25:33
65阅读
Spark中数据倾斜的现象，原因，后果？ 答：现象： 多数Task任务执行速度较快，少数Task执行时间很长，或者等待很长时间后提示你内存不足，执行失败。原因：1.数据问题 a.数据本身key分布不均衡，大量key值为空 b.key值设置不合理2.spark的使用问题 a.shuffle时，task任务的并发度不够 b.设置计算方式可能有错误.后果： 1.Spark中的stage执行时间受制于最后
转载
2023-12-20 06:40:51
50阅读
在使用Spark中通过各种算子计算完后各种指标后，一般都需要将计算好的结果数据存放到关系型数据库，比如MySQL和PostgreSQL等，随后配置到展示平台进行展现，花花绿绿的图表就生成了。下面我讲解一下，在Spark中如何通过c3p0连接池的方式对MySQL进行增加改查（CRUD），增加（Create），读取查询（Retrieve），更新（Update）和删除（Delete）。项目github地
转载
2023-09-03 13:18:21
61阅读
知识点1：Spark访问HIVE上面的数据 配置注意点：. 1.拷贝mysql-connector-java-5.1.38-bin.jar等相关的jar包到你${spark_home}/lib中（spark2.0之后是${spark_home}/jars下），不清楚就全部拷贝过去2.将Hive的配置文件hive-site.xml拷贝到${spark_home}/conf目录下
3.
转载
2023-06-19 11:47:15
958阅读
1、maven依赖pom.xml文件 <?xml version="1.0" encoding="UTF-8"?> <project xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns="http://maven.apache.or
转载
2021-04-22 16:55:00
737阅读
2评论
最近实践过程中引发了很多思考，其中Spark-SQL、Hive on Spark、Spark on Hive这三者的关系是其中非常有意思且容易混淆的的概念。相信很多刚接触spark的童鞋还没理解spark怎么回事的时候就看到这三个概念更是以一头雾水。特地单独拎出来以梳理清楚记录下来。其实其中关系非常简单，先来认识几个概念：1，Spark RDD计算引擎2，Spark SQL的SQL语法解析3，Hi
转载
2023-09-04 09:40:36
110阅读
供稿 | eBay ADI-Carmel Team作者 | 金澜涛编辑 | 顾欣怡本文7309字，预计阅读时间22分钟导读本文介绍eBay Carmel团队利用Delta Lake，使Spark SQL支持Teradata的Update/Delete语法。主要从源码角度介绍了CRUD操作的具体实现和优化，以及delta表的管理工作。希望对同业人员有所启发和帮助。摘要大数据处理技
背景：Hive版本：1.2.1，Spark 版本：2.3.0, 实时程序逻辑比较简单，从 Kafka 消费数据，写到 Hive 表。数据量级上亿，SparkStreaming 的 bath time 为 1 min, 在某一个时刻开始出现任务堆积，即大量任务处于 Queued 状态，卡在了某个 job，最长延迟时间为 1.7 h。查看 job 状态一直处于 processing, 但是发现该
转载
2023-07-21 19:45:01
147阅读
须知1. toplink
2. saveAsTable是DataFrameWriter的方法，DFW会有mode和option，mode统一有4种，但saveAsTable没有option，可以在上面的官文中查看某方法有哪些option3. saveAsTable执行后，原来hive的表的元数据会变，TBLPROPERTIES会增加很多spark相关的属性。但分区字段会变成普通字段，需要使用Dat
转载
2023-07-12 21:38:40
341阅读
Spark读取Hive数据的两种方式与保存数据到HDFSSpark读取Hive数据的方式主要有两种1、 通过访问hive metastore的方式，这种方式通过访问hive的metastore元数据的方式获取表结构信息和该表数据所存放的HDFS路径，这种方式的特点是效率高、数据吞吐量大、使用spark操作起来更加友好。2、 通过spark jdbc的方式访问，就是通过链接hiveserver2的方
转载
2023-07-04 09:45:09
224阅读
1. SparkSQL的运行流程1.1 SparkRDD的执行流程回顾1.2 SparkSQL的自动优化RDD的运行会完全按照开发者的代码执行， 如果开发者水平有限，RDD的执行效率也会受到影响。而SparkSQL会对写完的代码，执行“自动优化”， 以提升代码运行效率，避免开发者水平影响到代码执行效率。这是因为：RDD：内含数据类型不限格式和结构。 DataFrame：100% 是二维表结构，可以
转载
2023-09-15 22:22:15
31阅读
大家好，我是后来。Hive 作为大数据中数仓的重要框架，从速度贼慢的MR引擎，再到Tez，到如今的Spark，速度一直在提升。虽然一条Hive SQL会转换成Spark的几个job，以及会生成多少Stage，我们还不好判断，但是Spark如何读取Hive表后会有多少个Task呢？我们知道Spark的Task数由partitions决定，那么又如何决定呢？Hive在读取不可切片文件的时候只能由单个节
1.启动spark-shell 需要加上mysql jar位置spark-shell --master local[2] --jar
原创
2022-08-01 20:30:05
454阅读
数据倾斜是大数据计算中一个最棘手的问题，出现数据倾斜后，Spark 作业的性能会比期望值差很多。数据倾斜的调优，就是利用各种技术方案解决不同类型的数据倾斜问题，保证 Spark 作业的性能。一，数据倾斜原理一个 Spark 作业，会根据其内部的 Action 操作划分成多个 job，每个 job 内部又会根据 shuffle 操作划分成多个 stage，然后每个 stage 会分配多个 task
转载
2023-08-08 13:34:32
72阅读
1、Hive表关联查询，如何解决数据倾斜的问题？（☆☆☆☆☆）1）倾斜原因：map输出数据按key Hash的分配到reduce中，由于key分布不均匀、业务数据本身的特、建表时考虑不周、等原因造成的reduce 上的数据量差异过大。（1）key分布不均匀;（2）业务数据本身的特性;（3）建表时考虑不周;（4）某些SQL语句本身就有数据倾斜;如何避免：对于key为空产生的数据倾斜，可
一．Hive on Spark的定义 Hive on Spark是由Cloudera发起，由Intel、MapR等公司共同参与的开源项目，其目的是把Spark作为Hive的一个计算引擎，将Hive的查询作为Spark的任务提交到Spark集群上进行计算。通过该项目，可以提高Hive查询的性能，同时为已经部署了Hive或者Spark的用户提供了更加灵活的选择，从而进一步提高Hive和Spark的普及
转载
2023-08-04 23:24:57
270阅读
此前，我已经搭建了 hive on spark, 不 准确说 是 spark on hive, 我可以在spark 中愉快得玩耍 hive,这也符合我当时得需求：hive on spark集群环境搭建然而，通过hive客户端连接，hive 使用spark 引擎时，却报了 我无法解决得错误：hive on spark异常Failed to create Spark client for Spark
