hive无法连接端口 hive 9083端口

转载

davisl 2023-08-30 11:56:52

文章标签 hive无法连接端口 hadoop 常见端口大数据 xml 文章分类 Hive 大数据

HDFS

参数	描述	默认	配置文件	例子值
fs.default.name NameNode	NameNode RPC交互端口	8020	core-site.xml	hdfs://master:8020/
dfs.http.address	NameNode web管理端口	50070	hdfs-site.xml	0.0.0.0:50070
dfs.DataNode .address	DataNode 　控制端口	50010	hdfs-site.xml	0.0.0.0:50010
dfs.DataNode .ipc.address	DataNode 的RPC服务器地址和端口	50020	hdfs-site.xml	0.0.0.0:50020
dfs.DataNode .http.address	DataNode 的HTTP服务器和端口	50075	hdfs-site.xml	0.0.0.0:50075

MapReduce

参数	描述	默认	配置文件	例子值
mapred.job.tracker	job-tracker交互端口	8021	mapred-site.xml	hdfs://master:8021/
job	tracker的web管理端口	50030	mapred-site.xml	0.0.0.0:50030
mapred.task.tracker.http.address	task-tracker的HTTP端口	50060	mapred-site.xml	0.0.0.0:50060

yarn

下面代码涉及到的缩写：

RM ：ResourceManager

AM ：ApplicationMaster

NM ：NodeManager

参数	默认值	描述
yarn.resourcemanager.hostname		RM的hostname
yarn.resourcemanager.address	${yarn.resourcemanager.hostname}:8032	RM对客户端暴露的地址，客户端通过该地址向RM提交应用程序等
yarn.resourcemanager.scheduler.address	${yarn.resourcemanager.hostname}:8030	RM对AM暴露的地址，AM通过地址想RM申请资源，释放资源等
yarn.resourcemanager.webapp.address	${yarn.resourcemanager.hostname}:8088	RM对外暴露的web http地址，用户可通过该地址在浏览器中查看集群信息
yarn.resourcemanager.webapp.https.address	${yarn.resourcemanager.hostname}:8090	web https 地址
yarn.resourcemanager.resource-tracker.address	${yarn.resourcemanager.hostname}:8031	RM对NM暴露地址，NM通过该地址向RM汇报心跳，领取任务等
yarn.resourcemanager.resource-tracker.client.thread-count	50	处理来自NM的RPC请求的handler数
yarn.resourcemanager.admin.address	${yarn.resourcemanager.hostname}:8033	管理员可以通过该地址向RM发送管理命令等
yarn.resourcemanager.scheduler.class	org.apache.hadoop.yarn.server.resourcemanager .scheduler.capacity.CapacityScheduler	资源调度器主类
yarn.resourcemanager.scheduler.client.thread-count	50	处理来自AM的RPC请求的handler数
yarn.scheduler.minimum-allocation-mb	1024	可申请的最少内存资源，以MB为单位
yarn.scheduler.maximum-allocation-mb	8192	可申请的最大内存资源，以MB为单位
yarn.scheduler.minimum-allocation-vcores	1	可申请的最小虚拟CPU个数
yarn.scheduler.maximum-allocation-vcores	32	可申请的最大虚拟CPU个数
yarn.nodemanager.local-dirs	${hadoop.tmp.dir}/nm-local-dir	中间结果存放位置，可配置多目录
yarn.log-aggregation-enable	false	是否启用日志聚合
yarn.nodemanager.remote-app-log-dir	/tmp/logs	日志聚合目录
yarn.nodemanager.resource.memory-mb	8192	NM总的可用物理内存，以MB为单位。一旦设置，不可动态修改
yarn.nodemanager.resource.cpu-vcores	8	可分配的CPU个数
yarn.nodemanager.aux-services		NodeManager上运行的附属服务。需配置成mapreduce_shuffle，才可运行MapReduce程序

jobhistoryserver

jobhistoryserver的默认值我们可以在mapred-site.xml文件中进行修改

参数	默认值	描述
mapreduce.jobhistory.address	0.0.0.0:10020	JobHistory服务器IPC 主机：端口
mapreduce.jobhistory.webapp.address	0.0.0.0:19888	obHistory服务器Web UI地址，用户可根据该地址查看Hadoop历史作业情况
mapreduce.jobhistory.done-dir	${yarn.app.mapreduce.am.staging-dir}/history/done	在什么目录下存放已经运行完的Hadoop作业记录
mapreduce.jobhistory.intermediate-done-dir	${yarn.app.mapreduce.am.staging-dir}/history/done_intermediate	正在运行的Hadoop作业记录