tez-ui docker镜像打包配置并部署K8S

article/2025/11/1 3:40:22

一、下载tez ui安装包并修改配置文件

1.1 选择版本下载, tez-ui下载官方地址

mkdir tez-ui && cd tez-ui
wget https://repository.apache.org/content/repositories/releases/org/apache/tez/tez-ui/0.9.1/tez-ui-0.9.1.war

1.2 解压war包,修改配置文件

# 解压
unzip tez-ui-0.9.1.war
# 修改配置文件  将ENV.hosts.timeline和ENV.hosts.rm修改为对应地址
vim config/configs.envENV = {hosts: {/** Timeline Server Address:* By default TEZ UI looks for timeline server at http://localhost:8188, uncomment and change* the following value for pointing to a different address.*/timeline: "https://xxxx:8190",/** Resource Manager Address:* By default RM REST APIs are expected to be at http://localhost:8088, uncomment and change* the following value to point to a different address.*/rm: "https://xxxx:8090",...

timeline地址可在yarn配置文件查看yarn.timeline-service.webapp.https.address
在这里插入图片描述
rm地址可在yarn配置文件查看yarn.resourcemanager.webapp.https.address
在这里插入图片描述

二、生成docker镜像

2.1 编写对应Dockerfile
vim Dockerfile

# 基于镜像基础
FROM tomcat# 维护者信息
MAINTAINER name dw# 创建tez ui目录
RUN mkdir -p /usr/local/tomcat/webapps/tez-ui# 复制文件到tez-ui目录
COPY . ./webapps/tez-ui/# 启动
CMD ["catalina.sh", "run"]

2.2 打包镜像并上传到镜像仓库

docker build -t xxxx/tez-ui:v0.9.1 .
docker push xxxx/tez-ui:v0.9.1

2.3 运行镜像测试是否有问题

docker run --name tez-ui -p 8333:8080 -d xxxx/tez-ui:v0.9.1

此时应该可以通过http://IP:8333/tez-ui/ 访问
在这里插入图片描述

三、配置tez、yarn、hive

3.1 修改tez-site

tez.am.view-acls=*
tez.am.tez-ui.history-url.template=__HISTORY_URL_BASE__?viewPath=/#/tez-app/__APPLICATION_ID__
tez.history.logging.service.class=org.apache.tez.dag.history.logging.ats.ATSHistoryLoggingService
tez.tez-ui.history-url.base=http://xxxx:8333/tez-ui/

在这里插入图片描述

在这里插入图片描述

3.2 修改yarn-site

yarn.timeline-service.enabled=true
yarn.timeline-service.http-cross-origin.enabled=true
yarn.resourcemanager.system-metrics-publisher.enabled=true

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
3.3 修改hive配置

hive.server2.enable.doAs=true
hive.exec.failure.hooks=org.apache.hadoop.hive.ql.hooks.ATSHook
hive.exec.post.hooks=org.apache.hadoop.hive.ql.hooks.ATSHook,org.apache.atlas.hive.hook.HiveHook
hive.exec.pre.hooks=org.apache.hadoop.hive.ql.hooks.ATSHook
hive_timeline_logging_enabled=true

重启docker后服务应该可用了

四、部署至K8S

4.1 编写k8s文件

创建命名空间

kubectl create ns tezui

创建deployment文件
vim tezui-deployment.yaml

apiVersion: apps/v1
kind: Deployment
metadata:labels:app: tezuiname: tezuinamespace: tezui
spec:replicas: 1selector:matchLabels:app: tezuitemplate:metadata:labels:app: tezuispec:containers:- image: xxxx/tez-ui:v0.9.1name: tezui-containerports:- containerPort: 8080
kubectl apply -f tezui-deployment.yaml 

创建service文件
vim tezui-service

apiVersion: v1
kind: Service
metadata:name: tezui-servicenamespace: tezui
spec:type: NodePortports:- port: 8080nodePort: 30001selector:app: tezui
kubectl apply -f  tezui-service

现在可以通过k8s节点的30001端口访问了。http:xxxx:30001/tez-ui/
有需要的话再加上ingress使用域名代理


http://chatgpt.dhexx.cn/article/XPOuUogq.shtml

相关文章

Apache Tez 了解

转发自这位大佬博客:https://www.cnblogs.com/rongfengliang/p/6991020.html 你可能听说过Apache Tez,它是一个针对Hadoop数据处理应用程序的新分布式执行框架。但是它到底是什么呢?它的工作原理是什么?哪些人应该使用它&#xf…

Tez - 安装

一、Tez 安装 1 下载地址 https://mirrors.tuna.tsinghua.edu.cn/apache/tez/0.9.0/ 2 二进制包安装 2.1 解压并重命名 [roothadoop01 ~]# tar -zxvf /home/apache-tez-0.9.0-bin.tar.gz -C /usr/local/ [roothadoop01 ~]# mv /usr/local/apache-tez-0.9.0-bin/ /usr/local/t…

tez详解

1 tez的概览 1.1 tez介绍 1.1.1 介绍 tez是一个apache的开源项目,意在构建一个应用框架,能通过复杂任务的DAG来处理数据。它是基于当前的hadoop yarn之上,换句话就是yarn为其提供资源。 tez主要的两个设计目标: 增强终端用户使用: 灵活…

TEZ深入理解

简介 Tez是Apache开源的支持DAG作业的计算框架,是支持HADOOP2.x的重要引擎。它源于MapReduce框架,核心思想是将Map和Reduce两个操作进一步拆分,分解后的元操作可以任意灵活组合,产生新的操作,这些操作经过一些控制程序…

Tez 简介

目录 一、Tez简介 二、Tez UI界面 三、Tez 日志 一、Tez简介 1.1 Tez 是支持 DAG 作业的开源计算框架,它可以将多个有依赖的作业转换为一个作业从而大幅提升 DAG 作业的性能。 从本质上讲,Tez 组成非常简单: 数据处理管道引擎&#xff…

TEZ介绍及使用

TEZ介绍及使用 TEZ是什么? Tez是支持DAG作业的开源计算框架,它可以将多个有依赖的作业转换为一个作业从而大幅提升DAG 作业的性能。 Tez源于MapReduce框架,核心思想是将Map和Reduce两个操作进一步拆分,即Map被拆分成Input、Proc…

BACnet安全连接(BACnet/SC) 介绍

BACnet安全连接(BACnet/SC)是ASHRAE BACnet委员会最近发布的BACnet协议的增编。是在增编135-2016bj中介绍的。它基于一个安全的、加密的数据链路层。 专门设计以满足不同IP基础结构。对BACnet通信使用标准化的、通常已经存在的IP网络基础设施的需求正在增加,BACnet/…

BACnet学习笔记

BACnet是一种用于自动化建筑和控制网络的数据通信协议。(Building Automation and Control Networks) 自控网络通信协议基本体系: CAN -- 只定义了通信标准 BACnet BAC Model and Message Network Layer LANs The protocol can be viewed as a matrix of layers. Propertie…

BACnet协议简要说明及组网简介

主题概要BACnet协议BACnet协议简要说明,组网简介编辑时间新建20160217序号参考资料1BACnet协议正文1995版2http://www.bacnet.org/Tutorial/BACnetIP/ 1 协议说明 BACnet协议(A Data Communication Protocol for Building Automation and Control Networks)&#…

BACnet协议详解——应用层说明一

文章目录 写在前面1. 应用层模型1.1 需确认的应用层服务1.2 无需确认的应用层服务2 BACnet报文的分段2.1 报文分段规则2.1.1 APDU数据流的分段规则2.1.2 APDU最大长度的确定2.1.3 可接受的最大分段数2.2 分段协议控制信息(PCI)写在前面 年关将至,事情有点多,耽误了原本定好…

BACnet协议读取与发送

BACnet协议读取与发送 注意我的提问:更新开发环境BACnet相关基础知识BACnet格式BACnet代码BACnet设备查找BACnet设备读取BACnet写入操作AND其他...**BACpypes库中没有提供非标准数据类型接口!!!!!** 结束 因…

Bacnet协议报文格式详解(一)

系统实现基于BACnet/IP(又称B/IP)网络进行通讯。BACnet虚拟链路层(BVLL)提供了BACnet网络层和某指定的通讯子系统的接口,本文指定了BACnet虚拟链路控制(BVLC)要求支持的定向和广播信息。本实现关…

bacnet (收集)

嵌入式系统中BACnet-MS/TP协议栈的实现 一个BACnet设备由一个网络号码和一个MAC地址唯一确定 bacnet MS/TP 走的是485网络 https://www.eefocus.com/mcu-dsp/226727 1 引言 20世纪90年代,Internet经历了爆炸性发展,成为垄断全球的计算机网络。以Cisc…

BACnet

BACnet通讯协议(一) BACnet协议(A Data Communication Protocol for Building Automation and Control Networks),是由美国采暖、制冷和空调工程师协会(ASHRAE)制定的一个楼宇自动控制技术标准文件,BACnet协议最根本的目的是提供…

BACnet协议

BACnet协议 BACnet协议层包括物理层,链路层,网络层,应用层和BACnet安全层。 我们知道BACnet是用于楼宇自动化和控制网络的简短形式的数据通信协议。BACnet是主要行业供应商产品中常用的自动化和控制协议之一,如江森自控&#xff…

BACnet协议详解——初识BACnet架构

文章目录 BACnet协议架构BACnet简化的架构简化的四层BACnet体系结构选取BACnet 网络的拓扑结构安全最后声明BACnet协议架构 国际标准化组织在制定计算机网络通讯协议标准时定义了一个模型,称为开放系统互联参考模型(OSI(ISO 7498)。模型的目的是解决计算机与计算机之间普遍…

BACnet基础入门

BACnet入门:一、简单了解 前言协议栈层级与拓扑结构1.层级体系2.拓扑结构 协议栈的相关内容1.应用层a.设备b.对象c.属性e.服务f.扩展g.安全h.互操作基本模块(BIBBs)i.一致性声明(PICS)j.其他 2.网络层3.数据链路与物理层 工具源码参考 前言 …

BACnet协议介绍

BACnet为BuildingAutomation andControlnetworks的简称,台湾通常翻译为“建筑自动化控制网路通讯协定”,而中国大陆则译为“楼宇自动化与控制网络”。 前言 BACnet是用于智能建筑的通信协议,是国际标准化组织(ISO)、美…

认识BACnet协议

一、什么是BACnet? BACnet,Building Automation and Control networks的简称,即楼宇自动化与控制网络。是用于智能建筑的通信协议。 一般楼宇自控设备从功能上讲分为两部分:一部分专门处理设备的控制功能;另一部分专…

【块存储block源码分析】 linux内核模块ceph nbd源码分析

jewel 版本支持 rbd-nbd 的特性,需要 map 支持较多特性的 rbd image 时,可以使用该 nbd driver NBD(Network Block Device) 可以将一个远程主机的磁盘空间,当作一个块设备来使用,就像一块硬盘一样。NBD是一个内核模块,…