Cloudera Manager中安装部署Livy服务

article/2025/10/13 7:53:42
  1. 制作Livy的Parcel包和csd文件

  2. 将Parcel包和manifest.json文件部署到httpd服务中

    [root@node01 ~]# mkdir -p /var/www/html/livy
    [root@node01 ~]# cd /var/www/html/livy
    [root@node01 livy]# cp /root/github/cloudera/cm-livy-scripts/LIVY-1.0-xenial.parcel ./
    [root@node01 livy]# cp /root/github/cloudera/cm-livy-scripts/manifest.json ./
    [root@node01 livy]# ll
    total 90956
    drwxr-xr-x 2 root root     4096 Apr  9 17:56 ./
    drwxr-xr-x 3 root root     4096 Apr  9 17:54 ../
    -rw-r--r-- 1 root root 93121920 Apr  9 17:54 LIVY-1.0-xenial.parcel
    -rw-r--r-- 1 root root      313 Apr  9 17:55 manifest.json
    

    浏览器访问是否部署成功
    在这里插入图片描述

  3. 将生成的csd文件,复制到cloudera-manager-server服务所在节点的/opt/cloudera/csd目录下

    [root@node01 ~]# cd /opt/cloudera/csd/
    [root@node01 csd]# cp /root/github/cloudera/cm-livy-scripts/LIVY-1.0.jar ./
    
  4. 重启cloudera-scm-server服务

    [root@node01 ~]# /opt/cm-5.12.1/etc/init.d/cloudera-scm-server restart
    
  5. 配置远程Parcel存储库 在这里插入图片描述
    在这里插入图片描述

  6. 重启Cloudera Management Service
    在这里插入图片描述

  7. 下载分发激活
    在这里插入图片描述
    在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

  8. 部署Livy
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  9. 遇到的问题
    Error found before invoking supervisord: 'getpwnam():name not found livy'
    在这里插入图片描述
    解决办法:

    1. 在Livy REST Server所在服务器上增加livy用户及用户组
      groupadd livy
      useradd livy -g livy
      chown livy:livy /var/log/livy
      
    2. 在HDFS的core-site.xml 中添加一下配置:
      <property><name>hadoop.proxyuser.livy.groups</name><value>*</value>
      </property>
      <property><name>hadoop.proxyuser.livy.hosts</name><value>*</value>
      </property>
      
      在这里插入图片描述

    没有如下Livy Server Web界面
    在这里插入图片描述
    解决办法:
    更换Livy的CSD文件,重新启动CM。
    下载地址:

    链接:https://pan.baidu.com/s/1IPvqAtrNUSPVwE02pXUnhw 
    提取码:0skh 
    

http://chatgpt.dhexx.cn/article/dhise2eL.shtml

相关文章

livy在交互式查询中的深度定制

随着SparkSql在大规模数据分析中的运用越来越广&#xff0c;在大数据分析平台中集成SparkSql提供用户交互式sql查询的功能已经成为了很多开发者的选择&#xff0c;而将SparkSql作为rest服务有两种方式: jobserver和livy&#xff1b;其中livy作为Apache的孵化项目&#xff0c;其…

livy安装文档

1、下载Livy(可以自己下载源代码进行编译) http://livy.incubator.apache.org/download/ 源代码在git 上能够找到apache 版本和cloudera 两个版本 https://github.com/cloudera/livy 有比较详细的说明文档。 2、将livy的压缩包放到Linux 主机上&#xff0c;并解压 3、配…

Hue编译安装适配sparksql(hue+livy+sparksql+pyspark)

一、前言 本篇文章带大家一起编译hue、并使用hue适配livyspark&#xff0c;通过结合Hue、Livy和Spark SQL&#xff0c;可以在一个友好的Web界面中编写和执行SQL查询&#xff0c;并在远程的Spark集群上运行。 1、Hue 介绍 Hue (Hadoop User Experience)是一个开源的Apache Ha…

Apache Livy 安装部署使用示例

Livy 安装部署使用示例 1. Apache Livy 简介2. 安装前置要求3.下载安装包配置相关配置文件4. 启动服务配置使用5.提交任务获取运行结果6.拓展参考 1. Apache Livy 简介 官网&#xff1a;https://livy.apache.org/ Livy是一个提供rest接口和spark集群交互的服务。它可以提交sp…

Livy REST API使用教程

Livy概述 用过Spark的朋友对Livy一定不陌生&#xff0c;Livy是Apache Spark下的一个REST服务&#xff0c;通过Livy&#xff0c;你只要可以发送Http请求&#xff0c;就可以提交Spark任务。Livy在很多Spark数据平台上都作为一个提交任务的重要工具&#xff0c;你可以不知道Livy是…

最全livy代码实战

livy分析应用实战 Github地址&#xff1a;最全livy代码实战 Apache Livy提供Rest service来与Apache Spark进行交互&#xff0c;通过Rest interface或RPC client来简化spark job和spark code snippet的提交&#xff0c;同步或异步获取结果&#xff0c;并提供对spark context的管…

livy部署和使用

部署 使用版本&#xff1a;apache-livy-0.7.1 环境&#xff1a;spark(配置中已添加hive-site.xml) , hive ,hadoop(hdfsyarn) 基于centos livy只需要配置两个文件(livy-env.sh,livy.conf)&#xff1a; livy-env.sh 中添加环境变量配置 export JAVA_HOME/usr/local/jdk/jdk1.8…

Spark开源REST服务——Apache Livy(Spark 客户端)

文章目录 一、概述二、Apache Livy模块介绍1&#xff09;Client2&#xff09;router3&#xff09;权限管理4&#xff09;生成 Spark App5&#xff09;交互式 Driver6&#xff09;状态数据存储 三、Apache Livy架构1&#xff09;Livy架构2&#xff09;Livy执行作业流程 四、环境…

spark系列-应用篇之通过livy提交Spark任务

#前言 上一篇使用yarn api的提交spark任务比较麻烦&#xff0c; 这次我们使用livy来提交spark任务。livy的使用十分简单&#xff0c;功能上比yarn api还要强大&#xff0c;支持提交spark代码片断&#xff0c;session共享 #安装 下载livy0.5.0&#xff0c;下载完成后进行解压。…

Spark Livy 指南及livy部署访问实践

背景&#xff1a; Apache Spark 是一个比较流行的大数据框架、广泛运用于数据处理、数据分析、机器学习中&#xff0c;它提供了两种方式进行数据处理&#xff0c;一是交互式处理&#xff1a;比如用户使用spark-shell&#xff0c;编写交互式代码编译成spark作业提交到集群上去执…

Livy简单使用 架构解读

Livy使用 —— 关于Session的操作 官网案例&#xff1a;http://livy.incubator.apache.org/examples/ REST API&#xff1a;http://livy.incubator.apache.org/docs/latest/rest-api.html 通过REST API的方式去获取到session&#xff0c;返回活的交互式session 打开Postman&a…

【云原生】Apache Livy on k8s 讲解与实战操作

文章目录 一、概述二、开始编排部署1&#xff09;部署包准备1&#xff09;构建镜像2&#xff09;创建livy chart模板3&#xff09;修改yaml编排4&#xff09;开始部署5&#xff09;测试验证6&#xff09;卸载 一、概述 Livy是一个提供Rest接口和spark集群交互的服务。它可以提交…

Livy:基于Apache Spark的REST服务

原文&#xff1a;http://geek.csdn.net/news/detail/208943 Apache Spark提供的两种基于命令行的处理交互方式虽然足够灵活&#xff0c;但在企业应用中面临诸如部署、安全等问题。为此本文引入Livy这样一个基于Apache Spark的REST服务&#xff0c;它不仅以REST的方式代替了Spar…

Livy安装使用

本次部署的livy是0.7.0版&#xff0c;zip包下载地址&#xff1a;https://mirrors.tuna.tsinghua.edu.cn/apache/incubator/livy/0.7.0-incubating/apache-livy-0.7.0-incubating-bin.zip 安装java jdk1.8 步骤&#xff1a; 一、将下载好的livy的zip包用命令unzip去解压(如果…

livy的安装使用

2019独角兽企业重金招聘Python工程师标准>>> livy简介 Livy是一个提供rest接口和spark集群交互的服务。它可以提交spark job或者spark一段代码,同步或者异步的返回结果;也提供sparkcontext的管理,通过restfull接口或RPC客户端库。Livy也简化了与spark与应用服务的交…

Livy任务提交源码解析

文章目录 简介任务路由代码断任务远程Driver上建立RpcServerLivyServer接收客户端提交代码断任务LivyServer向远程Driver的RpcServer提交任务远程Driver的RpcServer接收任务Driver执行代码断任务Batch任务LivyServer接收batch任务创建BatchSession以提交Spark任务创建SparkYarn…

livy简介

livy简介 什么是livy Livy通过提供REST服务来简化与Spark集群的交互。它可以通过job或者代码片段的方式来提交Spark任务&#xff0c;并同步或者异步地获得任务的结果&#xff0c;以及管理spark context&#xff0c;上述功能通过简单的REST接口或者RPC服务来实现。livy也可以简…

livy部署及应用

一、介绍 Livy把spark交互式和批处理都搬到了web上&#xff0c;提供restful接口&#xff0c;Livy一方面接收并解析客户端提交的REST请求&#xff0c;转换成相应的操作&#xff0c;另一方面它管理着客户端所启动的spark集群 Livy会为用户运行多个session&#xff0c;每个sessio…

C/C++ 实现字符串IP与整数型IP的相互转换

#include <stdio.h> int main() {char ip[32] "192.168.1.151"; //IP值char scIPAddress[32] ""; //存储字符串IPunsigned int nIPAddress 0; //存储整形IPint nTmpIP[4] {0}; //分割IPint i0;//字符串转整形sscanf(ip,"%d.%d.%d.%…

数字字符串转化成 IP 地址

数字字符串转化成 IP 地址 1、参考资料 https://www.nowcoder.com/practice/ce73540d47374dbe85b3125f57727e1e 2、题目要求 题目描述 现在有一个只包含数字的字符串&#xff0c;将该字符串转化成IP地址的形式&#xff0c;返回所有可能的情况。 例如&#xff1a; 给出的字…