安装ubuntu14.04.2集群环境下的cloudera5.4.7+CDH5

一,虚拟机

1,vSphere安装

在服务器上裸装vSphere6.0.0,在本机windows安装vSphere Client

2,ubuntu14.04单节点安装

在vSphere上新建1台虚拟机。之后安装ubuntu14.04完成后,注意将光驱配置修改为“客户端”配置,之后按enter继续完成ubuntu的安装。

进入系统后,修改/etc/network/interfaces ,之后重启网络服务失败。。汗啊,重启吧。

修改为国内源 vi /etc/apt/sources.list (没办法,还没装vim只能vi了)

sudo apt-get update

sudo apt-get install openssh-server

sudo apt-get install vim

3,ubuntu14.04复制

a,在vsphere上导出OVF模板(导出)




b,部署OVF模板(克隆)



二,安装Cloudera Manager

1,参考官网说明步骤

2,配置网络集群环境

虚拟机规划了ClouderaManager,CDH001,CDH002,CDH003

配置各自的hostname (各台机器的/etc/hosts里都要一致)

三,主要遇到的问题

1,新建虚拟机ubuntu14.04.01lts,bridge 模式 ping 不通网关。原因是需要使用管理员启动vm station,才有vmnet0
2,桥接模式下,配置正确,但是无法ping通网关。原因是选择网卡时,选择了自动,可能有多个网卡,选错了。方法是禁用或者手动选择。
3,2台虚拟机,都是桥接模式,第一台有eth0,第二台没有。在虚拟机配置中,增加一个网络适配器。删除第二台虚拟机中的网络适配器1,新建网络适配器2.
4,ubuntu 复制粘贴,vmware tools安装。
5,ubuntu 14.04 root 远程登录需要开启,修改文件 /etc/ssh/sshd_config
6,自己做ubuntu的源(提供给集群环境使用),使用apache2时,配置目录已改为/var/www/html
7,agent信号检测问题,安装ntp。
8, host acquiring installati on lock forever https://community.cloudera.com/t5/Cloudera-Manager-Installation/host-acquiring-installation-lock-forever/td-p/15292 you can remove /tmp/.scm_prepare_node.lock
9,集群安装时,agent节点安装较慢,之前试图使用ubuntu源,但是CDH2选到了LAN里的,CDH1选到了官网的。后来使用scp的方式把 agent 和 daemons两个包拷到了 /var/cache/apt/archives里。继续安装
10,agent节点需要安装jre,否则会造成 agent失败。
11,选择从主机安装
12,报heart beating错误,CDH1和CDH2需要修改config.ini listening_port为7182
13,报 error failed to connect to previous supervisor. 网上说有可能是权限问题,没有使用root安装。
https://groups.google.com/a/cloudera.org/forum/#!msg/scm-users/Gv8H-rfz1wQ/90jwLcYlDwIJ
14,hostname 3台机器必须一致,之前有2台填了2项 ip name,1台填了3列,因此错误;改为都是2项,ok
15,页面安装时,报jdbc driver cannot be found,sudo apt-get install libmysql-java
16,mysql是安装在CDH上的,不是CDH1上。填数据库时,要注意改主机名。
17,我使用了dns。/etc/hosts中如果包含规范名称,造成host -v -t A `hostname`时,host not found。
18,注意要sudo passwd root,不然可能会造成authentication fail 的错误
19,由于CDH002和CDH003是从CDH001克隆出来的,uuid一样,因此需要把CDH002和CDH003的uuid删除。现象就是集群里面机器有时是这个,有时是那个,始终只有3个中的一个。 http://www.aboutyun.com/forum.php?mod=viewthread&tid=11054
20,修改了机器的ip后。出现各种问号。管理portal上重启了cloudera manager service即可。
21,ntp有可能同步失败,/var/log/syslog里面有写。
23,一定要把windows和linux的用户改成一样,比如都是root,不然老是出权限问题
24,添加新机器时,已经是一个月后了,出了新版本。原来是5.4.7.1,现在是5.4.8.1。报agent版本不匹配。
解决方法:dpkg --purge cloudera-manager-agent
dpkg --purge cloudera-manager-daemons
dpkg -i cloudera-manager-daemons_5.4.7-1.cm547.p0.10~trusty-cm5_all.deb
dpkg -i cloudera-manager-agent_5.4.7-1.cm547.p0.10~trusty-cm5_amd64.deb
然后 restart agent
25,启动hdfs时,报错 Canary 测试无法在目录 /tmp/.cloudera_health_monitoring_canary_files 中创建文件。
经过查看日志,发现 Name node is in safe mode.
解决方法:sudo -uhdfs hdfs dfsadmin -safemode leave
26,hdfs报错,副本不足。经过查看,原来是CDH001,CDH002,CDH003是DataNode。改为了CDH003,CDH004,CDH005是DataNode。
解决方法:暂时规避,把CDH001和CDH002也添加上去成为DataNode。以后再看如果搞rep迁移
(补充:迁移了可以在namenode上使用下面命令即可解决:hadoop dfsadmin -refreshNodes)。
27,修改集群的机器后,cloudera manager数据库需要更新内容。 http://www.it165.net/admin/html/201509/6648.html
28,新增节点时,portal上报Name or service not known。实际是需要 sudo passwd root
29,修改了主机的hostname以后,添加该节点时,除了修改postgresql里面的内容以外,还需要修改配置文件。否则会报以下错误。
cd /etc/cloudera-scm-server/
grep -r "cloudera-manager.cdsf.com" *
然后修改找出来的db.properties文件 -- vim db.mgmt.properties
修改后重启 sudo service cloudera-scm-server restart

最好不要改cloudera-manager的hostname名字,否则可能出现各种问题。
30,cloudera manager的postgresql里面
31,当复制了cloduera manager时,postgresql的configs表里的hive和oozie等信息必须在 postgresql里有对应的database。如果没有,卸载了服务重新安装。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


文章浏览阅读2.3k次,点赞4次,收藏22次。最近安装了CARLA预编译版,总体过程感觉还是挺简单的,但是由于在网上找的参考资料并没有和自己遇到的情况完全一样的,所以把自己的安装过程记录下来,方便和自己一样的后来人进行安装,同时也自己作个记录留作备忘。其实预编译版的CARLA本身几乎不用什么命令行进行安装,主要步骤只有解压缩和拷贝文件,和极少的命令行安装操作。但是相关依赖以及其它的CARLA所使用的一些工具需要一起安装好,下面一起来看看安装步骤吧。_ubuntu22.04安装carla
文章浏览阅读6.3k次,点赞5次,收藏15次。在清华镜像中下载Ubuntu 20 安装包_ubuntu20下载
文章浏览阅读5k次。linux环境, python3.7.问题描述: 安装rally, pip3 install -r requirements.txt 时提示如下: 说明openssl 已安装。解决:1. pip3 install --upgrade pip , 结果输出如下 ..._error: command '/usr/bin/gcc' failed with exit code 1
文章浏览阅读1.1k次。自己刚踩坑装好的W11 WSL2 miniconda_wsl2 cuda
文章浏览阅读4.2k次,点赞4次,收藏17次。要安装这个 standalone的,会有一点区别(不识别 下面的 -localhost no)上面的命令会在~/.vnc/目录下生成一个 passwd文件。具体端口号,可以查看vncserver -list返回结果中的RFB PROT。作用是vncserver启动的时候运行这些命令,把桌面程序启动起来。如果希望用某个用户比如 demo登录,就用su切换到这个用户。桌面版默认就已安装,服务器版需要手动安装,并启动。关闭某个会话可以用下面的命令。远程地址输入ip:port。查看全部的vnc会话。_ubuntu vncserver
文章浏览阅读894次,点赞51次,收藏31次。在安卓使用vscode主要是连接一个远程的code-server服务,code-server服务安装在什么系统,调用的就是什么系统的环境,如这里使用ubuntu进行安装code-server,那使用的就是ubuntu环境,如需要go,python,java开发,需要在Ubuntu安装相关环境,创建的文件夹和项目也是在Ubuntu里面.这种方式其实在访问vscode的时候利于可以随时随地进行连接使用,且不受设备影响。
安装Ubuntu上超好用的终端Terminator。通过添加软件源、更新源、安装Terminator等步骤完成。
文章浏览阅读1.1k次,点赞83次,收藏74次。不要嫌弃Ubuntu的单调的终端界面啦,快来试试这些有意思的命令_ubuntu系统有趣的玩法
文章浏览阅读2.5k次。在ubuntu系统中,swap空间就是虚拟内存,所以考虑在磁盘空间富余的目录下设置虚拟内存swap文件,用来缓解内存不足的问题。通过上面的信息可以看到,/dev/vda2 目录下还剩余45G,那么就可以把swap文件生成在/dev/vda2目录下。在系统监控中发现,当数据库服务程序启动后,占用了大量内存空间,导致系统的剩余的内存往往只有几十MB。# bs 为块的大小,count 创建多少个块。# 执行命令后,删除创建的swap目录即可。#把生成的文件转换成 Swap 文件。2、创建一个swap文件。_ubuntu20修改swap大小
文章浏览阅读2.9k次,点赞2次,收藏10次。记录RV1126的SDK编译错误,以及解决处理_command exited with non-zero status 1
文章浏览阅读1.1w次,点赞22次,收藏101次。【记录】ubuntu20.04安装nvidia显卡驱动_ubuntu20.04安装nvidia显卡驱动
文章浏览阅读727次,点赞6次,收藏27次。在嵌入式Linux开发过程中,可能遇到uboot无法通过nfs服务从Ubuntu下载系统镜像(TTTTTT)的问题。如果你使用的是较新版本的Ubuntu,那么其**默认内核将不支持nfs2**!而**uboot仅支持到nfs2**,因此我们需要修改系统内核以及nfs配置文件,开启nfs2服务。**此问题非常棘手**,因为问题出现的时间太近,并且使用的人少。由于是2023年后才出现的问题,**chatgpt也无法解答**!本文参考网络上多篇博客资料,是解决此问题的最新办法。
ubuntu系统下安装软件的方法有多种,包括使用apt工具、deb软件包安装、源码编译安装以及通过软件中心安装。还有一种以 .run 后缀的软件包也可以在ubuntu系统下安装。具体的安装方法可以通过百度搜索来获取。
文章浏览阅读814次。本篇目的:Xubuntu如何安装pkg-configpkg-config是一个计算机软件包,用于帮助开发人员查找、定位和使用依赖库。它通常用于构建软件时,开发人员需要指定程序所依赖的外部库的位置和版本信息。使用pkg-config,开发人员可以很容易地查找、检索和导出这些依赖库的信息,从而简化了软件的构建过程。_ubuntu中怎么下载pkg-config
文章浏览阅读2k次。ubuntu创建共享文件夹_ubuntu20.04共享文件夹
文章浏览阅读2.9k次,点赞74次,收藏73次。对于有长期远程桌面需求的用户,建议将cpolar套餐升级到专业套餐,支持配置固定的公网TCP端口,且带宽也会相应的增大,支持更高效便捷的远程桌面连接Ubuntu系统。【cpolar内网穿透支持http/https/tcp协议,支持永久免费使用,不限制流量,无需公网IP,也不用进入路由器设置,操作简单。隧道创建成功后,点击左侧仪表盘的状态——在线隧道列表,查看xrdp隧道的所生成的公网TCP端口地址,复制下来。,使用cpolar内网穿透映射3389端口,生成公网TCP端口地址,实现在公网环境下,_ubuntu 局域网桌面
文章浏览阅读3.2k次。而在linux的ubuntu版本中,又多出两类用户:安装ubuntu系统的源用户xxx,其与root具有相同权限,仅在执行命令时,前面加sudo。在ubuntu中,用命令deluser username可以直接删除用户账号及家目录,而用centos7中的命令userdel -r username才能达到同样目的。在ubuntu中,没有moduser命令,centos7中的usermod修改用户信息的命令,同样可以用在ubuntu中。在系统中,创建新的用户或称为账号,一般需要多步操作。_ubuntu创建一个新用户
文章浏览阅读1.6w次,点赞4次,收藏23次。系统的许多日志文件都存储在 /var/log 目录中。你可以使用 ls /var/log 命令来列出可用的日志文件。/var/log/Xorg.0.log:包含 X 服务器的日志信息(图形界面)。打开DASH,搜索日志或者log,打开app,这个是/var/log的界面版。这将显示系统日志的末尾,并提供有关系统崩溃和错误的信息。/var/log/kern.log:包含内核日志信息。/var/log/dmesg:包含开机时的日志信息。/var/log/syslog:包含系统日志信息。_ubuntu查看系统日志
文章浏览阅读857次。首先将source.list复制为source.list.bak备份,然后将source.list内容改为需要的镜像源列表即可。Ubuntu采用apt作为软件安装工具,其镜像源列表记录在/etc/apt/source.list文件中。本节均为 Ubuntu 20.04 的镜像源列表。若为其他版本,将所有focal更改为其他版本代号即可。_apt 国内源