Hadoop 常见问题合集

hadoop

发布日期: 2015-06-21

1. WARN org.apache.hadoop.hdfs.server.datanode.DataNode: IOException in offerService java.io.IOExce

出现这个问题多数是由于多次 format 后的文件系统版本不同造成的

解决办法：

删除所有有关名字空间和 secondaryname 的文件，再删除有关hbase的文件；
然后格式化 master, 并且格式化所有的slaves节点。

2. WARN org.apache.hadoop.security.UserGroupInformation: No groups available for user dr.who

注意上述代码的最后几行发出的警告信息，意思是说对于dr.who这个用户，没有有效的组归属，在hadoop的权限认证中，如果默认没有用户组声明，就会把当前的这个hadoop用户，归属于dr.who用户，当然这个用户在我们的用户组里面是不存在的，所以log里面就记录了这个warn信息。

解决方式 1. 在core-site.xml里面添加如下配置：

<property>  
    <name>hadoop.http.staticuser.user</name>  
    <value>hadoop</value>  
</property>

解决方式 2. 在当前的用户组里面添加一个dr.who的用户

1 2	# 将dr.who用户添加到hadoop用户组里面 gpasswd -a dr.who hadoop

如此就能通过linux的权限验证，改完之后，重启hadoop集群之后，就不会出现这样的警告了

3. You have loaded library /hnbian/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0

在 etc/profile 中加入如下代码

1
2
3

export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"

export LD_LIBRARY_PATH=$HADOOP_HOME/lib/native/Linux-amd64-64/

4. util.NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable

官方详细文档请参阅：http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-common/NativeLibraries.html

5. hadoop启动时：ssh: Could not resolve hostname ‘,: Name or service not known

# 1. 编辑配置文件
vim /etc/profile

# 2. 添加如下配置
export HADOOP_HOME=/hnbian/hadoop-2.2.0//hadoop环境变量
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_YARN_HOME=$HADOOP_HOME
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
# hadoop 环境变量后面追加到path后面 （$HADOOP_HOOME/sbin:$HADOOP_HOME/lib）
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOOME/sbin:$HADOOP_HOME/lib/

# 3.刷新配置 
source /etc/profile

6. Unable to load native-hadoop library for your platform… using builtin-java classes where applicable

详细报错信息如下：

Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 
 Starting namenodes on [Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /home/hadoop/2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.
 It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'.
 localhost]
 sed: -e expression #1, char 6: unknown option to `s'
 HotSpot(TM): ssh: Could not resolve hostname HotSpot(TM): Name or service not known
 64-Bit: ssh: Could not resolve hostname 64-Bit: Name or service not known
 Java: ssh: Could not resolve hostname Java: Name or service not known
 Server: ssh: Could not resolve hostname Server: Name or service not known
 VM: ssh: Could not resolve hostname VM: Name or service not known

解决问题

# 编辑下面的配置文件
 vim ~/.bash_profile
 
 # 2.  加入如下代码
 export HADOOP_COMMON_LIB_NATIVE_DIR=/hnbian/hadoop-2.2.0/lib/native
 export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"
 
 # 3. 刷新配置
 source ~/.bash_profile
 
# 4. 在hadoop-env.sh和yarn-env.sh中一样添加

7. yarn 起不来，需更改端口号

修改 yarn-site.xml 配置文件

<property>
    <name>yarn.resourcemanager.webapp.address</name>
    <value>node1:9999</value> <!--修改为可用的端口号-->
</property>

8. java.io.IOException: Incompatible clusterIDs in *****

问题原因：
1. 主节点的namenode clusterID与从节点的datanode clusterID不一致
2. 多次格式化了namenode跟datanode之后的结果，格式化之后从节点生成了新的ID，造成不一致
解决办法：
1. 在格式化之前，先把所有的服务停掉（stop-dfs.sh、stop-yarn.sh或者stop-all.sh），确保都停掉了之后，
2. 分别到所有节点的namenode目录、datanode目录、临时目录，把以上目录里面的所有内容都删除掉。
3. 然后再重新启动就可以了。

9. no length prefix available

由于DataNode终止了block的传输，所以client会出现这种错误，导致client无法正常数据读写，

查询NameNode和相应DataNode的错误日志即可发现错误原因。

1	noclassdeffounderror:%20org/apache/hadoop/yarn/util/Apps

添加yarn 的所有jar即可

10. Operation category READ is not supported in state standby

问题描述

在执行 hive 命令时，报错信息如下

1	Exception in thread "main" java.lang.RuntimeException: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.ipc.StandbyException): Operation category READ is not supported in state standby

初步判断是由于HA节点中处于standby状态造成的异常

问题验证

# 执行命令
$./hdfs haadmin -getServiceState namenode1
standby                                

$./hdfs haadmin -getServiceState namenode2
standby
# 确定两个namenode 互为 HA 的 namenode 节点均处于 standby 状态

解决问题

1 2	# 强行将 namenode1 状态转换为 active $/hdfs haadmin -transitionToActive --forcemanual namenode1

11. HADOOP:WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable

通常编译好的 hadoop 库是在 lib 中，如果你不想编译，可以用 lib/native 里面的预编译库，然后把 native 的库移动到 lib 文件夹中。

1	cp hadoop-2.6.0/lib/native/* hadoop-2.6.0/lib/

加入系统变量

export HADOOP_COMMON_LIB_NATIVE_DIR=/home/administrator/work/hadoop-2.6.0/lib/native

export HADOOP_OPTS="-Djava.library.path=/home/administrator/work/hadoop-2.6.0/lib"

export HADOOP_ROOT_LOGGER=DEBUG,console

12. hadoop Safe mode is ON

报错信息

1
2
3

org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /home/hadoop/tmp/mapred/system. Name node is in safe mode.
...
Safe mode is ON. The ratio of reported blocks 0.2000 has not reached the     threshold 0.9990. Safe mode will be turned off automatically.

解决方式

# 强制离开安全模式
bin/hadoop dfsadmin -safemode leave

# dfsadmin -safemode value 参数value的说明如下：
# enter - 进入安全模式
# leave - 强制NameNode离开安全模式
# get -  返回安全模式是否开启的信息
# wait - 等待安全模式结束。