在测试 HDFS2.0 的 NameNode HA 的时候,并发put 700M的文件,然后 Kill 主 NN ;发现备 NN 切换后进程退出。尝试了多种方法终于恢复,原因还在分析中。...
分类:
其他好文 时间:
2014-09-10 10:54:10
阅读次数:
490
为什么会引入RPC:RPC采用客户机/服务器模式。请求程序就是一个客户机,而服务提供程序就是一个服务器。当我们讨论HDFS的,通信可能发生在:Client-NameNode之间,其中NameNode是服务器Client-DataNode之间,其中DataNode是服务器DataNode-NameNo...
分类:
其他好文 时间:
2014-09-09 19:43:49
阅读次数:
200
首先,不推荐在ASP.NET后台中,启动Long-Running的任务。因为无论是用的Task还是ThreadPool.QueueUserWorkItem,ASP.NET不会知道它们在后台运行,这会产生一些问题,比如:当修改web.config的时候,会触发Appdomain被回收(尽管此时IISweb服务器进程w3wp.exe仍然活着),IIS本..
分类:
Web程序 时间:
2014-09-09 13:42:39
阅读次数:
231
sqoop 导入 hive
hive.HiveImport: Exception in thread "main" java.lang.NoSuchMethodError: org.apache.thrift.EncodingUtils.setBit(BIZ)B
ERROR tool.ImportTool: Encountered IOException running import ...
分类:
编程语言 时间:
2014-09-08 03:15:26
阅读次数:
432
前言接触Hadoop有两年的时间了,期间遇到很多的问题,既有经典的NameNode和JobTracker内存溢出故障,也有HDFS存储小文件问题,既有任务调度问题,也有MapReduce性能问题.遇到的这些问题有些是Hadoop自身的缺陷(短板),有些则是使用的不当。在解决问题的过程中,有时需要翻源...
分类:
其他好文 时间:
2014-09-07 14:46:55
阅读次数:
449
回到家,进入win7百度了一下,果然是ati显卡驱动问题!按照网上方法,重启电脑进入ubuntu的rescure模式,进入有个选项,显示“The system is running in low-graphics mode.”,果然是ati显卡引起的。
分类:
其他好文 时间:
2014-09-06 10:58:33
阅读次数:
204
COPY FROM:http://www.2cto.com/os/201204/127771.html1 Linux进程的睡眠和唤醒在Linux中,仅等待CPU时间的进程称为就绪进程,它们被放置在一个运行队列中,一个就绪进程的状 态标志位为TASK_RUNNING。一旦一个运行中的进程时间片用完, ...
分类:
系统相关 时间:
2014-09-05 15:41:41
阅读次数:
397
Hadoop1的HDFS和Mapreduce在高可用和拓展性方面存在问题。 HDFS存在的问题: Namenode单点故障,难以应用于在线场景。 Namenode压力过大,且内存受限,影响系统扩展性。 Mapreduce存在问题: Jobtracker单点故障 ...
分类:
其他好文 时间:
2014-09-04 10:40:49
阅读次数:
254
首先,这是python脚本import os;for i in range(0,20): print ("Case:"+str(i)); print ("randoming"); os.system("randomdata.exe"); print("running righ...
分类:
编程语言 时间:
2014-09-03 22:35:57
阅读次数:
475
一:问题描述GGSCI (source_pc) 64> info allProgram Status Group Lag at Chkpt Time Since ChkptMANAGER RUNNING EXTRACT RUNNING EORA_T1 00:00:00 00:00:06 EXTRAC...
分类:
其他好文 时间:
2014-09-03 16:29:16
阅读次数:
263